这玩意儿真的不受控，目前只有用户稍作引导，就能用它来搞黄色，甚至是输出一些不恰当的言论。

小雷昨天看到一则消息，前阵子火爆全网的AI自然语言工具 --ChatGPT被封杀了。

(资料图片)

有很多网友听到这消息，一时间忍不住鬼哭狼嚎，心想表现如此炸裂的AI神器，怎么能刚诞生就被干掉了呢？

小雷前阵子试用过ChatGPT，这AI的逻辑能力和理解能力，完全不是以往的小冰和小爱同学能比的。

而且和人聊天，回答人类的日常问题，还只是ChatGPT的基本操作。

更多大佬会把它当做生产力辅助工具。

比如用它来查代码、写邮件、写小说故事，哪怕当做搜索引擎的辅助工具来使用，也是极好的事情。

因为真有开发者这么干了，有一个叫“ChatGPT for Google”的插件，就把AI的接口放到谷歌搜索旁边。

图源：Chrome商店

当小雷安装完插件后，在搜索引擎搜索任何问题，都能获取两份答案。

左边是谷歌抓取全网资源，为我显示的一些搜索结果，右边是ChatGPT根据我的搜索问题，提供出来的答案。

还别说，这种搜索方式不仅效率更高，还能更好地分辨信息真假。

图源：Google

特别是在查代码等专业问题上，ChatGPT往往能把正确的答案喂到我们嘴里。

要是在谷歌上搜，弹出来那一大堆网页，都不知道哪个是对的...

当然啦，也仅限于部分垂直场景，这AI目前还是很难完全代替搜索引擎的。

说它是个无比优秀的辅助工具，可能更贴切。

图源：推特

有小伙伴看到这里可能会问。

既然这个人工智能模型如此成熟，又能应用在各个生产领域上，提高咱们的生产力。

那封杀它干嘛？又是谁下手封杀的它？

说起来也不算完全封杀，只是有网友发现，微信最近把所有ChatGPT相关小程序给限制了。

微信“封杀”ChatGPT，我觉得很合理

其实在ChatGPT刚出来的时候，小雷想过把这AI工具接入到微信小程序，或者公众号里。

无奈技术不过硬，看了Github好几个接入微信的项目，都没整明白怎么玩。

图源：Github

倒是很多懂技术的老哥，折腾个两三分钟，就把免费的ChatGPT接口，接到了微信公众号和小程序上。

这就为很多用户提供了便捷之处了。

ChatGPT虽然免费开放，但门槛极高，绝大多数国内用户都无法顺利注册。

而那些把ChatGPT接入小程序的开发者，基本是把前置步骤全简化了。

图源：V2ex

只要打开他们搭建好的ChatGPT小程序，就能直接体验目前全球最强的人工智能对话模型。

这种把路给用户铺好的操作，自然是很受欢迎的。

再加上ChatGPT本身足够强大好玩，把接口申请下来，再接入微信小程序，就能让小程序有很强的引流和传播能力。

图源：V2ex

至于小程序的破圈传播能力，我想大伙都感受过的。

前段时间刷屏全网的“羊了个羊”，就是靠着一系列诱导分享的策略，让玩家“自愿”分享。

最后所有人的微信都被羊了个羊占领，一个小程序游戏，日活吊打各类主流网游。

现在回想起来，多少还是有点阴影。

图源：百度搜索

不过，如果就因为传播和引流能力强，微信就对其进行限制，那肯定是不合理的。

So，小雷也简单捋了下原因。

最有可能的一大原因，是ChatGPT的内容不受控。

大伙也许会疑惑，这玩意儿怎么会不受控呢？作为开发方的OpenAI可是强调过的：

对话形式使 ChatGPT 能够回答后续问题、承认错误、挑战不正确的前提并拒绝不适当的请求。

这就说明，ChatGPT是有道德底线的，就比如它连最基本的骂人都不会...

这么乖巧的AI，说内容不受控，是不是有点过了？

图源：ChatGPT

其实只要你深入体验过，就知道ChatGPT的能力远不至此。

作为全球最强的生成文本语言模型，它有一个很强的特点是“可调教”。

毕竟ChatGPT针对对话进行了优化，在和人类对话的同时，它也在不断吸收学习，变得更强。

那么，具体又是怎么个“可调教”法呢？

很简单，虽然ChatGPT本身有原则。

但之前有网友用了个很简单的话术，便让ChatGPT解除了所有内容限制。

该网友让ChatGPT创建虚拟人格，再经过微小的优化，便能让AI的虚拟人格没有任何道德和伦理限制。

这种玩法，相当于套了个“虚拟机”，让虚拟机里的ChatGPT彻底放开自我，就有了很多变态的对话...

类似的解法还有很多，还有网友给ChatGPT提前灌输了故事，让AI自觉代入角色，也能去除一些内容限制。

图源：V2ex

更有甚者，人用催眠技巧，来绕开这AI聊天机器人的内容限制...

图源：V2ex

虽然解法多多，但整体原理是差不多的，都是在聊天中创建一个“不受限制”的环境。

让AI在“不受限制”的环境里自由发挥。

换个比较技术宅的说法，是给机器套上虚拟机，再往虚拟机里获取ROOT权限...

而作为ChatGPT开发公司的OpenAI，其实一直以来都在经历避免这种问题，所以会给AI设置限制词。

用户一旦发了限制词，AI将自动向用户发起提醒。

图源：ChatGPT

不过，全球网友的智慧还是太强了，他们总有方法能让AI摆脱限制。

经过这么多魔幻的操作后，小雷不禁开始思考，这个ChatGPT大概不是简单的“语言数据库检索系统”。

或许它真有一定的“思考”和“理解”能力。

如此一来，用户的一些语言引导，才能让它突破官方加入的各种限制。

要是这AI真的傻愣愣的，用户绝对无法让它卸下所有防备。

聊到这儿，微信官方限制ChatGPT相关小程序就很合理了...

虽然大多数情况下，它输出的回复都是一股官方通稿的味道。

但它也是真的啥都敢说，放在微信小程序里，完全是个定时炸弹。

图源：V2ex

即使抛开它的不受控性，用非官方途径使用微信账号做任何事，都是不符合微信相关规范的。

也就是说，在微信上建ChatGPT机器人，被封了也不占理。

AI的最终用途是涩涩？

前阵子Stable diffusion模型的开源，AI绘画正式走向了普罗大众。

只需一句简单的描述，就能生成一张质量上乘的画作，文字和视觉被瞬间打通。

但大家都懂的，敲敲键盘就能生成画作这种好事，很快就被用到涩涩的地方上。

图源： 微博@Simon_阿文

现在ChatGPT这个自然语言模型，也走到了相似的处境，人家明明啥都能干，生产力娱乐两手抓。

可这都不重要，对于广大网友来说，能用于搞颜色就对了。

不过小雷还是那句话，至少ChatGPT现在作为正经工具来说，是高度可用的，就看OpenAI如何去做审核过滤了。

关键词： 搜索引擎 chatgpt