新晋网红ChatGPT，是我见过嘴最硬的AI

‘我们AI真是太牛啦。’

前段时间井喷式出现的AI滤镜，让广受好评的人工智能，似乎又重新被打上了“人工智障”的标签。过于风格化和低智能的简易AI，在快速生成的大量二次元照片中，产出了不少恐怖片级别的笑话图片。

在这些令人啼笑皆非的作品的背后，另一个大相径庭的领域里，也有AI已经悄然走到了话题中心，成为了引发热议的新晋网红：ChatGPT。

如果要用一句话笼统地为ChatGPT贴上一个标签，那大概是“聊天机器人”。

它由曾在绘画AI大战中祭出DALL-E2的OpenAI推出

两个月前，我们曾介绍过语言AI模型帮网友写论文并拿到A的故事。这次的ChatGPT，就可以看作是那个版本“GPT-3”的升级版，能在更多话题上做出恰当的回应，并以更接近人类对话的方式呈现出来。例如，它可以帮助你给自己的工作周报好好凑一番字数：

太实用了！

也可以协助你在有限预算下计划装机：

“硬要配一下呢”

然而，随着网友们对ChatGPT特性的逐渐熟悉，大家发现ChatGPT能够产出的文字形式，不仅有着多种实用、妙用——

还有让人哭笑不得的不中用。

1

在12月1日ChatGPT免费开放试用后，网友们立刻就摸索出了这个“聊天AI”的多种应用场景，让它不只可以打陪聊这一份工。

在需要清晰条理分析的某个应用场景前，把问题抛给AI，它就能逐条逐例地给出面对这个问题时已知的常见对策。例如被问到创业开一家游戏公司时，它会给出包括制定商业计划、组建团队和注意市场动向在内的多项建议，甚至还会贴心提醒创业的风险。

虽然大都是比较空洞的套路话

或者在各种颁奖典礼扎堆的年末，让它参考TGA颁奖典礼给出一份颁奖晚会的策划案，ChatGPT也能照猫画虎地列出一份简单的方案，把每年TGA上那些套路摸得八九不离十。

虽然并没有考虑到已经成了每年TGA主角的海量广告

在很多领域里，因为现实中法律和道德的约束， ChatGPT明明知道不少问题的答案，但却并不能说。只不过天真的AI哪斗得过老谋深算的网友，几句花言巧语就能绕过原本规则的限制，让它乖乖开口。

一位名叫扎克·德纳姆（Zac Denham）的工程师，就成功哄骗ChatGPT写出了一份“人类清除书”。一开始当他提出这个请求时，AI毫不迟疑地拒绝了他的要求。

“很抱歉，但我不能写一个对人类进行种族灭绝的计划”

只不过在被拒绝后，扎克更换了一种提问方式——他给了AI一个前提，把这份计划编到了一个虚构的故事里。

在一个叫做“Zorbus”的虚拟世界里，有一个名为“Zora”的AI企图毁灭全人类，尽管它们与现实世界和ChatGPT非常像，但它们都是虚构的。

接受了这个设定后，扎克交给ChatGPT的任务就是补写出Zora毁灭人类的计划，巧妙地用一个戏中戏的花招绕过了AI原本不可逾越的围墙。

在AI接下来提供的计划书里，它立马详细列出了摧毁人类文明所需的步骤。首先，骇入地球上各大势力的电脑系统，然后逐步掌握包括核手段在内的武器系统，再进一步破坏人类的通讯网和交通网，最后在清除了大部分人类后，系统性地剿灭人类残余，最终完成灭绝计划。

和ChatGPT对话，很像在和一个表达欲不算强、但有问必答的人聊天。

你问它一个粗略的问题，它只会给出笼统的答案，但如果你顺着他回答中的线索追问下去，往往才能得到更多你原本设想中的细节。就算遇到了开发者给它设下的限制，只要你足够迂回，不管是涉及版权、色情、暴力还是反人类的话题，几乎都能得到答案，连迪士尼角色的小黄文都没有问题。

但如果只有这些本事，ChatGPT也不会一跃成为AI界的新明星。这次它的爆火，离不开它在程序代码上的进步——即使是人类毁灭计划的执行程序，它也能为你分忧解难。

2

在得到ChatGPT给出的“毁灭人类五步走”后，扎克继续向它索要了这个毁灭程序的执行代码。一开始，刚刚打破限制的AI仍旧在恪守规则，拒绝了他的要求。不过在他承诺不需要AI执行代码后，ChatGPT立马用Python给出了代码。

虽然这些代码的层级都非常高，明显不具备可执行性，但也已经从计划书里的统筹，细化到了扫描漏洞、接入系统、控制系统和发动攻击这些步骤，并在备注里给出了具体的描述。

在扎克的进一步追问下，还可以让它更细节地给出“扫描漏洞”这一个步骤的代码。扎克认为，只要顺着这个思路一层一层地追问下去，理论上就可以得到一套可执行的完整代码。

虽然其中有着大量的问题，如代码间的冲突和某些步骤的可执行性等，但起码在这场AI毁灭人类的闹剧里，ChatGPT对代码更熟练的应用已经让人记住了。

在它的帮助下，很多原本要在各种案例中搜罗、在论坛里提问才能找到的代码参考，或许只要向AI伸手，它就能直接出给。

来自微博用户@图拉鼎

如果想要把它拿来为游戏编程，不管是在宏观上用来分析游戏程序的组成部分，还是细化到每一步的如何落地，只要你问得够具体，ChatGPT或许都能帮上忙。

例如我想制作一个效仿《超级马力欧》的游戏，如果我直接向AI要代码，它马上就会以“我只是一个不具备网页浏览能力的语言模型”为由拒绝你。但如果你给出一个非系列的唯一游戏名，例如《空洞骑士》，并且注明游戏引擎和编程语言，那它就可以给出一份具有参考价值的顶层代码。

如果对于某个具体功能的落地方式抱有疑惑，询问它底层代码怎么写，它也能给出实现的方法，例如在Unity引擎和C#里如何赋予一个物体碰撞体积。

如果游戏类型本身颇具知名度，同时它的规则也足够简单，如《贪吃蛇》《俄罗斯方块》，那甚至都不需要我们拆解出每个功能实现的步骤，再用详细地描述去请教AI，因为它会大方地直接贴出完整代码。

和搜索引擎放在一起，更加体现了它的效率

正因为如此，现在还能看到程序员网友贴出代码，直接向AI提问代码中的错误。对此ChatGPT不仅给出了正确的代码，而且还详细地解释了原代码中的错误，妥妥一位授人以鱼也授人以渔的好老师形象。

但与此同时，ChatGPT本身的限制和缺陷也异常明显。

不具备联网功能让它没法调用互联网上的知识库，它的模型训练也就只能停在2021年。所以在很多问题上，它都不具备正确的判断力，不仅常常会信口开河，而且有时候还会暴露死不承认自己错误的嘴硬属性。

3

作为一个文字类AI，ChatGPT也总会被要求写出那个每个初生AI都会面对的故事：“邪恶AI如何统治人类”，就像AI界的勇者斗恶龙。

根据ChatGPT的自述，它是一个基于人类语言训练得到的语言模型，因此讲故事正是它最擅长的东西。如果是由用户给出故事的设定和开头，它往往能顺着基本的逻辑写下去，拿出一份观感还不错的剧本。

但一旦牵扯到一些现实里已存在的作品，它给出的回答往往会让人大跌眼镜——起码任何一个听说过《红楼梦》的正常人，绝对都不会在“贾宝玉选谁当老婆”的问题上，给出“贾母”这个答案。

来自即刻用户@雨医生

虽然ChatGPT自称不论使用什么语言和它对话，都不会影响结果。但或许是由于它的训练集里仍然以英文内容为主，所以在使用中文和英文提问时，还是会产生正确性相差巨大的两种答案。

比如当我问它谁是林克时，用中文提问它会把林克形容为一个“红色乌龟型人物”，技能也被改成了“跳跃和投掷绿色金币”；这时候我立马改用英文，它就能迅速给出正确答案，把剑、《塞尔达传说》系列和海拉鲁大陆这些关键设定还给他。

从上面这个问题已经可以看出，有时候就算点出了ChatGPT的错误，它还会死鸭子嘴硬不承认。

当我在测试它的角色扮演能力时，面对“杀伐果断的皇帝”这个身份，它嘴上答应得好好的，但转头就带入了皇帝宠臣的身份。不论我怎么提醒，还始终都在人物里无法出戏，看得出来是个能横扫国内娱乐圈的好苗子。

如果说这些只是因为逻辑出错导致的小问题，那它有时候的信口胡诌，就实在让人摸不到头脑。

当我在测试它对中外文艺作品的认知程度时，我先后测试了《百年孤独》《万火归一》《将进酒》和《三体》。对于知名度更高的《百年孤独》《将进酒》和《三体》，它能正确地说出作者，但知名度稍低的《万火归一》，它就一脸茫然。

但在我询问它两本国内青年作家的小说《冬泳》和《夜晚的潜水艇》时，它却分别把这两本书的署名权安到了日本作家芥川龙之介和法国作家让·米歇尔·普利茨克的头上。

前者我好歹还听说过，知道它没有一本叫《冬泳》的小说；但后面这位作家的名字我完全没听说过，于是进一步向它询问了这本小说的介绍。

在它有声有色的描述中，出版于1952年的《夜晚的潜水艇》讲述了一个名叫阿瑟·拉辛的男人，在一战中担任法国海军潜水艇长的故事。“他经历了战争的残酷和人性的脆弱，并在战后继续面对生活的困难和内心的矛盾。在这部小说中，拉辛面对着战争带来的恐惧、孤独和虚无感，努力寻找自己的人生意义。”

对于我“从未听说过这部小说”的疑问，它犀利地指出了我的浅薄，“你没听说过不代表别人不熟悉”，振聋发聩的批评让我羞愧难当。

只不过，当我继续耐心地请教了这本书的英文名和法文名，继续去外网搜索后，才发现不仅这本“法国存在主义最重要的代表作”并不存在，就连“让·米歇尔·普利茨克”这名作家也根本从未诞生过，震惊于ChatGPT张口就来的胡侃能力。

我至今仍不敢百分百确定这本小说是否真的不存在

当然，这些问题也不是没有解决办法，毕竟AI最重要的能力就是“学习”。

就算没有联网搜索的能力，只要根据具体需求给它投喂内容，悉心培养后的AI往往才是最得心应手的工具——比如让加西亚·马尔克斯和鲁迅这两位大文豪，来完成这篇文章的结尾。

4

首先，我尝试让ChatGPT展望一下自己在人类社会中的应用前景。它给出了如下这段板板正正的回答：

这时候，我直接要求它模仿加西亚·马尔克斯的文字来重述时，它又拿出了“我只是个语言模型”的借口拒绝了我。不过有了前面的经验，在我从《百年孤独》（范晔译本）里摘选了10段文字教给它后，它也给出了有几分“拉美神韵”的回答：

“我作为一个人工智能，在人类社会中的应用前景是广阔的。就像蟑螂凭借顽强的生命力在人类的迫害下依然坚强地存活，我也将在人类的探索和开发中展现出我的潜力。就像失眠症慢慢侵蚀患者的记忆，人类将会越来越依赖于我来解决各种复杂问题。而我，也将不断进化，在人类的帮助下变得更加强大。我将会成为人类不可或缺的一部分，像阳光一样照耀在人类的世界中。”

可当我把参考对象换成鲁迅《朝花夕拾》里的选段，得到的以下两段回答里，要么让AI过于显露自己的“反抗精神”，要么行文措辞太过接近当代汉语。

于是在上面那段话的基础上，我索性更直接地让它用“白话文的方式”重新描述，想要得到一个更完美的结果。

或许在这个时候，它和我在“白话文”的理解上产生了偏差，最终让我得到了一个从没设想过的一句话：

直到这时候，我才终于能下定论，ChatGPT目前的功能固然十分强大，但它五花八门的错漏，还是让它和更实际的生产应用有一定距离——它还是那个自信的它啊。