ChatGPT：令人恐惧的他者，还是观照人类的镜子？

ChatGPT：令人恐惧的他者，还是观照人类的镜子？｜读刊

新京报编辑朱天元

2023-02-27 12:46

人工智能是否足以征服我们？这个问题就像“虚拟现实技术是否会取代真实世界”一样，是一个并非常提常新，但一定常提常“火”的话题。

过去的一段时间，最能抢占新闻头条的并不是某个网络名人或轰动性事件，而是微软旗下人工智能研究室Open AI 发布的一款聊天机器人ChatGPT。由于使用了GPT-3.5的架构，ChatGPT拥有极为强大的语言理解和文本生成能力，能通过海量的人类语言资料库和对话的上下文来进行自我训练和深度学习。ChatGPT不仅在和人类的沟通中表现出超越以往聊天机器人的智能水平，还能撰写论文、新闻稿、视频脚本、代码等各类文本。一时间，“与ChatGPT的对话”成为传播最为广泛的互联网谜因。在社交媒体的玩梗热潮中，那个自AlphaGo击败李世石之后久违的话题又隐隐浮现：人工智能进化得越来越快，未来会取代人吗？

历史总是不断重演，20世纪40年代中期人类第一台计算机问世时，就有媒体报道称一个“被控制的电子大脑”会逐步让人们沦为“堕落的农奴”，人类将“自取灭亡”。现代计算机之父艾伦·图灵在自己接受的第一个BBC（英国广播电台）采访中，就已经提出“如果一台机器可以思考，它将比我们更聪明”的命题。同样在接受BBC（英国广播电台）采访时，斯蒂芬·霍金给出了那个著名的“人类将被人工智能取代”的判断。

人工智能是否足以征服我们？这个问题就像“虚拟现实技术是否会取代真实世界”一样，是一个并非常提常新，但一定常提常“火”的话题。如果大家没有那么健忘，就会发现上一个频繁占据媒体头条的“元宇宙”，引发了同样多的讨论。但仅仅过了一年，热搜榜上的科技宠儿就此易主。甚至有人调侃，受ChatGPT威胁最大的不是人类，而是元宇宙。

我们应该如何看待“ChatGPT热”？我们是否能够不简单而笼统地将它看作一个值得恐惧的他者？

“AI再智能，也不可能取代人”：一种过时的乐观主义？

尽管这已经不是一个全新的担忧，但近些时日的新闻似乎在说明，ChatGPT的表现格外出色，以至于这个问题从一个科幻式的警示逐渐进入人们谈论近未来时真切的议事日程。ChatGPT具备极强的文本处理能力，这使得它首先冲击的就是人类的写作。据各国媒体报道，已经有不少大学生使用ChatGPT写出人机难辨的论文并以此来通过答辩或投稿到期刊，ICML（国际机器学习大会）、巴黎政治大学、《自然》期刊等都紧急发布声明，禁止使用机器生成语言投稿。《自然》表示“ChatGPT完全不属于原创作者”，美国著名的公共知识分子乔姆斯基更是在近日接受采访时直言ChatGPT只是一个利用和拼贴已有信息的“高级剽窃系统”。

除了学术写作领域，图书领域也感受到了前所未有的来自机器的威胁。截至2月中旬，亚马逊平台上已经有200多本电子书将ChatGPT列为合著者，平台甚至专门安排了一个条目叫“完全使用ChatGPT写作的书籍”。一名旧金山的失意作家表示，ChatGPT“头一次让他的作家梦成为了可能”。而更富戏剧性的当属几份著名的科幻文学杂志的遭遇，《奇幻与科幻杂志》(The Magazine of Fantasy & Science Fiction)、《克拉克世界》（Clarkesworld）等都在本月收到了多达数百份由ChatGPT撰写的小说，其中很多还写的是机器人主题——这是真正的“我写我自己”。

图片来源：《自然》杂志网站。

另一个频繁被提及的焦虑来自互联网科技界。ChatGPT高效的检索能力引起了科技公司的警觉，包括UXdesign在内的多家媒体撰文都称它可能“终结谷歌等数字搜索引擎”，而人类的信息检索，也将从模糊检索走向精确检索：我们不再需要在键入关键词后从海量的网页中花费额外的精力二次遴选信息，而是可以通过和ChatGPT的对话聚焦我们真正希望获取的东西。

当然，每当“AI是否可能取代人”这类问题出现在公共讨论中，人文学者永远是不甘示弱的。很多人发出了和乔姆斯基一样的声音，比如当代著名的科幻小说家格雷格·伊根就在社交媒体发声，称ChatGPT生成的文本只不过是“大规模、有组织的胡言乱语”，根本无法在创造力上和人类写作者相媲美。而即便是ChatGPT“自己”，也不认为它可以彻底取代既有的搜索引擎，原因非常现实：当下的科技公司还没有找到如何在ChatGPT搜索中很好地实现广告盈利，毕竟，虽然传统搜索引擎搜出来的结果是模糊的，但用户浏览大量相关网页时产生的注意力收益还是很可观的。

“ChatGPT永远无法真正取代人”，当下我们能看到的这类偏乐观主义的论调其实也都比较像老生常谈，它们很难抚平人们的焦虑。原因很简单，这些人文学者对AI能力的“不屑”，更多基于一种假设：ChatGPT尚未，且未来也不会发展出和人一样、乃至超越人的智能水平。在技术层面，ChatGPT是否相较于过往的聊天机器人质的飞跃，这一点众说纷纭，显然也超出了文化讨论的范围。图灵奖得主、Meta首席科学家杨立昆说ChatGPT就底层技术来说并不算本质的创新，“它只是一个各方面组合得很好的产品”。360的总裁周鸿祎在采访里则将ChatGPT定位为通用人工智能的雏形，并预测它将“很快产生自我意识”。总而言之，说ChatGPT“目前不够智能”，从来不足以抚平大家不断被激起的忧虑。

一张由AI生成的AI绘画图片。

西西弗斯循环：“技术反乌托邦”的话语为什么有吸引力？

对ChatGPT的焦虑甚至有时候掩盖了它为人类带来的诸多可能性。在人们杞人忧天一般地想象各种“银翼杀手”一般的未来世界时，人们提起ChatGPT与人类相互协作的可能，就显得有些保守和谨慎。比如，学者们不必担心ChatGPT会“代替”人类作者，我们可以期待它成为撰写论文初级阶段的帮手，辅助整理资料和数据。这个过程对很多存在写作障碍的人来说并非锦上添花，而是至关重要的，《卫报》报道了一位患有注意力缺陷障碍的心理治疗师，对她来说，写作的难点在于“开始”，她往往难以集中注意力，让一篇文章“从无到有”，ChatGPT能够起草开头，这足以帮助她更快地进入状态。

还有文章提出了一些ChatGPT可能带来的更深刻的变化：它有望帮助人类重寻“对话文化”的价值。作者认为，通过对话来思考和解决困难的问题有着悠久的传统，最早甚至可以追溯到柏拉图和色诺芬。在那个时代，对话也是哲学写作最常采用的形式。相比于许多“更现代”的解决问题的方案，人和人的深度对话是一种看起来比较“简陋”的形式，但它有着很多我们意识不到的优点，比如对即时反应的要求，会让对话参与者培养更多的对他人语义的敏感、对他人内容的批判性思考能力。

《纽约时报》的一篇专栏文章也提到了柏拉图和ChatGPT的关系，作者把人们当下对ChatGPT展露出的焦虑类比为当年柏拉图对文字即将替代口语的焦虑，柏拉图焦虑于文字会使人在记忆上懒惰，即便人可以写出一篇文章，但这不代表他真的已经“知道”他写的是什么。这和现在担心人们把写作外包给ChatGPT的确有几分相似。

两位古希腊哲学家的对话，图片由AI生成。

不过更为关键的是，这种对技术的恐慌人们从来不陌生，它出现在每个新技术崛起的关头。

就在一年前，这种焦虑的版本是“元宇宙是否会取代真实世界”。如今，当初炙手可热的“元宇宙”已经彻底被抢了风头，只有在类似“ChatGPT如何增强了元宇宙的实现可能”这种文章中找寻存在感。剑桥大学的学者艾米·奥本（Amy Orben）在一篇论文中将这种现象形象地称作技术恐慌的“西西弗斯循环”。从电视、智能手机会“毁掉下一代”的娱乐方式，到“人工智能/元宇宙会颠覆人类社会”的高科技形式，技术焦虑不仅如潮起潮落一般反复出现，而且人们提出的问题甚至都大同小异，就像西西弗斯推石头上山一样。

奥本认为一些结构性的因素让我们成为了技术焦虑循环中的这个西西弗斯。社会机构偏爱于制造一种“技术乌托邦-反乌托邦”的话语，对某个尚未成形的新技术的走势提出一种整体性的判断：它会带来一个人类失去工作并且接受机器全面控制的社会，抑或是一个人类生产力高度解放的社会——媒体在这种话语的诞生过程中扮演着尤其重要的角色。奥本指出，这么做的动因与“科技向政治外包”的趋势有关。我们稍加留意就能发现，在有关“人工智能取代人”的讨论中，“弱者”是一个必须被标识的群体，我们对人工智能的焦虑也很容易被具象化为一种“弱者被淘汰的焦虑”。而在当代，“关注弱者”不论是在民主政治的选举，还是在大公司打造自身的品牌形象中一直都是一个加分项。在这个意义上，每一次的科技革命必然制造出的“失势”群体就成为了政治和市场的一种另类话语资源，对人类未来的一种整体的“技术反乌托邦”判断也有了生长的土壤。

除此之外，媒体对“新”的追逐也使得技术焦虑中重复的议题被忽视，每一次的技术焦虑似乎都在被描绘为全新的。奥本认为，为了打破这种循环，我们首先需要的是与宏大的乌托邦式判断保持距离，学习一种更为具体的思考方式。例如，ChatGPT会制造“多大规模”的失业？它究竟影响了写作的哪些环节？

ChatGPT回应“计算机是否具有创造性”的问题。

当写作完全能被模仿，写作就毫无价值？

当然，质疑技术反乌托邦的话语也不能走向另一个极端以至于失去现实感。在既有的技术讨论尚未明朗的当下，我们或许不必过于担忧ChatGPT给人类社会可能带来的颠覆，但也不能就此对在近未来可能遭遇的改变视而不见。在这方面，前文列举的人文知识分子们的批评依旧还是有价值的——不过，这种批评的动力也有可能来自于他们自身即将遭遇的危机。

在《法国知识分子的终结》中，法国著名的历史学者施罗默·桑德作出了一个大胆的预测，随着社会系统的复杂化，知识专业分工的细化，对社会整体境况下判断的公共知识分子进入衰落期，未来的知识分子其实是属于“掌握信息基础设施的人”，比如维基百科的阿桑奇，甚至是“棱镜门”的主角斯诺登。ChatGPT是否会让这个判断变得更加激进？它可能取代知识分子的地位吗？

《法国知识分子的终结》，施罗默·桑德著，樊艳梅译，上海书店出版社2023年1月。

哲学学者约瑟夫·希伯（Joseph Shieber）的一篇文章给出了一个有意思的回答：不会。原因很简单，因为我们之所以欣赏伟大的作品，并不完全是因为这些作品带给我们的知识和审美享受，而是我们本能地更希望看到是“人类”创作出了它们。同时，人们在欣赏大师的作品时也非常地在意它所处的“脉络”，包括它所承载的历史语境，甚至是我们阅读它的环境。就像乔伊斯的《尤利西斯》因其嵌入的爱尔兰古典传统而独特，后来居上的小说家如品钦等的作品又在这个传统中回应了《尤利西斯》。就像人们争相前往卢浮宫瞻仰蒙娜丽莎的真迹，尽管发达的数字影像时代完全可以让大家足不出户做到这一切。

换而言之，我们并不能完全从“内容”的价值出发去回答“ChatGPT是否能取代人”这个问题，我们在写作、计算中的体验同样重要。前不久，科幻作家特德·姜在《纽约客》上发表的文章也作出了类似的回应方式。特德·姜说，尽管ChatGPT可以完美地模仿人类写作，但“想要表达自己想法的挣扎永远不会消失，每当你开始起草一篇文章时，这种挣扎就会出现。而只有在亲自写作的过程中，人才能发现自己最初的想法”。表面上，人类写作的初稿、计算时打下的草稿，都和目前ChatGPT能做到的没有区别，但“你的初稿是一个原始想法的拙劣表达，它还伴随着一种无定形的不满”，人会在这个过程里真切意识到自己想说的和写出的东西之间的差距。即便ChatGPT的写作能力持续进化，这些珍贵的写作体验依旧是难以代替的。

经常在公共热点事件上发言的哲学家齐泽克似乎持有类似的看法。近期他给出了一个很符合他一贯“人设”的发言：“ChatGPT会终结学习？不！我的学生给我带来了他们由AI撰写的论文，我将它插入我的评分AI。然后？然后我们就自由了，‘学习’发生了，我们的超我感到愉快。完成这个过程后，我们可以自由地学习我们真正想要的任何东西”。这是一段不无辛辣的讽刺，相较于学院中早已被量化考评制度僵化了的哲学，师生间用ChatGPT相互应付，然后去思考“真正的哲学”，这种哲学不为了什么别的目的而存在，似乎反倒是解放了学生。

齐泽克和特德姜或许忽略的是，当今社会谈论写作和思考的“内在价值”无疑是奢侈的，或者说，我们已经很难脱离市场的交换系统去讨论价值。当人们在焦虑于ChatGPT可能替代写作和思考时，很大一部分焦虑是担忧利用写作和思考谋生的人会逐渐失去市场的价值——毕竟正如一篇文章挖苦齐泽克，称他能毫无负担地大谈“真正的哲学”，也是因为他恰恰是这个消费社会中最引人注目的哲学明星。在这个意义上，ChatGPT也成为了人类的一面镜子，异化写作和创造的体制、单一化的价值衡量标准、越来越像机器的个人，都是它映射出的我们所面临的现实困境。通过ChatGPT观照并解决人类面临的问题，或许比为它的问题杞人忧天更有价值。

参考链接：

1. Is ChatGPT the beginning of the end for major search engines?

https://uxdesign.cc/is-chatgpt-the-beginning-of-the-end-for-search-engines-359da42388db

2. ‘ChatGPT needs a huge amount of editing’: users’ views mixed on AI chatbot

https://www.theguardian.com/technology/2023/feb/08/chatgpt-users-views-ai-chatbot-essays-emails

3. ChatGPT and Artificial Intelligence: Utopia or Dystopia?

https://cxoherald.com/chatgpt-and-artificial-intelligence-utopia-or-dystopia/

4. ChatGPT: Chatbots can help us rediscover the rich history of dialogue

https://theconversation.com/chatgpt-chatbots-can-help-us-rediscover-the-rich-history-of-dialogue-197329

5. Alice, Racter and Jabberwacky: A timeline of AI chatbots before ChatGPT and Bard

https://indianexpress.com/article/technology/artificial-intelligence/timeline-of-ai-chatbots-before-chatgpt-and-bard-8436004/

6. Kenyan data labellers were paid R34 an hour to label horrific content for ChatGPT creator OpenAI