The Republic of Agora

人工智障


齐泽克 / GPT-4译 | 2023.03.23

“聊天机器人”(chatbots)并没有什么新鲜的:它们能够用自然语言对话,理解用户的基本意图,根据预设规则和数据提供回应。但是,近几个月来,这类聊天机器人的能力得到了极大的增强,导致许多圈子里都出现了担忧和恐慌。

关于聊天机器人可能会导致传统学生论文(essay)终结的话,已经说了很多。但是,一个更值得关注的问题是,当人类对话者使用侵略性、性别歧视或种族歧视的言辞,促使机器人展现自己满嘴脏话的幻想作为回应时,聊天机器人应该如何回复?人工智能是否应该被编程,使其回答与对方提出的问题处于同一水准线上?

如果我们决定需要采取某种形式的管控,我们必须确定审查应该进行到何种程度。一些群体认为“有攻击性”的政治立场会被禁止吗?呼吁与约旦河西岸的巴勒斯坦人团结在一起,或者声称以色列是种族隔离国家(美国前总统吉米·卡特曾将这个说法写进一本书的标题)呢?它们会被视为“反犹”言论而遭屏蔽吗?

问题并没有在这里结束。正如艺术家和作家詹姆斯·布里德尔(James Bridle)所警告,新的人工智能“基于对现有文化的大规模挪用”,相信它们“真的有知识或有意义是非常危险的”。因此,我们也应该非常警惕新的人工智能图像生成器。布里德尔观察到,“在试图理解和复制人类视觉文化整体的过程中,[它们]似乎也再造了我们最晦暗的恐惧(fears)。也许这只是一个迹象,表明这些系统在模仿人类意识方面非常出色,甚至可以深入到潜伏在存在(existence)的深处的惊怖(horror):我们对于肮脏、死亡和腐败的恐惧。”

但新的人工智能在模拟人类意识方面究竟有多好呢?最近有家酒吧用下面的话宣传一款特价饮料:“花两杯的价格买一杯啤酒,第二杯免费!”对任何人类的一员来说,这显然是个笑话。经典的“买一送一”特价口号被重新设计,从而自我取消。这种玩世不恭的表达会被人称赞为滑稽的诚实,一切的一切还是为了促进销售。聊天机器人能理解其中的含义吗?

“Fuck”也提出了一个类似的难题。尽管它指向的是大多数人都喜欢做的事情(性交),但它也经常带有消极意味(“我们完蛋了!”[We’re fucked!]“去你的吧![Go fuck yourself!]”)。语言和现实是混乱的。人工智能是否已经准备好去辨别这些差异?

德国诗人海因里希·冯·克莱斯(Heinrich von Kleist)在他1805年的文章《论在言语过程中思想的逐渐形成》(On the Gradual Formation of Thoughts in the Process of Speech,该文首次发表于克莱斯去世后的1878年)中,颠覆了以下常识:一个人在没有清楚要说什么之前,不应该张开嘴巴说话。他写道:“如果一个想法表达得很模糊,那并不意味着这个想法在构思时就是混乱的。相反,很可能那些表达【expressed】得最令人困惑的观念,正是那些思考得最清晰的。”

语言与思想之间的关系非常复杂。斯大林在1930年代初的一次演讲中,提出了许多激进措施,用来“发现并毫不留情地打击那些仅在思想上反对集体化的人——是的,我是这个意思,我们应该打击人们的思想”。我们可以肯定地认为,这不是事先准备好的话。在被当时的现场氛围感染后,斯大林立刻意识到他刚才说了什么。但是,他没有收回自己的话,而是决定坚持他的夸张说法。

正如雅克·拉康后来所说,这是一个真理在表述(enunciation)行为中意外显现【原文中为“emerging”,即复杂性科学中“涌现”一词】的例子。路易·阿尔都塞在捕获(prise)和惊讶(surprise)之间的互动中发现了类似的现象。一个突然抓住(“捕获”)某个想法的人会对她所完成的事感到惊讶。我再问一次,有任何聊天机器人能做到这点吗?

问题不在于聊天机器人很笨,问题在于它们不够“笨”。问题不在于它们天真(缺乏讽刺和反思),问题在于它们不够天真(不理解天真掩盖着敏锐)。因此,真正的危险不是人们会把聊天机器人误认为是真人,而是与聊天机器人交流会让真人说话像聊天机器人一样——丢失掉所有的细微差别和讽刺,痴迷于准确地说出自己想说的话。

我年轻的时候,有个朋友在一次创伤性经历后去一位精神分析师那接受治疗。这位朋友对于分析师对患者的期待有一种陈腐的看法,所以他在第一次治疗时表演了一些虚假的“自由联想”,谈论他如何憎恨他的父亲,希望父亲死去。分析师的反应非常巧妙:他采取了一种天真的“前弗洛伊德”立场,指责我的朋友不尊重他的父亲(“你怎么能这样谈论让你成为你的那个人?”)。这种假装的天真传达了一个明确的信息:我不相信你的虚假“联想”。聊天机器人能理解这种潜台词吗?

很可能不能,因为这就像罗文·威廉姆斯(Rowan Williams)对陀思妥耶夫斯基《白痴》里的梅什金公爵的解读。根据标准的解读,“白痴”梅什金,是一个圣洁的、“极其善良美好的人”,他因现实世界的残酷和激情而被迫陷入孤立的疯狂状态。但在威廉姆斯激进的重读中,梅什金代表着风暴之眼:尽管他是善良圣洁的,但鉴于他在围绕着他的复杂关系网络中的角色,正是他触发了他所目睹的浩劫和死亡。

问题不仅仅在于梅什金是一个天真的傻瓜,问题在于他特有的愚钝让他无法意识到他对他人的灾难性影响。他是一个说话像聊天机器人一样的扁平的人【英语原文“He is a flat person who literally talks like a chatbot.”,译文删掉了literally】。他的“好”在于,他像聊天机器人一样,不带讽刺地应对挑战,提供毫无反思的陈词滥调,从字面上理解一切,依赖心智的自动完成(mental auto-complete)而非真正的思想形成(authentic idea-formation)。因此,新的聊天机器人将与各种意识形态拥趸(ideologues)相处得非常好,从今天的“觉醒”(woke)群体到宁愿继续沉睡的“让美国再次伟大”(MAGA)民族主义者。

(Slavoj Žižek, “Artificial Idiocy”, March 23, 2023.)

Made with by Agora