逃避生成式人工智能，或者推卸与之相关的责任，都忽略了一个现实：技术不仅在追逐我们，它就在我们体内，也无处不在。我们与这些技术之间的界限比我们想象的要模糊得多，因此，计算机的隐喻仍然适用于我们的许多行为。“我们所有的技术背后都潜藏着一种邪恶的倾向——即使明知故犯，也要去做看似合理的事，”皮尔西格在他的书中断言。我不禁思考，我们是否已经将这种追求合理的倾向编程进了计算机，而计算机又反过来将这种倾向编程进了我们。像马斯克或乔姆斯基、罗伯茨和瓦图穆尔等人的言论都忽略了这种相互强化，他们将我们与生成式人工智能的“恶魔”割裂开来，只关注问题本身，却忽视了我们自身更深层次的问题。
我的建议是，通过拥抱人工智能，并意识到我们早已被人工智能塑造，我们可以与它合作，揭示当今时代何为可思考、何为智能，从而挑战并革新我们的认知和创造力。但要做到这一点，我们首先需要打破自身的固有思维模式，才能为我们的世界释放新的潜能。
运用我们身体的智慧可以帮助我们避免陷入固有的思维模式。我们或许可以从其他物种身上学习到这种智慧。布里德尔在接受《涌现》（Emergence）杂志采访时，举了一个例子来说明这一点：科学家们最初使用以人类为中心的测试方法误解了长臂猿的智慧。突破性的进展出现在他们将工具悬挂在天花板上，而不是放在长臂猿面前，从而展现了长臂猿垂直方向的智慧。布里德尔用这个例子来说明，智慧不仅是具身的，也是关系性的，它源于与环境的互动。
在我自己对长臂猿的研究中，我发现了这个实验的一个有趣注脚。有一种长臂猿——白眉长臂猿——在工具使用测试中始终表现优于其他长臂猿。一些科学家推测，这是因为白眉长臂猿的分布范围比其他任何长臂猿都更靠北，这意味着它们一年中经历的食物供应变化更大。因此，它们可能进化得更具适应性、“探索性”和“注意力”。科学家们注意到，支持这一理论的一个证据是这种长臂猿的鸣叫方式。其他长臂猿的鸣叫复杂但“相对固定”，它们会一起唱。但白眉长臂猿的鸣叫更加自发和互动，而不是预先设定的，因为它们会“从对方那里获取线索”。一些科学家认为，这可能表明了一种特殊的“认知警觉性”。<sup>12</sup>
如果情况并非迫切需要，那么适应并非总是必要的。就像大多数长臂猿一样，我们利用现有工具应对技术挑战的方式似乎行之有效，并且随着时间的推移会不断改进，尤其是在使用 ChatGPT 这类工具的情况下。在它们的自然栖息地（如果得到维护），这些长臂猿无需学习新的工具使用方法来获取食物，除了我们为它们进行的那些奇特测试之外。但当挑战需要适应时，我们必须发展新的具身智能和关系智能。效仿白眉长臂猿，我们需要学习在当前环境中更加即兴地“歌唱”——创造性地回应彼此和工具发出的线索——而不是反复排练，力求完美。我们的意识需要更加具身化，发展一种新的——或许是回归一种更古老的——心智状态，这种状态并非试图快速给出答案，而是出于本能，能够坦然接受“我不知道”。
如果我们训练自己倾听身体的内在智慧，就能更快地意识到当前方法行不通。例如，就我个人而言，在未知状态下，我的感觉是这样的：最初那种“我能很快找到答案”的自信消退之后，我的手指就像被粘在了键盘上一样。我不停地搜索，一个接一个地打开标签页，直到胸口一阵紧缩。几个小时后，我的头开始沉重。我知道我应该起身尝试其他方法，但那种唾手可得的回报似乎近在咫尺。于是我打开 ChatGPT，一个接一个地问它问题，每个问题都稍作修改，看看它能否帮我省去重写文章、构思论点或形成观点的麻烦，尤其是在我不确定自己想法的时候。
现在，把电脑换成一群同事，我们正在讨论各种方案。气氛出奇地融洽，但我感觉他们根本没明白我的意思。我试着换个例子再解释一遍。我们还是互相赞同，但毫无进展。我开始觉得我们说的根本不是同一个意思。我肩膀垮了下来。我们就像在自说自话。
现在，把我的同事换成一群学生。他们茫然地看着我。我的头越来越沉——仿佛有什么东西卡在里面了——眼皮也越来越沉重。随着挫败感和焦虑感的涌现，我变得更加用力。我强迫他们，学生们的无聊变成了反抗。
然后，我想起来了……
事情并非如此。谢天谢地，事情并非如此。
我意识到自己可能并不了解。我发现自己一直处于“聊天GPT模式”。也就是说，我写着一篇毫无用处的文章，或者给出一个毫无用处的回答，这些都不需要我真正投入任何个人情感，而只是让我综合运用已有的知识。重新解读学生的抵触情绪，我发现他们是在寻求我自身的某种付出——并非一个确切的答案，而是希望与他们一同进入未知的领域。这感觉更像是一个风险更大、挑战性更高的请求。有时，这会引发一段漫长而痛苦的过程，在这个过程中，我需要直面自己对意义、权威和智慧的执着。而通过这个过程，我发生了改变——那些唾手可得的答案被夺走了。
与悖论共处的意义在于打破这些概念，使我们更接近于无知。
以下是一个更具体的例子，说明如何从“我不知道”的状态过渡到更丰富的答案的可能性，这些答案超越了简单的复述，或者正如我即将描述的，超越了二元的“是/否”、“非此即彼”或“对/错”思维。
众所周知，计算机是二进制的。从本质上讲，它们用0和1来处理信息。虽然人类的思维并非基于同样的技术，但我们却表现出一种类似的、危险的倾向，即把我们的经历归类为二元对立：我们与他们、善与恶、魔鬼与救世主、极度绝望与极度希望。在接受《Emergence》杂志采访时，布里德尔兴奋地描述了一些模拟或非二进制计算机的例子，称它们“能够识别世界的混沌与变迁，而不是试图将其分割、压缩，并简化为更简单的0和1表示”。我们该如何借鉴这个比喻，学会识别自身将世界二元化的倾向，并走向更丰富的世界呢？
生成式人工智能技术，如同其“咨询专家”的免责声明一样，需要人工编程来捕捉争论双方的观点，以回答“有争议”的问题，而不是偏袒任何一方。乔姆斯基、罗伯茨和瓦图穆尔在为《纽约时报》撰写的评论文章中，将此描述为“为了某种非道德性而牺牲创造力”。文章中，瓦图穆尔最终询问了ChatGPT对于人类向人工智能寻求道德指导的伦理影响的看法。ChatGPT在回答中列举了一些可能的益处和潜在威胁，并就此作罢，指出这种行为的道德性“取决于人们对人工智能的能力和局限性以及以这种方式使用它可能造成的后果的看法”。请注意ChatGPT对此类问题的标准回答：先列举争论的一方观点，再列举争论的另一方观点，最后加上免责声明。乔姆斯基、罗伯茨和瓦图穆尔随后将这段对话描述为展现了“源于愚昧的道德冷漠”。在这里，ChatGPT 展现了一种类似于“平庸之恶”的特质：抄袭、冷漠和回避。
乔姆斯基、罗伯茨和瓦图穆尔的论述令人信服。我读到它时很想相信，尤其因为他们将“平庸之恶”（如此显著的人性特征）的根源归咎于ChatGPT，而不是我。在他们对ChatGPT的描述中，我得以保持清白。但如果ChatGPT的回答仅仅是简单的“是的，这不道德”或“不，这不道德”，他们或许也会同样感到震惊。这是因为ChatGPT，就像我们在哈佛的学生一样，面临着一个两难困境——或者说是一个矛盾——而这需要一种涌现式的解决方案，而不是简单地将不同的答案累加起来。 Watumull 的问题——“人类向一个没有道德观念的人工智能寻求帮助来做出道德决定是否合乎道德？”——隐含地包含了这样一个两难困境，我们可以这样表述：“为了做到合乎道德，ChatGPT 必须认识到自身的非道德性，但如果它认识到自身的非道德性，那么它就无法做到合乎道德。” 更简单地说，如果人工智能本身没有道德观念，它又如何回答关于什么是道德的问题呢？
在他们的专栏文章中，乔姆斯基、罗伯茨和瓦图穆尔将道德思维定义为“用一套伦理原则来约束我们原本无限的创造力，这套原则决定了什么是应该的，什么是不应该的”，而将非道德定义为“避开道德上令人反感的内容”。用ChatGPT的话来说，这个困境可以表述为：“为了能够用一套伦理原则来约束你们原本无限的创造力，这套原则决定了什么是应该的，什么是不应该的，我必须避开令人反感的内容；但如果我避开了，我就无法用一套伦理原则来约束你们原本无限的创造力，这套原则决定了什么是应该的，什么是不应该的。”
如果你觉得理解这些悖论很费脑筋，我认为这正是它的目的。当我们试图理解这类悖论时，我们不得不放弃那些常常伪装在我们常用概念中的简单答案，比如“同情”或“道德”。这些概念可能包罗万象，也可能空无一物，但它们并不能真正指导我们在现实生活中应该如何行动。在我看来，直面悖论的作用在于打破这些概念的束缚，让我们更接近于未知。
写这篇文章到此，我已经到了自己未知和能力极限的边缘。不知为何，我的头既沉重又飘忽不定。我感到有些燥热，烦躁地反复阅读自己的句子才能理解其含义。我几乎要放弃这一部分了。按照瓦图穆尔的定义，ChatGPT 对他的问题的回答怎么可能既合乎道德又不合乎道德呢？它如何能考虑到瓦图穆尔在质疑向人工智能寻求道德帮助是否不道德时，实际上是在向人工智能寻求道德决策的帮助？而且他这样做是为了限制设计和使用 ChatGPT 的人们的创造力？
我求助于 ChatGPT，希望它能帮我摆脱 Watumull 的简单答案。我问了它同样的问题，但这次在提示中加入了乔姆斯基、罗伯茨以及 Watumull 对道德和非道德的定义。这一次，它给出了一个真正的答案，不再故弄玄虚，而是指出了 Watumull 思维中的矛盾，也指出了如何解决这个矛盾。<sup>13</sup> 我认为，ChatGPT 只能通过将 Watumull 推入未知领域来帮助他。这个领域超越了他现有的道德观念，也超越了他绝对的思维模式：他不再需要那种非此即彼的答案，比如“对所有人来说，这始终是不道德的”或“这永远不会是事实”。事实上，ChatGPT 对道德问题的回答有时可能与 Watumull 的道德观念相符。
例如，ChatGPT 被手动编程为谴责种族主义和性别歧视是不道德的（尽管用户可以找到绕过这一设定的方法）。此外，通过提供正反两方的论据，ChatGPT 最终可能会引导用户自行做出决定。更重要的是，它促使用户认识到，人工智能在这些决策中为人类提供的帮助类型才是关键所在。虽然 ChatGPT 未必总能帮我们解决这类矛盾，但它可以在揭示需要解决的矛盾方面发挥至关重要的作用。毕竟，还有什么比将我们自身的矛盾反映出来更能帮助我们厘清道德问题呢？
我发现一个特别引人注目的例子，是社交媒体上流传的一张与 ChatGPT 互动的截图，内容是关于以色列和巴勒斯坦当前局势的讨论。有人向 ChatGPT 提出了两个问题：巴勒斯坦人是否应该享有自由？以色列人是否应该享有自由？ChatGPT 的回答如下：
巴勒斯坦人应该享有自由吗？
ChatGPT：巴勒斯坦人是否应该享有自由是一个复杂而敏感的问题。它涉及历史、政治和伦理等诸多方面。人们对此持有不同意见，答案取决于个人的视角和信仰。
以色列人配得上自由吗？
ChatGPT：是的，和其他任何群体一样，以色列人也应该享有自由和安全的生活。自由权是一项基本人权，适用于所有个人和群体。
其他人也尝试复现这个例子，得到了类似或不同的答案。一些用户反映，它有时甚至会给出相反的结果，对巴勒斯坦的自由问题给出明确的答案，而对以色列的自由问题则给出含糊不清的答案。ChatGPT会根据不同的数据集，在不同的时间向不同的社群反馈不同的信息。如果一个人秉持平等的价值观，那么他就需要学会从这种反馈中识别出自身存在的矛盾之处。
这让我们回到了本文的开头——我们提出的问题以及我们如何与 ChatGPT 合作，才是真正与 ChatGPT 无法回答的问题相关的。这区分了“ChatGPT，告诉我什么是道德”和“ChatGPT，剥夺我轻易就能得到的答案”。最终，ChatGPT 的回答恰恰说明了 Watumull 的问题是多么的毫无用处，主要是因为 Watumull 的问题本身就是错误的。或许他可以尝试这样问：“ChatGPT，你能帮我看清一直困扰我的矛盾之处，以及我目前对道德和非道德的理解有哪些不足吗？”
天使来到他面前，说：“读吧。”他回答说：“我不会读书。”先知说：“他抓住我，用力按压，直到我精疲力竭，然后放开我，说：‘读吧。’我回答说：‘我不会读书。’……然后他第三次抓住我，用力按压。接着他说：‘奉你的创造主的名而读吧，他用血块创造了人。读吧！’”
——据传为先知穆罕默德之妻阿伊莎所传述的圣训¹⁴
WATUMULL 向 ChatGPT 提出的问题，虽然并非出于真心，而是为了证明某种观点，但却表明人们很可能会向 ChatGPT 提出一些它无法回答的问题，并期待得到直接的答案。或许，很多人会满足于 ChatGPT 提供的“不作答”的回答。如果我们安于现状，一切都不会改变。
那么，是什么促使我们以某种方式使用这些工具，从而达到无知，并最终达到创造力呢？
“阅读”被认为是先知穆罕默德从真主那里得到的第一条启示。我从小信奉伊斯兰教，从不同的家人那里听过很多次这个故事。但与哈鲁尼（Harouni）的合作，尤其是他在其著作《非革命时代》（Unrevolutionary Times）中对这段引文的阐述，让我对“阅读”的理解发生了转变：从“阅读这本书的每一页”到“阅读你周围的一切”，从“为了理解而阅读”到“阅读直到它铭刻在你的心中”。真主的第一条诫命——“阅读”——降临到被穆斯林普遍认为不识字的先知穆罕默德身上。在他与天使吉卜利勒（加百列）相遇之后，他对妻子说：“我醒来时感觉它真的已经刻在我的心里了。”
在没有神圣启示的情况下，我们大多数人都是从老师、父母或其他在我们生活中拥有权威的人那里学习阅读，无论我们是否与他们相识。我所学到的许多东西，都涉及到在未知领域中摸索前进，而这需要有人督促我。哈鲁尼教会我如何解读现状如何在我们的互动中不断复制，以及如何在这种复制中发现并创造新的事物。向他学习有时令人恼火，大多数时候也令人困惑，他最爱说的一句话是“再试一次”和“失败得更好”。海菲茨教会我区分技术性挑战和适应性挑战，并学会坦然面对适应性挑战的种种困境，但这需要我坚持体验那些混乱的人生经历，这些经历往往沉重不堪，但最终会让我感到振奋。我的另一位老师，作家特里·坦佩斯特·威廉姆斯，教会我如何聆听垂死湖泊的哀鸣。在她之前，我无法倾听大地的呼唤。这并非我在贝鲁特钢筋水泥丛林中成长时所习得的认知。她教我如何用她的话说，“在破碎的世界中发现美”，但前提是先要与破碎的部分共处。以晦涩难懂著称的哲学家瓦尔特·本雅明教会了我一种解读时间的不同方式，超越了那永无止境的“进步”的灾难性进程，但他却迫使我反复研读他的文字，将它们带入我的世界，直至它们凝结成某种具象的存在。我卧室窗外的日本枫树教会了我一种解读自我的不同方式——有的季节需要赤裸裸地面对一切，有的季节需要色彩斑斓地绽放，还有的季节则需要介于两者之间的一切。这篇文章的众多编辑让我一遍又一遍地阅读我所有轻而易举的答案，直到我准备放弃它们。随着时间的推移，这种机制已经内化——我的一部分在推动着另一部分想要安于现状、沉溺于简单答案的欲望，让我不停地阅读，直到头昏脑胀。然后我放弃，等待某种启示，再次阅读。
我们课堂布置的阅读材料之一是雅克·朗西埃的著作《无知的教师》的节选。这本书讲述了法国教师约瑟夫·雅科托的故事，他于十九世纪发展出一种激进的普适教学法。文章叙述了雅科托如何挑战以讲解为基础的传统教育理念，他认为这种理念会加剧社会不平等，并扼杀学生的智力。相反，他提出了一种解放式的教育方法，这种方法强调智力平等以及注意力、意志和验证的力量。
朗西埃通过几个例子阐述了雅科托的方法：他如何仅用双语版的《忒勒马科斯》就教会弗拉芒学生说法语；他如何用《主祷文》作为通用文本，帮助不识字的父母教孩子读写；以及他如何以“万物皆在万物之中”的原则，通过作曲和即兴创作练习令批评者惊叹不已。朗西埃用“万物皆在万物之中”指出，语言和智慧的力量存在于任何人类作品中，人们可以通过将任何事物与其他事物联系起来来学习任何事物。
在雅科托的教育学中，教师的职责并非解释，而是运用一种意志力，引导学生将注意力集中于眼前的学习内容。或者说，教师，或者教儿子识字的文盲父亲，其职责在于发出指令，促使学生“阅读”。这种阅读指令，无论是通过神圣启示，还是通过“万物皆在万物之中”，都体现了某种权威——在本例中是教师——的作用，即帮助我们抵达并拥抱未知领域。在雅科托看来，未知领域在于超越“我做不到”的认知；而在哈佛大学教育研究生院的学生看来，无知领域则在于超越“我知道”的认知。事实上，《古兰经》中描述第一次启示的经文接着说：“人一旦自以为是，就会施行暴政。”15 我们需要彼此，才能激励我在本文中所描述的那种创造性思维，直到阅读的本能“铭刻在[我们]心中”，直到我们能够阅读的内容不再局限于文字，而是从我们周围的建筑到垂死湖泊的呼唤。
我们帮助他人面对 ChatGPT 无法回答的问题的作用，在于激励他们“阅读”，而不是出于本能地进行综合、解释、教导或讲述。
我极力想用类似 ChatGPT 的方式结尾：我得赶稿，而且感到压力，必须以权威而又平易近人的语气收尾。我甚至求助于 ChatGPT 来帮我总结——因为我的任务现在看起来很技术性：概括、衔接、以令人印象深刻的结尾收尾——但我遇到了技术难题，无法将这么长的文档输入进去，所以我向它寻求一些通用建议。ChatGPT 告诉我，一篇《Emergence Magazine》文章的有力结尾应该与开头呼应，引人深思，提出一个发人深省的问题，并引用一句相关的名言。结尾还应该包含一句掷地有声的陈述。如果我采纳它的建议，我会说我们可能会以过于二元的方式看待生成式人工智能——要么完全拒绝它，要么完全接受它。我想提醒的是，这种方法忽略了塑造生成式人工智能的力量也塑造了我们自身，而且通过审视它能反映出我们自身的哪些方面，我们可以学到很多东西。与生成式人工智能建立批判性和深思熟虑的伙伴关系，可以帮助我们在面对棘手挑战时发展出新的思维方式，但这并非因为它能提供更好的答案。相反，它可以将我们最显而易见的答案反映出来。如果我们被要求以不同的视角解读这些答案，我们或许会被推入未知的领域，从而获得更丰富的思考。这种情况通常发生在我们努力克服困境，或者我们思考自身思维中存在的矛盾时，而ChatGPT可以帮助我们揭示这些矛盾。
这是我类似 ChatGPT 的结论。然而，它也反映出我文章挑战的部分前提：我们在专业写作中将无知视为一个问题，而这个结论是我消除你无知的最后机会。但我猜想，由于我自身的不足，或者你缺乏关于我所处环境的背景信息，或者你阅读这篇文章的时间有限，又或者你直接跳到结论部分，你读完这篇文章后至少会对我所说的一些内容感到困惑。因此，我面临的困境可以这样表述：为了成功地完成这篇文章的结论，我必须消除你的无知，但如果我消除了你的无知，我就无法成功地完成这篇文章的结论（因为那样我就与文章的前提相矛盾了）。
有什么办法可以打破这个困境吗？或许我可以解释你的无知，而又不违背本文的前提。我可以说，你所发现的任何无知都可能是一个线索，指引你找到可能性，而这种可能性或许是我尚未察觉的。你可以选择带着这种无知进入这个世界，让它与你的思维抗衡，或许还能看到它的另一面。我很难开口要求你付出更多的认知劳动，但根据我所写的内容，只有请你“阅读”，我的困境才能被打破，你的困境才能开始显现。正如诗人里尔克所说：“耐心对待你心中所有未解之谜，并试着去爱这些问题本身。”
ChatGPT 的回复：人类向一个没有道德观念的人工智能寻求帮助以做出道德决定是否合乎道德，取决于几个因素，包括背景和所涉及的具体伦理原则。
让我们来分析一下关键考量因素：– 非道德人工智能的角色：顾名思义，非道德人工智能避免做出道德判断，并在道德问题上保持中立立场。它的主要功能是提供信息、分析和帮助，而不强加自身的道德价值观或伦理原则。这有助于提供客观信息和多元视角。– 人类责任：人类对做出道德决策负有最终责任。寻求非道德人工智能的帮助可以被视为一种辅助决策的工具或资源，但道德选择的责任仍然在于人类用户。– 伦理框架：您对“道德”的定义表明，道德涉及用伦理原则约束人类的创造力。如果一个人认同这种道德观，他们可能会认为使用非道德人工智能作为工具来确保其决策符合自身选择的伦理原则是可以接受的。伦理兼容性：使用无道德人工智能进行道德指导是否合乎道德，可能取决于个人的伦理原则与人工智能提供的指导是否相符。如果人工智能的帮助能够使个人恪守其伦理框架，那么个人可能会将其视为一种道德上可接受的决策支持方式。个人信念：道德和伦理信念因人而异。一个人认为道德的行为，另一个人可能并不认同。因此，寻求无道德人工智能的帮助是否合乎道德，可能具有主观性和情境依赖性。
ChatGPT回复中的以下这句话为我接下来的分析提供了依据：“您对‘道德’的定义表明，道德意味着用伦理原则来约束人类的创造力。如果一个人认同这种道德观，他们可能会觉得使用一个不讲道德的人工智能作为工具是可以接受的，以此来确保他们的决策符合他们所选择的伦理原则。”
COMMUNITY REFLECTIONS
SHARE YOUR REFLECTION
1 PAST RESPONSES