机器人要对用户说的话负责吗？

美国最高法院即将重新审议第230条法律，这是几十年来互联网的基础性法律。但是，无论法院做出什么决定，最终都可能改变一项刚刚起步的技术的规则：由人工智能驱动的搜索引擎，如谷歌Bard和微软的新必应。

下周，最高法院将听取冈萨雷斯诉谷歌一案的辩论，这是两个互补的法律申诉之一。冈萨雷斯名义上是关于YouTube是否可以因托管外国恐怖分子的账户而被起诉。但其更大的潜在问题是，既然YouTube向他人推荐了这些账户，那么算法推荐是否应该得到第230条的全面法律保护。虽然从科技巨头到维基百科的编辑都警告说，如果法院削减这些保护措施，可能会产生影响，但这对人工智能搜索提出了特别有趣的问题，这个领域几乎没有直接的法律先例可以借鉴。

一些公司将OpenAI的ChatGPT等大型语言模型作为搜索的未来，认为它们可以取代日益杂乱的传统搜索引擎。(我对称它们为“人工智能”感到矛盾--它们基本上是非常复杂的自动预测工具--但这个词已经被坚持下来了）。它们通常用充满脚注的全网文本摘要来取代链接列表，对问题做出对话式回答。

老式的搜索引擎可以依靠第230条法律，但由人工智能驱动的搜索引擎是未知领域

这些总结往往含糊其辞，或被指出他们是依靠其他人的观点。但它们仍然可能引入不准确的内容。Bard在其第一个演示中弄错了一个天文学事实，而必应在其第一个演示中为一家上市公司编造了完全虚假的财务结果（还有其他错误）。即使他们只是简单地总结了整个网络上的其他内容，网络本身也充满了虚假信息。这意味着他们很有可能会像普通的搜索引擎一样，将其中的一些内容传递出去。如果这些错误越过了传播诽谤性信息或其他非法言论的界限，就会使搜索供应商面临诉讼的风险。

熟悉的搜索引擎界面如果链接到不准确的信息，可以依靠第230条的保护措施，辩称他们只是发布了其他来源的内容链接。人工智能驱动的聊天机器人搜索界面的情况要复杂得多。美国海军学院法学教授、《创造互联网的二十六个字》一书的作者杰夫-科塞夫说：“这将是法院要解决的一个非常新的问题。"我认为这部分将取决于最高法院在冈萨雷斯案中的表现。”

如果第230条法律基本保持不变，许多假设的未来案件将取决于人工智能搜索引擎是在重复别人的非法言论还是在制造自己的非法言论。网络服务可以要求第230条的保护，即使他们只是简单地改变了用户的原始内容的语言。(在Kosseff提供的一个例子中，一个新闻网站可以编辑诽谤性评论的语法，而不对其信息负责）。因此，人工智能工具只是简单地调整一些词语，可能不会让它对自己所说的内容负责。微软首席执行官萨提亚-纳德拉(Satya Nadella)表示，人工智能驱动的必应面临的法律问题基本上与普通必应相同，目前，人工智能生成的内容的最大法律问题是围绕版权侵权，这不属于第230条的管辖范围。

这里仍有一些限制。语言模型可以 “幻化”出不正确的事实，如谷歌和必应的上述错误，如果这些引擎产生了一个错误，根据第230条的任何版本，他们的法律基础是不稳定的。有多不稳定？除非在法庭上出现，否则我们不会知道。

“制定一个非常具体的2023年技术的规则，确实存在危险”

但冈萨雷斯可能会使人工智能搜索有风险，即使引擎只是对别人的声明进行了准确的总结。本案的核心是，网络服务是否可以通过组织用户生成的内容以促进或突出它而失去第230条的保护。法院可能并不急于回过头来将此适用于像老式搜索引擎这样无处不在的服务，而冈萨雷斯的原告已经试图证明这不会发生。即使他们很谨慎，他们也不可能对较新的服务采取任何宽松的态度，因为根据新的先例，这些服务将被普遍使用，特别是像人工智能搜索引擎这样的服务，它将搜索结果打扮成数字角色的直接讲话。

Kosseff说：“本案涉及一种相当具体的算法类型，但这也是27年来最高法院首次对第230条进行解释。有一种危险是，无论法院做什么，都将不得不忍受27年。我认为，制定一项针对2023年技术的规则是非常危险的，当五年或十年后，它将看起来完全过时”。 如果冈萨雷斯导致对第230条的限制更加严格，法院可能会决定，简单地总结一个声明使人工智能搜索引擎对其负责，即使他们从其他地方重复它。

人们用手轻轻地编辑帖子的先例，只能为复杂的、大规模的人工智能生成的文字提供有限的指导。法院最终可能不得不决定多少总结对第230条来说是太多了，他们的决定可能会受到政治和文化氛围的影响，而不仅仅是法律条文。过去，法官们对第230条的保护措施进行了广泛的解释，但在反技术反弹和最高法院对法律进行重新评估的情况下，他们可能不会给予任何新技术以早期平台的那种自由度。现任最高法院已经证明愿意推翻法律先例，推翻了具有里程碑意义的罗伊诉韦德案的裁决，而且一些个别法官还围绕网络言论发动了一场文化战争。例如，克拉伦斯-托马斯（Clarence Thomas）曾特别主张将第230条法律放在案板上。

人工智能搜索和传统搜索之间的界限并不总是清晰的

这并不意味着所有的人工智能搜索在法律上是注定要失败的。第230条法律是一项非常重要的法律，但删除它不会让人们自动赢得对每个错误总结的事实的诉讼。例如，诽谤需要证明虚假信息的存在和你受到了伤害，以及其他条件。Kosseff指出：“即使230条法律不适用，也不会有自动责任”。

这个问题变得更加复杂，因为人们在查询中使用的语言已经影响到他们的常规搜索结果，而且你可以故意用引导性问题来刺激语言模型，使其提供虚假信息。如果你输入了几十个查询，试图让Bard错误地告诉你某个名人犯了谋杀罪，这在法律上是否等同于Bard在简单搜索这个人的名字时提供的指控？到目前为止，还没有法官对这个问题作出裁决，而且也不清楚这个问题是否在法庭上被提出过。

而且，人工智能摘要和传统搜索之间的界限并不总是一目了然。常规的谷歌搜索结果页面已经有建议答案框，围绕其搜索结果进行编辑。这在过去曾提供过潜在的危险的错误信息：在一个搜索片段中，谷歌无意中把一系列处理癫痫发作的 “注意事项”变成了一个建议列表。到目前为止，这并没有产生大量的诉讼。

但是，当法院重新考虑互联网法律的基本原理时，他们是在一项可能改变互联网的新技术的曙光下这样做的，但可能会在此过程中承担大量的法律风险。