Cointime

扫码下载App
iOS & Android

对人工智能的恐惧是老生常谈, 潘多拉魔盒让人类担忧了数千年

撰文:Philip Drost

编译:元宇宙之心

随着 ChatGPT 和自动驾驶汽车等新技术的发展,人们对于人工智能的恐惧似乎已成为一种新的担忧。这种有关生命感知且可能存在潜在恶意的传说并不仅限于几十年前,而是可以追溯到数千年前。

根据历史学家的说法,早在阿诺德·施瓦辛格(Arnold Schwarzenegger)在 1984 年的《终结者》中扮演杀手机器人并穿越时空威胁莎拉·康纳(Sarah Connor)之前,这些恐怖主题就已经存在了。

斯坦福大学古代科学历史学家兼古典民间学家——Adrienne Mayor 告诉 Tapestry 主持人 Mary Hynes:「人们在人工智能技术出现之前就一直在思考这类装置、发明和创新。」

古希腊的潘多拉、布拉格的魔像以及弗兰肯斯坦的怪物等故事,都是历史上我们对非生物「复活」的恐惧的缩影。

作家 Mayor 在她 2018 年的著作 Gods and Robots(神灵与机器人)中探讨了这个主题,她表示一些神话传说带有警示意义。

潘多拉的盒子

其中最古老的故事之一可以追溯到古希腊,关于潘多拉的故事。Mayor 表示,在古希腊诗人 Hesiod 讲述的原始故事中,宙斯想惩罚人类接受火的恩赐。

因此,宙斯委托火神、铁匠、工匠和火山之神——赫菲斯托斯,制造了一个人类,取名潘多拉。宙斯称她是美丽伪装的邪恶之神。

「宙斯派遣这个栩栩如生的女机器人来到人间,带着一罐装满凡人苦难的东西。」Mayor 表示:「潘多拉的使命就是潜入人类社会,然后打开罐子,释放所有的苦难。」

在 Hesiod 的故事中,潘多拉的确做到了这一点。普罗米修斯的兄弟埃庇米修斯不顾哥哥的警告,为潘多拉的美貌所倾倒。在希腊语中,普罗米修斯意味着前瞻,而埃庇米修斯意味着事后。

Mayor 表示:「我们在这个最古老的关于人造生命的神话中,就已经看到了前瞻与事后的对比。」

「今天的普罗米修斯人关注人工智能和机器人技术给我们带来的未来,与之形成鲜明对比的是……过于乐观的埃庇米修斯人,他们很容易被短期利益冲昏头脑。」

Mayor 表示,潘多拉并不是希腊神话中关于人工智能的唯一故事。还有塔罗斯(Talos)的故事,这是西方文学中第一个描写机器人的故事。塔罗斯是赫菲斯托斯设计的,用来保护克里特岛。

「他可以拾起巨石并投掷,使敌船沉没。如果有人上岸,他可以把自己的青铜身体加热到通红,然后把他们抓起来抱在怀里活活烤熟。」Mayor 讲述道。

但在《Jason and the Argonauts》的故事中,人们成功取下了塔罗斯脚踝上的螺栓,并打败了他。

「因此,塔罗斯是由科技制造的,也被科技摧毁。他们取出了螺栓,动力源耗尽,巨型机器人也就被摧毁了。」Mayor 继续讲述道。

对「创造」的恐惧

阿姆斯特丹大学媒体研究系讲师 Amir Vudka 表示,有很多无生命物体「复活」并造成混乱的例子,比如布拉格的魔像的故事。

Vudka 表示,这个传说有很多版本,但在所有版本中,一个拉比(犹太教中的精神统治者)使用魔法创造了一个泥人魔像。起初,魔像是个好仆人,像一机器人一样工作;在某些情况下,它还会保护人们。在其他版本中,它只是帮助拉比做一些劳动,但也总是会出错。

「魔像总是失控,最终反抗主人,带来许多破坏、死亡和混乱。」Vudka 说道。

Vudka 表示,这些故事在历史文化中不断重复。从《科学怪人》的怪物到《银翼杀手》和《终结者》中的机器人,人类一直在讲述反叛的人工智能的故事。

「我们非常害怕未知。一般来说,我认为人类通常害怕自己不了解的事物,害怕异己。」Vudka 说道。

从神话中学习

Vudka 认为,从魔像的故事中可以得出一个重要的教训。在拉比创造魔像的故事中,拉比知道反转咒语并知道如何终结魔像的狂暴行为。

「你必须知道关闭它的咒语。否则,当它失控时你该怎么办?可能为时已晚。」Vudka 说道。

他说,这就是为什么我们必须知道如何控制我们创造的技术。

在潘多拉的故事中,给人们带来痛苦的罐子就是一个黑盒子。Mayor 认为,人们对自己使用的技术了解得越来越少,而 ChatGPT 同样可以被视为一个黑盒。

「现在的趋势是,技术能够获取难以想象的庞大而复杂的数据,然后据此做出决策,」Mayor 表示,「用户和制造商都将被蒙在鼓里,不知道人工智能是如何做出这些决定的。」

Mayor 认为,重要的是我们要记住,这些技术进步是工具,而不是新生命。这将人工智能的责任推给了创造者,而不是创造物本身。

她强调,也不应该把一切都视为坏或邪恶。她说也有一些神话故事,技术也会带来益处。

在荷马史诗的《奥德赛》中,奥德修斯使用了一艘基本上是自动驾驶的船,帮助他安全回家。

「这一点是毫无疑问的,没有什么不好。自动驾驶节省人力,满足他最深切的愿望。而且这些船似乎是由人工智能驱动的……这让人充满希望。」Mayor 表示。

评论

所有评论

推荐阅读

  • 美国现货以太坊ETF昨日净流出493万美元

    6月13日,据Trader T监测,美国现货以太坊ETF昨日净流出493万美元。

  • 美国现货比特币ETF昨日净流入8582万美元

    6月13日,据Trader T监测,美国现货比特币ETF昨日净流入8582万美元。

  • 美国禁止外国主体访问Fable 5和Mythos 5,Anthropic发长文驳斥

    6月13日,Anthropic发布声明称,美国政府以国家安全权力为由,发布了一项出口管制指令,要求暂停任何外国主体对人工智能模型Fable 5 和Mythos 5的所有访问权限,无论该人员是否在美国境内,包括属于外国公民的Anthropic员工。该命令的实际效果是,我们必须立即为所有客户禁用Fable 5和Mythos 5,以确保合规。所有其他Anthropic模型的访问将不受影响。我们于今天下午5点21分(美国东部时间)收到了政府的指令。该信函未说明其国家安全关切的具体细节。我们的理解是,政府认为其已获悉一种绕过或“越狱”Fable 5的方法。迄今为止,政府仅向我们提供了口头证据,证明存在一种潜在的狭窄、非通用越狱,本质上是通过要求模型读取特定的代码库并修复任何软件缺陷。我们正在遵守政府的合法指令,并正在移除所有用户对 Fable 5 和 Mythos 5 的访问权限。但是,我们不同意“某个狭窄的潜在越狱漏洞就应成为召回已部署给数亿用户的商业模型的原因”这一结论。(金十)

  • 伊朗外长:伊美谅解备忘录可能在几天内签署

    6月13日,据伊朗媒体12日报道,伊朗外长阿拉格齐表示,一旦伊美完成最后阶段的谈判,谅解备忘录将立即签署并公布。第一阶段将以远程电子方式签署,“这可能在未来几天内发生”。(新华社)

  • 美国官员:美伊接近达成协议,将在未来几天签署

    6月13日,据路透社报道,一名美国高级官员当地时间周五表示,美国和伊朗尚未真正抵达终点线,但距离达成一项解决双方冲突的协议已经非常接近,华盛顿预计将在未来几天签署协议。“谈判团队让我们处在一个非常有利的位置,但我们还要再看看,我们还没有真正抵达终点线,但已经非常接近了,”这名美国官员表示。该官员称,已达成一致的条款实现了特朗普的核心目标。谅解备忘录的条款包括重新开放霍尔木兹海峡,以及解除美国对伊朗港口的封锁。伊朗的高丰度浓缩铀也将被就地销毁,随后运出该国。“伊朗不会因为签署谅解备忘录或谈判本身而得到任何东西,”该官员说,“他们会因为履行协议规定的义务而获得经济奖励。因此,如果他们按承诺交出核材料,就会得到一些东西。如果他们拆除核计划或核设施,就会得到另外的东西。”

  • 伊朗外交部:伊方正在审议谅解备忘录草案

    6月13日,当地时间12日,伊朗外交部发言人巴加埃表示,目前伊美双方已经在大多数问题上达成谅解,伊朗内部正在对谅解备忘录文本进行最后阶段的汇总。因此,伊朗外长阿拉格齐此前关于“双方已非常接近达成谅解”的表态是准确且值得关注的。相关决策机构的会议正在举行,这是一个持续推进的过程。为达成一个最终且具有决定性的结果,决策机构和相关部门之间必须形成共识。巴加埃还表示,目前有关协议文本内容的各种猜测均未获得证实。虽然外交进程中的具体细节暂不便公开讨论,但这并不意味着公众没有知情权。(央视新闻)

  • SpaceX上市首日开盘报150美元,其IPO发行价为135美元

    6月12日,SpaceX上市首日开盘报150美元,其IPO发行价为135美元。

  • 伊朗外长称伊美“从未如此接近达成”谅解备忘录

    6月12日,伊朗外交部长阿拉格齐12日在社交媒体发文说,伊美“从未如此接近达成”谅解备忘录。在最终敲定之前,媒体应避免对其内容进行猜测。伊方将适时公布所有细节。 (央视新闻)

  • BTC突破64000美元

    行情显示,BTC突破64000美元,现报64107.99美元,24小时涨幅达到2.18%,行情波动较大,请做好风险控制。

  • ARM拉升大涨近10%,美银预计到2030年服务器CPU市场规模料激增4倍

    6月12日,ARM拉升大涨近10%,报376.18美元。消息面上,美国银行全球研究部分析师Vivek Arya最新预测,服务器CPU的总潜在市场规模(TAM)将从2025年的350亿美元激增4倍至2030年的1700亿美元以上。这远超该行此前对2030年服务器CPU市场规模1250亿美元的预测。 Arya在报告中写道:“我们认为,代理式AI的崛起是一个强大的需求加速器,它不仅扩大了CPU的市场机遇,也为英特尔、AMD以及基于Arm架构的挑战者们带来了利好。”