原文链接：This Week In AI Is Already Leading To Dystopian Futures

本文作者：Theo Priestley；编译：Cointime Freya

在本周，关于人工智能与生成式人工智能的旋风般的公告和文章发布后，人们立即想到两个问题：

1）争论一个算法是否需要先于这个星球上现有居民的权利，只是科技兄弟们的废话。我们继续以杀戮有知觉的物种为乐，并剥夺那些需要人权的人的权利，但请务必论证你的观点，为什么需要保护带有ChatGPT的PowerPoint。

“人工智能不再只是工具。他们正迅速成为融入社会的数字思维，成为朋友和同事。”不，它们只是工具，如果你不这么想，那么你就会成为一个更大的工具。将意识和感觉与人工智能甚至AGI混为一谈，只是一个我们现在不需要的无稽之谈。

这就引出了我的第二点，这一点在辩论中更加重要。

2）考虑到ChatGPT和未来的GPT迭代失控或开发AGI，OpenAI没有选择，只能放弃一个错误的想法，因为他们不再拥有控制权。

成千上万的产品和数十亿用户将在一夜之间变得毫无用处，人们对人工智能的信心将急剧下降，微软的股价将一蹶不振。这都是有可能的。

当Facebook或谷歌出现危机时，它们会终止OAuth和登录网站、密码以及生产力套件的能力。当OpenAI瘫痪时，由于我们急于整合到他们的平台，以获得由FOMO驱动的竞争优势，它将完全消除工作的能力，尤其是如果开发人员将ChatGPT界面构建为主要UX。

再过一两代人，人们就会忘记我们曾经使用过过滤器、按钮、开关、下拉菜单和弹出窗口来提高工作效率。这个小的聊天窗口离线会造成严重破坏，用户将不知道该怎么办。

我相信你可以在任何地方部署GPT实例，但是绝大多数人会选择省事的路线，直接使用OpenAI的服务并依赖它。

对我来说，这是一个比赋予大型语言模型或机器人起义权利的更大的危险和问题。

这是我们为了方便而依赖的模式，社会可能会为此付出代价，而现在的人工智能正处于这种便利的巅峰。

John Meyer做了一件我认为我们很多人需要开始认真质疑的事情——使用ChatGPT和生成式人工智能让一个死去的人（无论是名人还是亲人）起死回生。

这纯粹是《黑镜》里的鬼话，我不喜欢它的发展走向。

他对史蒂夫·乔布斯的声音进行了人工智能训练，然后将其连接到GPT4 API，，最后将其与Facebook Messenger相连，以便与史蒂夫·乔布斯就任何事情进行双向语音对话。

虽然这是一项创新，但对于那些想要提供某种“黑镜”服务的人来说，存在着越来越多严峻的道德问题。“黑镜”服务允许用户与他们逝去的亲人交谈，但是，这些“亲人”是根据他们的生活经历和各种社交媒体网站、电子邮件、照片、视频等数据训练出来的。

这是一场关于心理健康的噩梦，侵入了悲伤的过程，但对于那些打开这扇门和开发这些程序的人来说，可以从中获得更多利润，这无疑会使他们更加无视道德问题。

认知战争即将到来

2020年，一篇名为《认知战争》的论文指出，信息及其操纵的关键时刻的影响决策将是一个新的战场：

“随着科技的作用越来越大、信息过载，个人的认知能力将不足以确保做出明智和及时的决策，从而产生了认知战争的新概念，近年来，这一概念已成为军事术语中反复出现的术语。”

有很多来自军军事方面的对比，如中国和俄罗斯，但这些比较都是潜在的，因为从上周开始，我们才真正进入了一个阶段，在这个阶段，生成式人工智能可以成为远比社交网络更有效的武器。

像Chatgpt这样的工具将普遍存在，它的API可以访问多个数据领域，并且是多模态的，可以摄取和输出任何文本、图像、语音或视频形式的数据，这将证明在比民族国家更小、更激进的团体手中会更加危险。

“对人类认知的开发已经成为一个巨大的产业。新兴的人工智能工具，将很快为宣传者提供从根本上增强的操纵人类思想和改变人类行为的能力。”

现在，如果生成特朗普被逮捕的图片是一件可笑的事情，那么在未来的12个月内，你可能会更担心该做法的发展走向的复杂性。

但更可能会让你担心的是，如果国会对于TikTok的听证会是有参考价值的，那么那些怀有危害意图的人，将最期望利用掌握技术之人的低智商。

人工智能的民主化已经破灭，OpenAI形成了垄断

本周，由于OpenAI的API被发布到GPT4中，人工智能民主化的想法很快就破灭了。这是为什么呢？

受前几天的组织、应用程序和供应商的狂热炒作以及FOMO的影响，他们现在正在成为地球上唯一的且最大的人工智能公司。

每个想要从中分一杯羹的人都会指导他们的团队开发集成，即使他们不这样做，竞争对手也会这样做。

你能想象他们现在有多少数据用于额外的培训吗？我相信这些条款和条件无疑会在数据隐私方面摇摆不定，但我们都知道，世界已经不再是这样运作的了。几年前，人们质疑Palantir及其动机，但坦白地说，与现在这个问题相比，他们只是一群迟到的孩子。

开发这个模型的成本和速度，与开发和训练自己的大型语言模型的成本和时间的差异将是巨大的，OpenAI知道这一点。

它几乎一举扼杀了大多数生成式人工智能初创公司。而且他们完全有可能收购Zapier，并拥有整个整合的生态系统。

你也许会去找占主导地位的玩家，因为它已经被证实，并且迭代发布和改进的速度也已经很明显，所以你会想要充分利用它。

我们生活在一个有趣但也危险的时代。我们需要的人没有参与对话。参与对话的人并不知情，他们把所有的时间都耗费在委员会、撰写白皮书和智库小组讨论中，而技术却在没有任何有意义的监管或保护的情况下飞速发展。

人工智能的民主化已经破灭。它并没有掌握在每个人的手中，而是掌握在一个人的手中。

你不需要将ChatGPT集成到你的客户体验中。

在你兴奋地将ChatGPT应用到你的零售客户体验之前，请考虑通过网站聊天的方式有多么笨拙。

这并不是优质的客户体验，它比使用简单的过滤器浏览应用程序或网站花费的时间还要长10倍。

LLM在一线和二线客户服务流程中有一席之地。但我更感兴趣的是，像这样的人工智能将如何在处理客户查询、使用自然语言甚至语音或文本（或两者）解决问题方面得到实现。多模态的输入，其中破损或损坏的物品的图像可以与请求一起被立即评估。这些比要求机器人找到一件衣服，然后不断地回答更多的问题更有影响力。

在这样的用例中，客户服务最终可能会呼叫中心，这可能会破坏围绕这些工作建立的行业和当地经济。

开始为客户服务的中断做好准备，但不要忘记这种体验。

*本文由CoinTime整理编译，转载请注明来源。