原文链接：AI Field Notes

本文作者：Reid Hoffman；编译：Cointime Freya

AI似乎每天都在进步。

像OpenAI的GPT-4等工具的影响是迅速而显著的。只需要花很短的时间来修补复杂的聊天机器人或文本-图像生成器，就可以促使我们兴奋地设想一个因AI的放大效应而带来的更美好的未来，或者担心AI可能会可能产生的多种危害。

我与GPT-4共同编写的《即兴》一书旨在鼓励人们尝试和质疑AI工具。正如我之前所说，这本书旨在作为我使用GPT-4的经验记录。我认为，AI的最大潜力是作为人类的放大器，只要它被安全地开发。

OpenAI的首席执行官Sam Altman表示，安全性正是OpenAI所追求的目标，了解人们如何与GPT-4等工具进行交互是这一过程的关键组成部分。Sam来到了我的Greymatter播客，讨论他的组织通过开发和发布GPT-3、ChatGPT、DALL-E和GPT-4等产品学到的知识。我们深入探讨了AI在教育、医药和创意追求等方面的各种用途。我们还深入探讨了不受监管和不受限制地推进AI的潜在风险，以及公众参与的必要性。

内容实录

Reid Hoffman：我很高兴我的朋友Sam Altman来到我们的播客，他在OpenAI组建了一支了不起的团队，并且已经取得了很多惊人的、美妙的进展，展示了AI能够带来的许多好处。

我最欣赏Sam的是（我认为是准确的），他说，“看，我所做的工作就是帮助了不起的人完成他们的工作，我带着我的理想为他们的工作添砖加瓦。”这就是我最欣赏Sam和整个团队的地方。

所以，Sam，欢迎来到播客。

Sam Altman：谢谢你的邀请。

RH：我想，你是第二个与我谈论使用GPT-4写书的人，讨论的内容出于这个[概念]，“天哪，这是一个人类放大器。”

所以我把它与GPT-4的发布结合起来（因为很明显，我们不想提前展示游戏），这有点像放大智能，或者增强智能，谈谈你对这种放大和增强的看法吧。

SA：我真的很好奇，我一直在等待这个问题。我意识到这不是一个完美的例子，因为你正在以多种方式撰写有关GPT-4的文章。但是，它又有多少放大器的感觉？它是否有50%的可能性使写这本书容易了？还是说使写书简单了至少5倍？

RH：至少是2倍，而且可能更多。其中一部分是一个巨大的问题——涉及所有行业——那就是解决空白页的问题。

SA：是的。

RH：假设你正在编写一份产品资源文档、营销文案、法律摘要、术语表、医学分析、毕业典礼演讲等内容，你会进入一个提示，开始输入一些内容，然后它就会生成一些新的内容！突然间，你就有了一个支持者，或者也可以说是一个合作者，可以与你一起工作。这很重要，因为，例如，我会问：“AI如何真正帮助教育？”以及“AI在教育领域中可能会受到哪些批评？”然后你会得到这两个问题的答案。接着你可以思考它们并重新进行整理。这一切都可以在两分钟内完成！所以可以说简单了2倍，速度加快了10倍，这就是它的优势。

你还可以用它来思考一些其他的问题，比如：“Liechtenstein有这种语言理论，纯粹的语言是遵循一定规则的。也许GPT-4在与其他内容进行融合时会说出一些有趣的观点。”假设你刚读了一些关于Chomsky语言学或其他主题的文章，这也许会给你带来一些有趣的思考。

我认为这些是非常有帮助的。它们可以使你更加活跃，并在某种程度上为你的工作增加助力。当然，这并不意味着你只需要按下按钮就可以得到一本书。

SA：是的，最令人欣慰的一件事是，人们已经成功地将它作为一种创造性的工具，来解决空白页的问题，并产生一系列新的想法。显然，它不能取代创造性的工作，但可以作为一个新的工具。我认为人们在许多不同的方面都取得了惊人的成功，观察人类在寻找如何利用这些资源时的创造力的广度是非常有趣的。

RH：有没有特别令人惊讶或高兴的创意？

SA：我经常听到小孩子的父母说，他们的孩子每天晚上都想用GPT-4编故事，而且一些孩子似乎对这个有无尽的渴望。至少从父母的反馈中可以发现，一些孩子能够想出真正有创意的故事，并且能够快速流畅地使用这项新技术，这是很有趣的。

RH：我也听说过同样的事情。就像我们每晚都会讲一个新的故事，然后我们会问，“你想听一个什么类型故事？”

“我想听一条龙、一听说过泰迪熊和一个宇航员的传奇故事。”

我知道，人们已经通过GPT-3编写了儿童故事（有时通过DALL-E进行插图），并将其出版发行。

因此，虽然我的作品可能是通过GPT-4首次合作完成的，但已经有人使用GPT-3和DALL-E等技术出版了一些书籍。

所以，对于孩子们来说，我们显然还没有掀起一场教育评论风暴，我发现主要是因为缺乏真正深刻的想象力。 你怎么看待这个问题？

SA：我完全理解为什么这项技术会带来很多改变，并给工作过度繁忙的教师带来一些问题。这一切是很正常的，适应需要一些时间。但从好的方面来看，我认为目前正在发生的事情是非常了不起和令人兴奋的。

我非常喜欢GPT-4的一堆无聊的用例，如翻译、摘要、信息访问。我在很多方面都依赖于GPT-4——但我认为，到目前为止我发现的最深刻的东西是，它比维基百科更好地学习新知识，而维基百科是我目前快速学习新知识的主要方式。我和许多人都喜欢通过这种与“AI导师简化版”进行互动聊天的方式来学习新知识。我希望这将成为一个伟大的新教育工具。

RH：考虑到你正在推动创作，拥有平衡的视角对你来说是件好事。

我相信，这不仅仅是不同的学生以不同速度学习的问题。有一个AI导师，他可以把它和你的兴趣联系起来，比如你对北极熊感兴趣、对气候变化感兴趣、对希腊女神感兴趣，或其他任何兴趣。但也要适应你的节奏去做一些事情。

但还有其他事情。例如，你说，“看，这真的很容易。我想写一篇关于简·奥斯汀和殖民主义的文章。”我使用GPT-4生成了八篇论文，然后我把这些论文发给这所高中或大学，并且会说，“这是一个D+，你需要做得更好。” 但他们可以以此为基础做得更好。

这是对教师的最实用的推销点。现在你可以使用GPT-4来帮助你评分。所以，与其花费60个小时来评分，不如花费3个小时来评分，剩余57个小时用来帮助学生。

SA：是的，我认为使用这些系统进行评分可能存在一些问题，但我也认为我们会找到方法，让它在很多方面都可以发挥作用。你可以腾出95%的时间做其他事情，我认为这是我们在使用GPT-4时一次又一次听到的概念

RH：在写《即兴》这本书时，我们首先撰写了第一章的教育部分，试图了解如何帮助我们所有人提高教育水平，因为我们都应该不断接受教育，尤其是孩子和其他人。当你开始工作的时候，也要重新学习技能。还有有医疗方面的问题。请简要地谈一下AI导师和AI医生的前景。

SA：确实，这是一个令人兴奋的世界。通过这种人类增强的视角，我们可以拥有提供更高质量的医疗和关怀的医生，使用这些工具自动化部分过程，但保持人类的参与。现在有很多公司正在朝这个方向努力。我认为，大多数人都能拥有一位全能的AI医生的想法还需要很长时间才能实现，但这种混合方法可以使我们的医生变得更好，我们可以为更多人提供高质量、负担得起的医疗服务。

RH：我认为API框架和学习的优点之一是，你是否看到人们已经在从事医疗和教育方面的工作了？你看到的已经在开发的东西有哪些?

SA：这份工作最有趣的部分就是与开发人员会面，并了解他们正在做什么，以及他们计划做什么。当然，医疗建议和辅导是经常出现且非常令人兴奋的领域。

RH：你对《即兴》这本书有什么反思吗？如，我应该更关注哪些方面？应该重点拓展哪些主题？或者有哪些值得人们特别关注的事情？

SA：不，我对这本书有一个非常有趣的反应，我不确定其他人的反应是否和我一样。但我认为这本书很棒，它提出了很多问题，是一个有趣的研究。但我认为对于在OpenAI工作的人来说，这是一种非常奇怪的体验，对于那些没有看到创作过程的人来说也许是不同的。

RH：我是从一个更远的角度来看待创作过程的。我会征求你的反馈意见，以继续改进。

让我们来谈谈工作部分。我知道你们非常关注如何对职场产生积极的影响。你们目前在思考这种放大对未来10年左右、5年左右的影响，因为对工作的影响需要时间。人们应该如何看待放大问题，并将其作为自己以及公司的道路呢？

SA：从长远的角度来看，我不知道会发生什么，没有人知道。但我至少想承认这一点。从短期来看，世界需要的产出量非常大。如果人们的效率更高，他们就会做更多的事情。我们首先在编程方面看到了这一点，早期接触到微软Copilot的人报告了这一点，现在工具变得更好了，人们报告的情况甚至更多。

但我们现在正处于GPT-4时代，在其他工作中也看到了这种情况，即你为人们提供更好的工具，他们就会做更多、做得更好，并放大你的能力。

我正在努力回忆我是从哪里听到这个消息的（我很确定这是Paul Graham说的），必须由两个人共同完成的工作的成本溢价很高，包括沟通的开销，以及沟通不畅的问题等等。如果你能让一个人的工作效率提高一倍，那么你做的事情就没有两个人做的那么多。也许你可以完成三个半或四个人才可以完成的任务，并且可以完成多种任务。我认为我们在GPT-4应用程序中所看到的事情之一就是如此。

RH：是的，的确如此。人们往往对工作问题忧虑不已，这可能是大多数人最关心的实际问题。写这本书的部分原因是为了表明，“看，我们可以实现很多惊人的事情。我们可以为每个人、每个孩子提供一个AI导师，为那些无法支付医疗费用或无法与医生交流的人提供一个AI医生等等。”

但每个人都担心这个问题。我想要展示的部分内容就是，“看，这里有一个关于它使用实例，一个聪明、知识渊博的人正在将其用于实际工作，而这项工作就是写这本书，对吗？”

SA：是的，我认为这项实例非常具体化。这让我也想写一本书。

RH：你如何看待使用GPT-4来解决信息问题？实际上，我认为我们还没有具体讨论过这个问题 显然，有很多批评的声音认为，这是一个生成式AI。它非常擅长生成内容，但生成不一定是真实的。它可以被定向到任何方向，包括错误信息。因此，我们发现社交媒体和其他类型的事情被放大了，比如，有人会说“这是对新闻业的攻击。”我不同意这个观点。虽然我确实认为我们必须努力让它变得更好。

关于如何以一种有益于集体学习的方式来解决这个问题，你有哪些想法？

SA：我们最需要解决的领域之一是如何让这些模型在不失去人们所喜爱的创造性和自由性的同时变得非常可靠，或者为其提供设置选项。我们现在还没有答案。我们有很多想法，并且我们能够对这些问题进行周而复始的改进。至于何时能够真正达到一个符合用户期望的系统，我们还没有答案。我们正在取得进展。

曾经有一段时间，一些社交媒体平台禁止人们谈论COVID可能是从实验室泄露出来的这一话题，这被认为是仇外的、种族主义的、仇恨的、不准确的，这是虚假新闻等等。有关该内容的帖子被删除了，然后突然之间，精英们对这一话题的看法发生了变化。我记得有一篇文章似乎真正改变了这种观点，但实际上你仍然无法在主流平台中讨论这个话题。

RH：事实上，我认为你如何能够训练这些模型，就是你说，"嗯，它不一定要对所有的事情产生意见。" 它不一定要对有争议的话题或人类所在的地方产生意见。例如，一个训练答案是，"哦，在这个话题上，有很多人类的争议。"

实际上，我认为你如何训练这些模型，你可以说，“它不必对所有事情都产生意见。”它不必对有争议的话题或人类存在的地方发表意见。例如，一个训练答案是，“有很多人类在争论这一话题。”

SA：我们经常给出这样的答案。我们现在正在试验模型的更多操纵性，用户可以就他们希望模型如何以不同的方式表现来发表更多的意见。

所以如果你想要高度精确的校准，模型可以做到这一点。如果您想要其他东西，该模型也可以做到。但我们认为给予用户更多控制权是很重要的。

我还认为，当我们回顾创建第一个AI系统的时代时，我们所有参与其中的人都会有一个属于自己的版本。

RH：是的，我完全同意。

基本上，《即兴》这本书的最后一章是我非常坚定的信念，同时也是我的论点——我们通过技术来进化人性。我们通过我们穿的衣服来进化我们的人性。

我们坐在椅子上，使用播客麦克风，通过视频会议互相交谈等等。世界面临着许多重大的规模问题：气候变化，经济转型以及人类的提升等等，各种形式的社会正义。我知道你和我经常谈论的一个问题是刑事司法和整个社会的公平。你认为AI在哪些方面不是特别适合？有哪些领域人们可能没有想到，但AI却非常适合的？

SA：所以我认为技术是通过所有方式让世界变得更美好的基本要素。但技术本身并不总是或通常不会做到这一点。你需要社会的支持、人们的参与，你需要我们所有机构的贡献，使这种技术的发现、创造和传播成为可能。

RH：是什么样的？是气候变化吗？它是贫穷的反面吗？

SA：如果我们能够通过构建AI系统来帮助我们找到许多疾病的治疗方法，那将是一个相当大的胜利。虽然这不属于我的专业领域，但从事这一领域的人似乎对这一领域即将解锁的事情感到非常兴奋。

RH：你如何看待AI作为一个平台？你最近刚刚与一些已宣布的合作伙伴以及其他类型的人一起将ChatGPT作为API。人们在应对自己的生活时应该如何看待这个平台？

SA：我认为这是一个最伟大的平台，也是人们很快就会忘记的平台。

所以，在第一批智能手机和应用商店推出后的一段时间里，所有这些公司都在说，“我们是一家移动公司。”这很重要，因为他们在移动平台上。而今天，说你是一家移动公司是荒谬的，因为每家公司都有一个移动端的战略。

我们现在正在经历这样一个时刻，每个人都在谈论AI，AI是未来的平台（这可能是真的），所有这些AI公司，等等。我希望10年后，智能能够应用于每一种产品和服务，它无处不在，以至于我们忘记了它是一个平台。

RH：你认为，在未来三到五年内，除了扩展和改进这种大型语言模型之外，还有另一种惊人的主要组件将被发现和/或部署的可能性有多大？

SA：这种可能性很大。“发现”可能需要更长时间。但我相信，我们至少还需要一个真正伟大的想法。

RH：我们将新闻业列为一个章节，因为我们想要展示为人们塑造的观点以及新闻的实际积极影响。我们作为人类彼此分享是我们重视记者的部分原因，尽管有些人喜欢自己的记者口味胜过其他人的。你喜欢什么，你会如何告诉一位记者如何使用GPT-4？这就是GPT-4对你的帮助。

SA：自GPT-4发布以来，我与一些记者交谈过，我会问这个问题，是因为我总是好奇地想知道更多。GPT-4在报道过程中并没有什么用处，至少在目前人们发现的方式上是这样。但它在草拟、写作和综合处理过程中非常有用，可以把一堆笔记放在里面，之后再提出问题，帮助寻找事物之间的主题。

RH：这很有趣。你之前参考过维基百科。但它就像一个迷你研究助理，可以立即为你提供一个小型简报。但这个简报并不总是百分之百的准确，特别是当你涉及到非常具体的问题时。

就像当你开始使用搜索引擎时一样。在你使用ChatGPT或GPT-4时，尝试一些不同于以往的思考方式，然后真正地思考，“我该如何尝试一些以前从未想过的东西呢？”

一个让我感到惊讶的看似平淡无奇的问题是，“我的冰箱里有七种食材，那么晚餐我应该做什么？”我从来没有想过要问这个问题。你当然也不会把它放在搜索引擎中，也不会将它放到Bing或谷歌或其他搜索引擎里。

我认为，关于AI和制作智能工具所带来的工作转型，有一件事还没有被提及，那它将使许多工作从机械的工作状态中摆脱出来。你不仅可以把它变成更具创造性的工作，还可以把它变成工作中更快乐的部分，并且这种快乐的转变再次放大了人类。

SA：我深信这一点。现在宣布胜利还为时过早，但显然人们确实更多地停滞在他们喜欢的工作领域。AI擅长做那些我们大多数人都觉得有点单调的重复性工作。

有趣的是，我们经常听到这方面的报道。

RH：GPT-4有什么让你喜欢的地方吗?

SA：学习新东西还是很令人愉快的，这感觉我刚刚得到了一个作弊代码一样非常令人愉快。

另外就是，我们刚刚发布了这个非常早期的插件预览，我认为GPT-4现在可以在很多限制下编写和执行代码，这是非常酷的，即使它只是在做一些非常简单的事情。

RH：我认为有一件事可能很重要，但我们还没有谈到，那就是你们正在学习如何使这些系统在扩展时与人类的利益和价值观保持一致。

SA：我认为相对于人们想象的情况，我们已经取得了真正的进展。

但我们不知道，甚至可能还不太了解如何调整超级智能。RLHF对于我们今天使用它的用途来说是非常酷的，但如果认为对齐问题现在已经解决了，则是一个非常严重的错误。我希望我们能制作出越来越好的工具，帮助我们提出越来越好的对齐想法。

RH：我认为这个答案是完全正确的，因为在着动态事物的发展过程中，保持高度专注和深切关注是最大限度地提高安全性的方法。

SA：我认为这里有必要非常精确。我们知道如何让GPT-4变得安全；我们目前所知的方式是安全的。但我们还有很多工作要做。值得庆幸的是，我们现在有了一个新工具来帮助我们。

RH：是的，我认为人们应该从这一事件中汲取正能量，这才是你应该做出的正确回应。这个问题需要更多的工作来改进我们现有的解决方案，我们的工具可以继续改进它。到目前为止，随着我们的规模扩大，我们正在学习通过更好的方法来使用工具，以帮助我们更好地对齐。

SA：我认为使用GPT-4和ChatGPT的好处是，人们可以以一种方式真正地感受到它的好处，而如果你只是听说过它，你就会真正感受到它的负面影响。现在，负面影响仍然存在，但是我认为使用它也会使人们产生一些健康的警惕心理。但它确实让人们尝到了好处，并想出如何参与我们共同创造的新世界。我认为这一点很棒。

RH：是的。我看到的相似之处是，当你问一个从事创意产业、写作、绘画、摄影的人时，如果他们没有接触过，也没有尝试过这些工具，他们可能会发出质疑，“它会夺走我的工作吗？”而当他们使用它时，他们意识到，这可能是一个真正放大他们正在做的事情的工具，他们开始看到了优点。这就是为什么我创建了《即兴》的一部分。

显然，在过去的几周里，你一直在帮助向世界介绍ChatGPT，GPT-4。即兴的努力是试图展示为什么AI可以为人类带来惊喜，以及为什么我只是有信念和信心，我们真的可以到达那里，只是通过故意（比喻）推动它。你说你在过去几周里学到了什么？

作为我们的最后一个想法，你想与播客的听众分享我们在未来几年和未来十年试图通过AI达到的目的？

在过去的几周里，你一直在帮助全世界了解ChatGPT和GPT-4。《即兴》是为了试图展示为什么AI可以为人类带来惊喜，以及为什么我确信，我们真的可以通过“故意”推动它到达那里。在过去的几周里，你学到了什么？节目的最后，可以与播客的听众分享我们在未来几年和未来十年内试图用AI实现的目标吗？

SA：你在一开始就提到了这个问题。所以这是一个很好的结束语。这是一种放大的工具，是一个帮助你在任何需要做得更好的所使用的工具。可以说，尝试一下才能真正体会，所以去试试吧。这是我的建议。我们真的希望你会喜欢它。

当我们考虑未来的版本时，我们从人们那里得到的反馈非常有帮助。人们真的发现了令人难以置信的新事物，发现了新的突破点。无论你想以什么方式被放大，都可以使用这个工具来放大你自己。我想这就是我最后想要传达的信息。

RH：这就是为什么《即兴》这本书的描述它不是一个阅读，而是一个对话的开始。

因此，Sam，谢谢你的这次谈话，期待与你再次交谈。

SA：我也同样期待。谢谢你，Reid。

*本文由CoinTime整理编译，转载请注明来源。