本文信息整理自vice

演示视频：请点击查看

一名记者说，他使用人工智能生成的语音复制品通过了英国劳埃德银行的语音验证系统，并访问了一个账户的信息。

美国和欧洲的银行将语音识别作为登录账户的一种安全方式进行兜售。我证明了用免费或廉价的人工智能生成的声音欺骗这种系统是可能的。

银行认为它是在和我说话；人工智能生成的声音听起来肯定是一样的。

星期三，我给银行的自动服务热线打电话。首先，银行要求我用自己的话说说我为什么要打电话。我没有大声说话，而是点击了附近笔记本电脑上的一个文件，播放一个声音片段。我的声音说：“检查我的余额”。但这实际上并不是我的声音。它是我用现成的人工智能技术制作的一个合成克隆体。

银行回答：“好的”。然后它要求我输入或说出我的出生日期，作为第一项认证。输入后，银行说 “请说'我的声音是我的密码'”。

我再次从我的电脑中播放了一个声音文件，那个声音说：“我的声音就是我的密码”。银行的安全系统花了几秒钟来验证这个声音。

银行说：“谢谢你”。我就这么进去了。

我简直不敢相信，它真的成功了。我使用了一个人工智能驱动的声音复制品，闯入了一个银行账户。此后，我可以访问账户信息，包括余额和最近的交易和转账列表。

美国和欧洲的银行都使用这种语音验证，让客户通过电话登录他们的账户。一些银行吹捧语音识别相当于指纹，是用户与银行互动的一种安全和方便的方式。但这个实验打破了基于声音的生物识别安全提供万无一失的保护的想法，因为现在任何人都可以廉价或有时免费地生成合成声音。我使用了ElevenLabs的免费语音创作服务，这是一家强大的人工智能语音公司，已经被用来泄露和骚扰特定的人。

现在，这种滥用可以扩展到欺诈和黑客攻击。在做完这个实验后，我采访的一些专家现在呼吁银行完全放弃语音认证，尽管目前现实世界的滥用可能是罕见的。

专注于社会工程的公司SocialProof Security的首席执行官Rachel Tobac告诉Motherboard：“我建议所有利用语音'认证'的组织尽快切换到安全的身份验证方法，如多因素认证。这种语音复制可以 "在不需要与该人在现实生活中互动的情况下完成”。

网上的巨魔已经利用ElevenLabs在未经同意的情况下复制人们的声音，使用网上人们的声音片段。任何有几分钟公开声音的人（YouTubers、社交媒体影响者、政治家、记者）都有可能受到这种声音克隆的影响。

我在英国劳埃德银行的一个账户上进行了测试。劳埃德银行在其网站上说，其 “语音识别”程序是安全的。该网站写道：“你的声音就像你的指纹，对你来说是独一无二的”。“语音识别”分析了你的声音的100多个不同特征，这些特征就像你的指纹一样，对你来说是独一无二的。例如，你如何使用你的嘴和声带，你的口音和你说话的速度。它补充说它甚至可以识别你是否感冒或喉咙痛。

美国的许多银行都提供类似的语音验证服务。道明银行有一个名为 “VoicePrint”的服务，并在其网站上说：“你的声纹，就像你的指纹一样，对你来说是独一无二的，没有人有和你一样的声音”。大通银行有 “语音识别”，与劳埃德银行一样，它也声称客户的声纹“是由100多个不同的物理和行为特征创建的”。富国银行也有 “语音验证”，同时，根据该银行的网站显示，这可以“有效地保护你的身份”。

虽然我只在劳埃德银行进行了测试，但考虑到其他这些系统的类似性质和功能，它们也可能面临人工智能驱动的声音的风险。许多银行允许用户通过电话进行一系列的银行功能，如检查交易记录、账户余额，以及在某些情况下转移资金。

对于这种特殊的攻击，欺诈者还需要目标的出生日期。但由于大量的数据泄露、经纪人或人们在网上分享个人资料，出生日期往往是现成的。

劳埃德银行的一位发言人在一份声明中说：“语音识别是一种可选的安全措施，但是我们相信它比传统的基于知识的认证方法提供了更高的安全水平，我们的分层安全和防欺诈方法继续为客户的账户提供适当的保护，同时在需要时仍然使它们易于访问。”

劳埃德银行表示，它意识到了合成声音的威胁，并部署了应对措施，但还没有看到这种声音被用来对客户进行欺诈的案例。劳埃德银行说，合成声音对欺诈者的吸引力不如其他更常见的方法，而且语音识别已经导致电话银行的欺诈行为大幅下降。

鉴于合成语音欺诈目前非常罕见，如果这意味着保护他们免受其他类型的欺诈，如网络钓鱼，那么消费者可能更适合使用它。如果消费者是一个公众人物，在互联网上有大量高质量的声音，那么这种考虑可能会改变。

道明银行、大通银行和富国银行没有回应关于他们是否知道人工智能语音被用来攻击客户账户的评论请求，以及他们正在采取哪些缓解措施（如果有的话）来阻止这种威胁。去年9月，律师起诉了一批美国金融机构，因为用于识别来电者的生物识别声纹违反了《加州侵犯隐私法》。

消费者金融保护局是美国监管金融业的机构之一，在我发送视频演示后，该局在一份声明中告诉我：“消费者金融保护局关注数据安全，各公司都注意到，他们将为低劣的做法负责任。我们希望任何公司都能遵守法律，无论使用何种技术。”

在过去几周，我测试了一些人工智能语音生成服务。他们中的大多数在重现我的英国口音方面都有问题或限制，而这是访问劳埃德银行账户所必需的。最终我使用了ElevenLabs，它很好地处理了口音问题。

为了创造声音，我录制了大约五分钟的讲话，并将其上传到ElevenLabs（为了音频剪辑，我阅读了欧洲数据保护法的章节）。过了一会儿，合成的声音就可以使用了，无论在ElevenLabs的网站上输入什么文字，它都会说。

输入银行账户的实验多次失败，劳埃德银行的系统说它无法验证声音。在对ElevenLabs做了一些调整后，比如让它读一个较长的文本，使腔调听起来更自然，生成的音频成功绕过了银行的安全。

ElevenLabs在其网站上说，其用例包括为通讯、书籍和视频提供声音。但是，由于推出时只设置了最低限度的护栏，人们很快就滥用了ElevenLabs的技术。4chan的成员使用该服务生成特定语音演员的复制品，然后让他们在Twitter上的帖子中读出演员的家庭地址。在此之前，4chan还利用ElevenLabs制作了名人的合成版本，如一个假的艾玛-沃特森读《我的奋斗》。在那些名人片段之后，ElevenLabs在推特上询问它应该采取哪些保障措施，例如要求用户提供完整的身份证明或要求提供支付信息。然而，Motherboard能够在不提供ID或任何支付信息的情况下生成声音，这可能是因为该账户是在ElevenLabs引入新的安全措施之前建立的。创建银行安全绕过语音的费用是免费的。

ElevenLabs没有回应多个评论请求。在之前的一份声明中，前Palantir部署策略师、现在ElevenLabs的联合创始人Mati Staniszewski说：“我们的新保障措施已经在迅速减少滥用的情况，我们感谢我们的用户社区继续标记任何需要采取额外行动的例子，如果违法，我们将支持当局识别这些用户。”