人工智能语音诈骗：英国能源公司CEO被骗22万欧元，AI模仿德国口音英语

人工智能软件能够模仿他人的声音和语调。它甚至还能模仿带有德国口音的英语。图据英国 verdict

如果你的老板打电话让你做事，你会不加思考就照做吗？读完这个故事后，或许你会多留个心眼儿。

今年 3 月，有一名诈骗犯。他利用 AI 语音模仿软件。通过这个软件冒充了公司的大老板。他成功地让一家英国能源公司的 CEO 相信。自己正在与德国母公司的老板通电话。《每日邮报》在 9 月 6 日对此进行了报道。

诈骗犯在电话中要求这位 CEO 马上把 22 万欧元转到匈牙利一家供应商的银行账户，说这样能避免缴纳“滞纳金”。同时，还让这位高管把转账信息以邮件形式发送出去。这位高管没有丝毫犹豫就照做了。最终，这 22 万欧元再也无法追回……

近日，裕利安宜公司（Euler Hermes）向媒体透露了为这家能源公司承保的此案细节。据报道，此案件被视为全球首例涉及人工智能的诈骗案，这再次引发了人们对人工智能软件被用于犯罪的担忧。

德国口音的英语也能模仿

《华盛顿邮报》有报道称，这位 CEO 之后在一封电子邮件里指出，这个要求是相当“奇怪”的。然而，“大老板”的德国口音极为逼真，他觉得自己没有别的选择，只能去服从。

这家英国能源公司的承保人裕利安宜公司称，这位公司高管当时认为自己在与他的德国老板交谈，所以按照要求在一个小时内进行了电汇冒充微软诈骗 案例，其目的是帮助公司避免拖欠罚款。

这家保险公司称：骗子使用的某类人工智能软件，一方面能够模仿他人的声音，另一方面能够模仿他人的语调，并且还能模仿带有德国口音的英语。

据悉，骗子一共打了三次电话。第二通电话在 22 万欧元汇出之后。对方打电话告知这位高管，母公司会转移资金来偿还英国公司的费用。

此案引发了担忧。 人们对人工智能软件被用于犯罪存在担忧。 此担忧由图据《每日邮报》所呈现。

当天晚些时候，这位高管接到了第三通电话。对方再次使出故技，冒充德国老板要求他第二次付款。这时他才察觉到不对劲。因为对方承诺的转账偿还资金他并没有收到，而且这次的电话号码显示是来自奥地利。出于怀疑，他没有支付第二笔款项，而是直接拨打了德国老板本人的电话，结果发现自己被骗了。

“（假的）‘约翰内斯’在我正与真正的约翰内斯进行通话的时候，竟然要求跟我通话！”这位 CEO 在一封电子邮件里这样说道。

裕利安宜公司称，待发现真相之际，第一笔 22 万欧元已经由匈牙利和墨西哥的账户被转移并分散至多个账户。当下，尚未查到嫌疑人冒充微软诈骗 案例，且这笔钱已无法找回。最终，保险公司承诺会承担全部的损失费用。

一些研究人员表示，这是世界上首次公开报道的人工智能诈骗案。

“深度伪造”AI技术非专业罪犯也能用

《每日邮报》报道称，这种 AI 语音模仿技术的工作原理为：先把一个人的声音分解成音节或声音，接着进行重新排列，从而形成新的句子。该系统目前仍处于早期开发阶段，存在不少瑕疵，然而，倘若犯罪者伪装在汽车或繁忙的环境中，就能够将那些令人怀疑的地方掩盖起来。

一些规模较小的初创企业，如 Lyrebird 等，正在努力让这些工具能够更广泛地被免费且无限制地使用。例如，Lyrebird 准许任何人通过上传一分钟的语音片段来创建一个“声音化身”，而这个“声音化身”被称作“世界上最真实的人造声音”。

这种 AI 合成音频以及 AI 合成视频，也就是所谓的“深度伪造（deepfakes）技术”，已经让人们更加担忧新生技术会侵蚀公众信任，会赋予犯罪分子权力，会让传统的通讯业务交易、家庭电话以及总统竞选活动更容易受到电脑操纵。

斯坦福大学网络政策中心研究员安德鲁·格罗托同时也是白宫网络安全政策高级主管，他表示：犯罪分子会运用那些能够让他们以最少成本达成目的的工具。他还指出：在十年前听起来颇为神奇的这项技术，如今任何一个富有创造力的非专业罪犯都能够加以使用。

外界存在抨击和担忧，Lyrebird 的一名发言人在一份声明中这样写道：首先想象一下，即便我们不发布这项技术，其他人也会去开发它。其次，谁能知晓他们的想法是否会和我们一样真诚呢。

开发这项技术的公司如 Lyrebird 不断强调其积极用途，称其能帮助自动化电话系统更具人性化，还能帮助哑巴“重新说话”。然而，最新报告的这起事件，必然会引发人们对于不受监管的“深度伪造”技术被犯罪分子利用，从而导致有针对性的黑客攻击和网络犯罪的担忧。

网络安全公司 Symatec 的研究人员称，他们发现了三起类似的案例。在这些案例中，高管被使用人工智能的骗子要求向另一个账户汇款。该公司还透露，其中一个案例的损失总计达数百万美元。

美国前总统奥巴马的虚假视频是利用“深度伪造”技术制作的。图是据美联社的。

显然，不少大型科技公司察觉到了这项技术所带来的危害。9 月 5 日这一天，Facebook 以及微软公司开展了一项新的运动。该运动的目的是打击那些看上去极为逼真的“深度伪造”视频。它们已经投入 1000 万美元来设立基金。这个基金专门用来创建一个系统。这个系统利用一个“伪造数据库”去检测这些“深度伪造”的产品。

这项挑战的目标是创造一种技术。这种技术能让每个人都更好地进行检测。检测的是人工智能在什么时候被用来修改视频。目的是误导受众。Facebook 首席技术官迈克·施罗德弗对此进行了表示。

红星新闻记者 王雅林 徐缓 编译报道

编辑 张寻

特朗普证实了美国正在对核武器进行升级！其详细的现场视频，都在“中国网”的抖音账号（787874450）中。