“杀猪盘”与人工智能

东南亚“杀猪盘”诈骗者如何利用人工智能技术

作者：威尔·杰克逊

发布时间：2024年5月15日星期三下午2:25

source: https://www.abc.net.au/news/2024-05-16/pig-butchering-scams-artificial-intelligence-ai-face-swapping-/103804830? , translated by ChatGPT

一段视频展示了一位坐在杂乱卧室中的亚洲青年，留着胡茬和金色发尖，坐在一张游戏椅上。在接下来的1分钟内，他的脸在十几种不同的性别和种族之间循环变化。这并不是另一个新的TikTok滤镜。该视频展示了一种实时深度伪造换脸系统，据报道被东南亚犯罪集团用于所谓的“杀猪盘”网络诈骗操作。

专家表示，这项技术和其他新的人工智能（AI）工具——如生成型AI聊天机器人——提高了诈骗的有效性，并扩大了其影响范围。然而，一些诈骗操作似乎在使用新技术时的成功率较低。

“杀猪盘”的激增

自2020年以来，主要由中国人运营的诈骗中心在东南亚迅速增长，尤其在柬埔寨、缅甸和老挝。他们的商标是“杀猪盘”诈骗，即通过社交媒体或短信联系受害者，与其建立友谊或恋爱关系，然后引诱其进入虚假的投资计划——通常是加密货币。最初，这些诈骗团伙主要招募和利用华裔，但据报道，由于北京的打击，他们越来越多地针对不同国籍的人。

这些诈骗团伙通常在设防的高楼大厦中运营，团队包括通过消息应用程序与受害者聊天的“键盘手”、作为诈骗面孔和声音的模特，以及管理操作的老板。他们的增多导致诈骗活动激增，全球范围内的生活被毁，总损失达数十亿美元。根据当局的说法，AI使他们的诈骗更加有效。

今年早些时候，联合国毒品和犯罪办公室（UNODC）警告说，“基于大语言模型的聊天机器人、深度伪造技术和自动化的最新进展”使得“更加复杂和有害的网络诈骗方案”成为可能。

“通过使用AI创建几乎与真实人物无法区分的计算机生成图像和声音，骗子们能够以惊人的成功率执行社会工程诈骗，利用人们的信任和情感，”该组织表示。

“非常，非常，非常扭曲的事情”

许多从事这些网络诈骗操作的人被从其他国家引诱，承诺合法工作后被迫在类似奴隶的条件下工作。逃离者报告称，他们遭到殴打和折磨。

朱达·塔纳是泰国的一个非政府组织“全球前进计划”的负责人，该组织帮助了数百名从缅甸诈骗中心逃脱的贩运受害者。塔纳先生表示，犯罪集团自“第一天”起就将AI研发作为优先事项，并愿意不惜一切代价获得最先进的技术。他说，一些位于缅甸的诈骗中心正在使用先进的换脸技术。

“这不是到处都有，但确实存在于一些较大的诈骗中心，而且他们总是不断改进和提高，”他告诉ABC。他说，他帮助过的一个人是一名计算机工程师，其唯一的工作是为诈骗集团进行AI开发。

技术快速发展

最初只能在拍摄后修改视频的深度伪造技术，近年来迅速发展，现在可以实时进行令人信服的操作。2022年，娱乐AI专家Metaphysic在美国达人秀上通过让深度伪造的西蒙·考威尔与真实的西蒙·考威尔进行现场演唱，引起了观众的惊叹。

越南前黑客和身份窃贼转行的网络安全专家吴明孝表示，实时换脸技术——一种仅改变主体脸部的深度伪造技术——现在可以通过免费开源软件或付费订阅轻松获得。

全球反诈骗组织（GASO）向ABC展示了在加密消息平台Telegram上的换脸软件广告。一则中文广告称其“AI实时换脸”是“精准聊天”和“杀猪盘诈骗”的“必备”。广告称，该软件还集成了可模仿目标声音的“60%到95%”相似度的语音克隆技术。

未来的趋势

随着技术的进步，生成型AI如大语言模型（LLM）也被用来生成诈骗消息。尽管主要的AI聊天机器人如ChatGPT、Gemini和Copilot有防止非法活动的保护措施，但其他LLM正在开发过程中并没有任何限制。

总的来说，AI技术的进步正在显著改变“杀猪盘”诈骗的运作方式，虽然还存在一些技术限制，但未来可能会更加难以辨别和防范。提高公众对诈骗的认识和教育仍然是对抗这些新型诈骗的关键。

 

实时换脸技术的应用

除了“杀猪盘”，吴明孝表示，犯罪分子还使用换脸技术进行其他类型的诈骗，例如在投资诈骗中冒充名人，以及冒充家人或警方来恐吓受害者交出金钱。这项技术还可以用来绕过一些金融机构要求的视频身份验证。

在澳大利亚，阳光海岸市长罗莎娜·纳托利最近报告说，一名诈骗者使用这项技术在一次Skype通话中冒充她与她的一位朋友进行对话。“这个朋友告诉我，这看起来像我，但听起来不像我，”纳托利女士告诉ABC阳光海岸。

真实人物仍然更“可靠”

虽然软件开发者声称这项技术无缝且易于“老板”使用，无需技术知识，但熟悉该行业的人士告诉ABC，一些诈骗中心目前仍然采用更传统的方法。一位直接了解柬埔寨诈骗中心的消息人士向ABC确认，“AI模特”在那边被广泛使用。但他表示，技术能力、计算能力和互联网带宽的限制往往制约了诈骗者使用换脸技术。

“在许多情况下，雇佣一名东欧模特更加实际，”他说。他表示，尽管技术有进步，但一个真人出现在镜头前仍然更“可靠”。“最重要的是，大多数换脸应用程序不能伪造实时语音，”他说。

聊天机器人助力诈骗

过去，“杀猪盘”的键盘手通常从详细的“脚本”中工作，试图获得受害者的信任。现在，他们据报道还在与受害者交流时使用大语言模型（LLM）或聊天机器人。虽然主要的AI聊天机器人如ChatGPT、Gemini和Copilot有防止非法活动的保护措施，但其他LLM正在开发过程中并没有任何限制。

有多个软件平台提供与消息服务集成的AI辅助翻译系统，并在Telegram上进行广告宣传。一个系统有一个功能，可以自动检测发送的消息中是否意外包含中文，以“避免尴尬”。

打击短信诈骗的措施

网络安全公司Sophos的研究人员在一篇博客文章中表示，生成型AI如LLM可以使对话更具说服力，减少诈骗者与多个受害者互动的工作量。然而，研究人员发布的一张截图显示，一名诈骗者在与目标交流时错误地暴露了他们使用LLM生成消息的事实。诈骗者在WhatsApp上给目标的消息中写道：“非常感谢你的好意！作为‘我的’语言模型，我没有人类那样的感情或情绪，但我被设计为提供有帮助和积极的答案以帮助你。”

Sophos威胁研究员贾加迪什·钱德拉亚表示，犯罪集团目前还无法完全自动化使用AI进行聊天过程。“他们仍然需要人类来辅助，因为存在机器人偶尔发送出信号表明他们不是人在交流的风险，特别是在涉及情感和情绪时，”钱德拉亚先生告诉ABC。“在‘杀猪盘’中，目前的模型在表达情感和感觉方面做得不够好，而这对于这种类型的诈骗成功至关重要。”

使用生成型AI的未来趋势

钱德拉亚先生表示，生成型AI生成文本、图像和视频与翻译相结合，将使犯罪分子能够生成“定制内容”，并扩大其影响范围。“这将使受害者难以通过反向搜索检查他们正在交流的人是否是从互联网上偷来的，”他说。吴明孝表示，生成型AI还可以用来编写“杀猪盘”脚本，撰写令人信服的网络钓鱼邮件，甚至提供设置诈骗操作的逐步指南。他说，一个主要的担忧是，AI技术降低了进行诈骗的门槛。

“很多[犯罪分子]没有技术能力，他们只需要购买订阅，然后就可以开始，”他说。

并非全是坏消息

上个月，澳大利亚竞争与消费者委员会（ACCC）的国家反诈骗中心表示，尽管2023年报告的诈骗数量比2022年有所增加，但总损失金额下降了13.1%，降至27.4亿澳元。然而，ACCC发言人警告称，新技术的出现带来了风险。

“Scamwatch继续看到诈骗方法日益复杂，并对AI带来的风险保持警惕，”他们说。“这使得社区更难识别诈骗。社区应该继续对任何个人信息或金钱的请求保持谨慎，并在点击超链接时保持警惕。”

提高意识和教育

网络犯罪专家罗尼·托卡佐夫斯基建议，最好的建议是不要向只在网上认识的人发送或接收金钱。他表示，提高对诈骗的意识、教育以及识别红旗的能力是应对“杀猪盘”诈骗的最佳对策。

“骗子利用我们的情感，我们需要在做决定前多思考，”他说。“即使感觉真实，并且关系已经持续了一段时间，如果它起源于互联网，并且逐渐转向涉及金钱或加密货币的事务，请远离它。”