Bole新闻专讯:人工智能技术正在被诈骗团伙利用,成为东南亚网络诈骗的新工具。越南《民智报》7月12日报道,多项调查和专家分析显示,诈骗集团正在利用AI技术伪造国家领导人的面孔和声音,通过视频会议、投资推广、政府补助等方式获取受害者信任。新加坡、印度尼西亚和菲律宾已相继出现相关案件,单起诈骗金额最高达到380万美元。
在新加坡,一名受害者曾收到WhatsApp信息,对方自称“新加坡内阁秘书”,邀请其参加一场私人视频会议。会议过程中,多名由人工智能生成的“政府官员”出现,其中包括新加坡总理黄循财、总统尚达曼、部长英兰妮·拉杰以及多名外国外交官。
据了解,这并非简单的视频换脸,而是一场利用AI实时生成技术制作的完整虚假视频通话。诈骗人员以讨论霍尔木兹海峡相关项目为名,与受害者展开交流,假冒的黄循财甚至在会议结束前向受害者表达感谢。
随后,一名假冒律师继续参与沟通,并诱导受害者向指定账户转账。最终,该受害者汇出490万新加坡元,约合380万美元。资金到账后,相关账户立即失去联系,而真正的新加坡政府官员对此毫不知情。
类似AI诈骗也曾在印度尼西亚发生。2024年总统选举结束后不久,一段冒充印度尼西亚总统普拉博沃的视频在Instagram等社交平台传播。视频中的“普拉博沃”询问民众是否尚未领取政府援助,并声称可以帮助有需要的人申请补助。
该视频中的面孔和声音高度逼真,但普拉博沃本人从未发表过相关言论。诈骗人员随后要求申请者支付约55美元“行政手续费”,声称完成缴费后即可获得政府援助。据报道,该骗局已经影响印度尼西亚20个省份,目前受害人数尚未公布。
在菲律宾,诈骗团伙则利用总统小费迪南德·马科斯的形象制作虚假投资广告,将总统面孔合成到网络投资平台宣传视频中。一名牙医因相信该投资项目得到总统支持,先后向平台转入9300万比索,约合150万美元。直到资金无法取回后,才发现自己遭遇诈骗。
这些案件显示,AI诈骗已经不再只是帮助犯罪分子编写诈骗话术或批量发送信息,而是能够直接制造虚假的权威人物,让总统、总理甚至政府官员“亲自出现”为骗局增加可信度。
除了冒充国家领导人外,诈骗团伙也开始利用AI复制普通人的声音和面孔。菲律宾心理学专家朱恩·安杰洛·苏格劳(Jun Angelo Suglao)表示,当受害者突然听到亲人哭喊求助时,身体容易迅速进入紧张状态,导致判断能力下降,往往还没核实身份便按照要求转账。
专家指出,老年人由于长期习惯通过电话确认身份,可能更容易成为目标。但随着AI语音和视频生成技术不断发展,任何年龄层的人都有可能成为诈骗对象。
报道称,一名在海外工作的菲律宾女子玛丽亚(Maria)曾通过交友软件认识一名自称“迪拜王子”的男子。对方长期与她聊天、视频交流,并不断表达关心,使她相信双方建立了真实感情。
随后,对方以办理“结婚证书”和“王室会员卡”为由,要求玛丽亚支付10万比索,相当于她一年的收入。直到后来,她才发现所谓“王子”根本不存在,视频中的人物和身份全部由诈骗团伙伪造。
国际刑警组织今年6月发布报告,将AI驱动型犯罪列为东南亚地区最严重的新兴威胁之一。报告指出,犯罪集团正在利用人工智能提升诈骗效率和迷惑性,而技术发展速度已经超过部分国家法律和监管体系的更新速度。
国际刑警组织网络犯罪部门负责人尼尔·杰顿(Neal Jetton)援引相关估算表示,2025年全球网络犯罪造成的损失已达到10.5万亿美元,到本世纪末前可能进一步增长142%。其中,网络交友及情感诈骗已经形成庞大地下产业,全球损失金额可能达到370亿美元。
专家认为,AI并没有创造全新的诈骗模式,而是放大了传统骗局中的恐惧、贪婪、孤独以及信任因素。过去依靠电话、短信实施的诈骗,如今可以通过AI技术让“总统”“总理”或“亲人”以视频形式直接出现。
随着AI生成内容越来越难以通过口型、眨眼或语音停顿等细节判断真伪,专家提醒,面对任何政府官员、亲友或投资机构提出的紧急转账要求,最有效的方法仍是通过独立渠道重新核实身份。遇到可疑视频或电话时,应先停止操作,再通过官方号码或本人常用联系方式确认,避免掉入AI诈骗陷阱。