Bole新闻专讯:人工智能工具被犯罪团伙利用的风险再次引发关注。OpenAI近日通报,公司已封禁一批涉嫌与柬埔寨波贝地区电诈团伙有关的ChatGPT账号。这些账号疑似被用于虚假投资、网络交友、赌博平台诈骗、冒充执法人员以及虚假招聘等多种诈骗活动。
OpenAI表示,此次调查最初源于WhatsApp方面提供的相关线索。调查发现,该诈骗团伙利用ChatGPT批量生成虚假网络身份,制作和翻译诈骗话术,同时协助制作宣传内容,并处理部分诈骗窝点内部管理事务。
在针对受害者的诈骗过程中,团伙通常先通过虚假交友或恋爱身份接近目标,建立信任后,再诱导对方参与所谓加密货币、现货黄金等投资项目。部分账号则伪装成网络赌博平台,谎称用户中奖或获得奖金,要求受害者支付相关费用。另一些人员则冒充警方等执法机构,以涉嫌犯罪、需要缴纳罚款为由骗取钱款。
调查还发现,诈骗人员利用ChatGPT生成伪造护照、法律通知、股票购买确认单以及虚假赌博网站页面等图片,用来增强骗局可信度。受害者随后被要求充值资金、支付激活费用或所谓罚款,并提交转账截图、账户资料等信息。
除了直接诈骗受害者外,相关账号还被用于制作针对印度人的虚假招聘广告。诈骗广告宣称前往柬埔寨工作可享受免费机票、住宿、餐饮、签证和工作许可,但实际岗位可能与波贝地区电诈窝点有关。
OpenAI进一步发现,这些账号还被用于记录诈骗园区内部人员的欠款、工资扣除、处罚金以及借款偿还情况,同时翻译涉及签证逾期、工作许可和招聘奖励的内部交流内容。部分聊天记录提及人员遭扣留、试图逃离,以及有人因虚假招聘或其他方式被诱骗、强迫进入诈骗窝点工作。
OpenAI指出,目前掌握的信息不足以确认每一名相关人员的具体遭遇,但相关内容显示,该诈骗网络可能同时涉及人口贩运和强迫犯罪。一些参与诈骗活动的人员,本身也可能是被虚假招聘骗入园区后受到控制。
从部分内部交流记录来看,该诈骗网络可能曾接触数百名诈骗目标,部分记录提及受害者损失数千美元。不过,OpenAI表示,相关说法目前无法独立核实,公司也未统计该团伙造成的整体经济损失。
目前,OpenAI已封禁涉事账号,并向行业合作伙伴及相关机构共享线索,同时采取措施防止相关人员重新利用其服务实施诈骗。但截至目前,尚没有消息显示,柬埔寨波贝地区相关实体诈骗窝点已因该行动被执法部门查封。