情人节“算计”:人工智能与深伪技术下的虚情真骗

2026-02-10_14-48-40.png

Australians are being warned to protect themselves against romance scams. Credit: Getty / Tero Vesalainen/Getty Images

在使用人工智能(AI)的恋爱骗局中,“最主要的危险并不只是视觉方面的完美仿真,而在于它能够自动进行成千上万次同步且高度个性化的对话”。研究人员分析了一段15秒的爱情诈骗视频,但即使是检测深度伪造方面的专家,判断视频的真实性也颇感挑战,因为视频中人物的声音和口型经过合成处理,让受害者误以为心仪的对象就是在亲切问候自己(点击播客,收听详情)。


情人节将至,一些人希望通过约会应用程序和社交媒体,寻找联系、陪伴或者一段浪漫关系。而在网络世界里,诈骗者也蠢蠢欲动。

澳大利亚国家反诈中心(National Anti-Scam Centre)、澳大利亚竞争和消费者委员会(ACCC)、学界和银行协会等机构已纷纷发出警告,提醒公众高度警惕:在人工智能与深度伪造技术的作用下,恋爱诈骗越来越复杂,变得更逼真、更隐蔽,也更具破坏力。

以往的恋爱骗局,诈骗者通常会创建虚假的网络身份,博取同情或扮演“拯救者”,与受害者建立感情联系,最终诱骗对方转账或投资。此类骗局并非新鲜事物,但人工智能和深伪技术不断发展,随着高度逼真的生成的图像、声音和视频加入,这类诈骗更加让人难辨真伪。

AI抓取:“量身定制”的“情感共鸣”

周二(2月10日),新南威尔士大学(UNSW)在其官网的一篇文章《情人节来临:你是否容易成为AI驱动的浪漫骗局受害者?》(Valentine’s Day is coming: how vulnerable are you to AI-enabled romance scams?)指出, 人工智能聊天机器人可以全天候陪伴,迅速回复信息,并根据对方的反应即时调整语气、话题和情绪强度。

诈骗者往往精准锁定一些人的心理弱点,包括孤独、冲动、对权威人物的信任以及对先前承诺保持一致性的心理需求。诈骗者通过人工智能分析人们社交媒体资料,大幅加快了心理操纵过程,建立起受害者的详细资料,识别不同人的近期遭遇和情感脆弱点。他们利用收集技术,从约会平台、社交媒体个人主页以及公共论坛中抓取照片、语音样本和个人信息,并将这些数据输入人工智能系统,生成内容。

研究人员指出,在使用人工智能的恋爱骗局中,“最主要的危险,并不只是视觉方面的‘完美仿真’,而在于它能够自动进行成千上万次同步且高度个性化的对话”。

相比以往恋爱骗局需要投入大量时间、诈骗分子需要使用个人社交技巧,才能逐渐建立关系,使用AI技术的诈骗往往借助大型语言模型,针对不同人的兴趣爱好、心理脆弱度和沟通方式而量身定制“情感共鸣”的对话内容。

专家:深伪技术下 眼见未必为实

专家还表示,在深伪技术下,眼见未必为实。加州大学伯克利分校的研究人员曾分析一段15秒的恋爱诈骗视频,但即使对于检测深度伪造的专家来说,判断视频的真实性也颇具挑战性,因为视频中人物的声音和口型经过合成处理,这让受害者误以为心仪的伴侣在亲切问候自己。

该大学高级讲师莱斯利·兰德(Lesley Land)博士指出:“恋爱骗局的诱骗阶段最具欺骗性,因为它通常会在较长时间内利用心理操控手段。因此,逼真的深度伪造技术有可能更快地制造更深层次的骗局,并使潜在受害者更难对恋爱骗局保持怀疑和警惕。”

兰德同时强调:“防范所有类型的诈骗,需要在个人、社会和政府层面提高警觉与开展教育。”她解释说,在社会、国家和国际层面通报诈骗手法和案例至关重要。

周一(2月9日),澳大利亚银行协会(ABA)也提醒公众高度警惕利用人工智能的情感诈骗,包括深度伪造的看起来“毫无瑕疵”的照片和“完美”的个人简介以及情绪浓烈的对话。

该协会首席执行官西蒙·伯明翰(Simon Birmingham)表示,人工智能的进一步发展,让人们越来越难以分辨是恋爱还是骗局,人工智能让犯罪分子比以往任何时候都更容易冒充所谓的完美伴侣。

“我们也敦促联邦政府在反诈骗框架下,追究约会应用程序平台的责任,要求它们加强保障措施……对它们实施更严的标准。“

新数据:恋爱诈骗损失攀升

上周,澳大利亚国家反诈中心发布2025年最后一个季度的诈骗案件统计数据,数据显示, 2025年,恋爱骗局的举报数量和损失金额均有增加。

该中心指出,在澳大利亚,恋爱骗局仍是造成经济和心理双重损失最严重的财务犯罪之一;2025年1月至12月期间,此类骗局导致约 2860 万澳元的经济损失,较之前增加了 21.8%,涉及 1330 名澳大利亚人。诈骗分子主要通过网络渠道联系受害者,如社交媒体、约会平台和在线论坛。

澳大利亚竞争与消费者委员会代理主席卡特里奥娜·洛伊(Catriona Lowe)指出,犯罪分子利用科技、信任和情感来谋取经济利益。她提醒公众,向诈骗监察服务机构(Scamwatch)举报可疑活动,提供所掌握的信息,可以有效保护他人,防止进一步的损失。

她强调,这些犯罪分子不仅会窃取钱财,还会造成受害者严重的心理创伤,甚至导致精神健康危机和家庭破裂,“一定要尽早与家人和朋友沟通你在网上建立的关系,因为诈骗者往往通过孤立你来增强控制,让你相信他们所说的话”。

她也建议,切勿将现金、加密货币或礼品卡寄给未曾亲自见过面的人,也不要轻信来自网络联系人的投资建议,与自己信任的人交流,并在发现资金被转移后立即联系银行。

欢迎下载应用程序SBS Audio,订阅Mandarin。您也可以通过YouTube、Apple Podcasts、Spotify等平台随时收听SBS普通话音频内容。请在YouTube、X、Instagram、微博和微信平台关注SBS中文,了解更多澳洲新闻。


分享

SBS中文

注册SBS中文newsletter即可获取最新资讯

一旦订阅,意味着您认同SBS的服务条款隐私政策,包括接收来自SBS的电邮更新。

关注SBS中文

下载我们的应用程序

收听我们的播客

通过您最喜欢的播客应用程序,收听我们独家的SBS普通话播客获取最新信息。

在SBS收看节目

Simplified Chinese Collection

Watch onDemand

Watch now