“AI诈骗正在爆发” AI反诈必须尽快跟进 热文

2023-05-25 14:13:15 来源: 羊城晚报


(资料图片)

□然玉

话题“AI诈骗正在爆发”,最近冲上微博热搜。近日,内蒙古包头市公安局发布一起使用智能AI技术进行电信诈骗的案件,福州市某科技公司法人代表郭先生10分钟内被骗430万元。骗子通过智能AI换脸和拟声技术,佯装好友对他实施了诈骗。郭先生拨打好友电话,才知道被骗。警方表示,一些诈骗分子利用社交平台发布的视频,截取面部视频画面后再利用“AI换脸”技术合成,制造与“好友”视频聊天的假象骗取其信任,从而实施诈骗。(中新社)

技术天然是中性的,无所谓善恶。一项突破性的技术,强大力量与生俱来。能不能约束和驾驭这股力量,决定了这项“技术工具”在现代社会所发挥的现实影响!当下而言,实现了质变进化的生成式人工智能,无疑走到了关键的十字路口。诚如我们所看到的,AI诈骗、AI造假事件近来密集发生。此类典型个案,显然预示着某种一般性的风险。也即,过往那种基于生物信息、知识壁垒、专业身份等等所建构的关乎真实与安全的社会防线,正备受考验。

有人运用“AI换脸”冒充好友视频聊天借钱,辅之以毫无破绽的“声音合成”,简直可以以假乱真。在很多人的潜意识里,活生生的视频、面对面的对话,那种基于“声画一体”所形成的神经反射式感官反馈,足以形成“就是他本人”的笃定判断。然而,AI技术带来了新的挑战,也即“是他又不是他”。倘若角色视角互换,这就是个如何证明“我是我”的命题。非常之哲学,非常之悬疑,非常之惊悚。毕竟,稍有不慎,就可能搭进去真金白银。

不管愿不愿意承认,一个显而易见的状况是,相比于生成式人工智能一日千里的演进,人类社会那套基于记忆、经验、直觉、印象以及简单肖像特征来“识人”的认知体系千古未变,时至今日这套系统正在趋于瓦解和失效。“眼见为实”,越发成为一种错觉式的存在,乃至被不断打脸、不断证伪。当然,就算如此,也大可不必陷入“技术悲观主义”的怅然情绪中,须知,围绕“技术工具”的善恶交锋、攻防对垒,本就是现代社会的常态,且结果往往都导向了积极的一面。

基本的逻辑是,随着AI技术的量产化、白菜化、通用化,其门槛和成本越来越低,使用者越来越多,由此注定会导致与之相关的侵权、违法案例越来越多发。可以预见,在未来的一段时间,民众或许会哀叹,“AI造假层出不穷,AI诈骗防不胜防”。为此破局,一方面要强化公共宣教,确立新的防骗反诈意识;另一方面,更重要的还是加快防御性、对抗性技术工具的推广落地和应用嵌入。比如说,不妨尝试在常用的社交媒介软件中,内嵌入声纹、人脸识别的身份核验模块。如此这般,或许能少些“换脸冒充借钱”之类的案件吧。

(作者是知名媒体评论员)

每日热点