多措并举防范和打击AI诈骗

(资料图)

原标题：多措并举防范和打击AI诈骗

近日，内蒙古包头警方公布一起使用AI技术进行电信诈骗的案件，骗子通过智能AI换脸和拟声技术，通过微信佯装好友对当事人郭先生实施了诈骗，使其在10分钟内被骗430万元。消息一出，“AI诈骗正在爆发”相关话题冲上了微博热搜。

微信账号是好友的，通过视频确认，样貌、声音也是“好友”的，就算这样还是被骗，难免让人觉得防不胜防。的确，类似案例发生过不少：骗子利用AI换脸技术伪装成陈先生好友，视频聊天骗取其信任后实施诈骗；骗子冒充李先生的领导打来微信视频电话，称亲戚参加竞标需要资金，自己不便出面，想借李先生的名义转给亲戚，李先生因此被骗4.8万元，等等。以前，许多人相信“眼见为实”，通过视频电话就能确认是不是本人，现在看来，不仅“耳听为虚”，眼见也不一定为实，AI以假乱真的水平令人不寒而栗。

针对AI诈骗新骗局，郴州、伊犁、锦州、滨州等地网警都曾明确提示过“被骗几率高达100%”。一方面意在纠正“眼见为实”的认知，通过宣传诈骗新套路，提升人们的防范意识，正所谓“受骗无关乎智商，在于你是否‘知道’”；另一方面说明，AI技术被滥用的风险不可忽视。“AI诈骗正在爆发”词条背后，透着一种较为普遍的担忧：如何防范骗子利用AI伪装熟人？技术是把双刃剑。对AI换脸、换声背后的深度合成技术，既不能因噎废食，也不能放任自流。伴随着新技术发展，AI反诈工具也在不断迭代。今年1月10日施行的《互联网信息服务深度合成管理规定》给深度合成服务划定“底线”“红线”，也是旨在降低这项技术伴生的社会风险。

单在AI治理上下功夫还不够。一般而言，电信诈骗有四个关键环节：精准信息获取、诈骗脚本设计、通讯联络诱导、资金支付转移，盗号、AI换脸伪装熟人视频聊天、转账收款，一环扣一环。正如中国信息通信研究院发布的《电信网络诈骗治理与人工智能应用白皮书》所指出，个人信息泄露是精准诈骗的根源，郭先生被骗一案中，“好友”的账号被盗用，面部、声音等生物特征信息泄露，都加剧了识别骗局的难度。故而，预防和打击AI诈骗，尤其要注意深化个人信息保护。与此同时，还要不断提升技术防范能力、加强警示宣传教育，多措并举预防和打击AI诈骗，防范AI滥用风险。（维辰）

关键词：