打个视频电话、看条视频信息就能确定是本人吗?近日,媒体报道了北京市民李先生接到“亲友”视频通话,称遭遇事故急需用钱,李先生给其转账后才发现被骗。北京金融监管局相关负责人介绍,近期接到群众举报的网络金融诈骗案件中,“AI换脸冒充亲友”这类数字新骗局较为典型。
随着AI大模型迎来爆发式发展,许多网民开始使用AI辅助工作和生活。但也有很多问题随之而来。有人利用“AI换脸”进行诈骗,有人用“AI换脸”软件冒充名人,还有人将他人照片合成淫秽影像……“换脸技术”的滥用,让不少人深受其害。“AI换脸”不能想换就换,相关部门应尽快建立规范,加强治理,严厉打击非法利用AI造假行为,别让AI技术成为不法分子的牟利工具。
(图/朱慧卿 文/魏燕)