刘德华给你打来了视频电话?别信,这或许是AI换脸在骗你。AI换脸技术诞生之初,人们将自己的脸“移植”到影视角色、明星身上进行娱乐。如今这一技术却沦为诈骗、侵权,尤其是直播带货骗局的“新型作案工具”。

　　刘志坤　岳致呈　实习生　王心铭

济南报道

名人“被代言”

公众遭欺骗

　　日前,全国人大代表、小米集团创始人雷军在全国两会期间呼吁立法严管“AI换脸拟声”滥用。“去年‘十一’,有网友说,放了7天假,被我整整骂了8天。”雷军说。雷军的声音、形象被不少网友利用AI技术伪造,用于制作恶搞视频甚至带货。雷军曾在个人社交媒体上公开表示:这种“雷军语音包”让自己非常困扰,带来了不好的影响和感受。

　　不止是名人,普通民众也深受AI换脸技术的侵害。去年12月,江西65岁老人通过抖音网恋AI“靳东”,欲贷款200万资助对方拍戏,被民警演示AI换脸技术后才意识到自己上当。

1980元一张AI脸

识别越来越难

　　近日,记者调查发现,网络上存在一种“AI换脸”的定制服务。这种AI脸可用于各大平台,视频通话和直播都能胜任。先在平台发帖宣传,再通过平台群聊发布商家个人联络方式,这项服务的交易最终在微信进行沟通,以银行卡转账的方式进行。

　　“想要的话就发一张正脸照片,五小时之内就能做好。”一家AI换脸公司的工作人员李立(化名)介绍,“AI换脸”定制服务以“先定金后尾款”的方式进行。一张AI脸的价格全款1980元,定金500元,已经有成品的名人AI脸则只需980元。支付尾款后卖家还会免费提供安装教学和变声器。据李立介绍,近期来“画皮”的人很多,公司已超负荷运行。“我们这里有七八台设备,每天都要做到凌晨。”

　　不同于以往的AI换脸,新技术已经实现声音与图像的实时同步克隆,使得伪造视频在视觉和听觉上都达到了近乎完美的程度,识别难度大大提升。

　　“已经跟直接录制人像视频没什么区别了,就是专业的技术人员都认不出来。”齐鲁壹点大数据中心专家王智直言,目前AI换脸技术已经相当成熟。“尤其是中老年人,他们的分辨能力比较差,而且跟不上AI技术的发展,这方面遇到的问题会更多。”

AI乱象还需

加强法律制约

　　过去人们往往通过挥手来大幅遮挡面部,观察面部图像闪现、抖动等异常来识别对方是否为AI合成的假脸。然而随着技术进步,这些传统手段渐渐不再有效。

　　“分辨的方式主要是观察嘴型跟声音。”王智指出,AI合成的人像嘴型和正常人仍然存在区别,声音往往似像非像。如果视频中的人物一直坐着不动,不进行转身,或者手部动作很少,那么该视频有很大概率是使用了AI技术。

　　“我们对AI的担忧,其实是技术发展进步过程中常有的现象。”山东大学哲学与社会发展学院硕士生导师王元超解释,AI技术发展本身就会带来一定的问题,但我们需要讨论的不是技术本身,而是社会该如何去引导它的发展。

　　“这个工具确实很好。”王智说,我们期待伦理和法律追上甚至引领技术的发展,打击技术滥用,更好地保护消费者权益,重塑数字时代的信任基石。