新华网@德国政府:人工智能视频“换脸”技术有巨大社会风险

新华网@德国政府:人工智能视频“换脸”技术有巨大社会风险。  新华社柏林12月6日电 据德国《南德意志报》6日报道 , 德国联邦政府近日在答复国会议员质询时表示 , 人工智能视频换脸技术蕴含巨大社会风险 。

  据报道 , 德国联邦政府在书面答复中称:人工智能视频换脸技术会从根本上削弱公众对录音和录像真实性的信任感 , 因此也会降低公共信息可信度 。 这种技术一旦被用于操纵舆论 , 将给社会和政治带来巨大风险 。

新华网@德国政府:人工智能视频“换脸”技术有巨大社会风险。  德国联邦政府称 , 目前包括德国外交部、内政部和司法部在内的联邦政府多个部门都在研究如何应对人工智能视频换脸技术带来的挑战 。 德国教育部和国防部则在资助甄别造假视频的研究项目 。

  德国联邦议会3名自民党议员此前要求德国联邦政府说明对人工智能视频换脸技术的立场 。 针对联邦政府的答复 , 参与提问的自民党议员曼努埃尔赫费林呼吁德国联邦政府尽快制定统一对策 , 尤其要考虑防范这一技术对未来选举的影响 。

  赫费林说 , 人工智能视频换脸技术目前主要有三大风险:降低了造谣门槛 , 削弱了基于语音、影像特征的个人身份识别技术的可靠性 , 以及容易对女性造成名誉损害 。 有调查表明 , 目前互联网上流传的人工智能换脸视频绝大多数为色情视频 。

  随着手机运算能力的进步和软件发展 , 视频换脸技术门槛大大降低 , 普通人也能使用手机程序制作换脸视频 。 仅需上传个人照片 , 就可将自己的脸与视频中人的脸进行替换 。 目前有多款软件宣称可提供用于娱乐的人工智能视频换脸功能 。


    推荐阅读