“AI换脸”以假乱真,规范人工智能的步子要快些

发布时间:2024-12-06 01:42:28 来源: sp20241206

  在某些人工智能技术应用门槛不断降低而触达面越来越广的当下,积极着手问题的研判与应对,研究出台有效举措划清新技术使用的边界、相关权责等,都应当快马加鞭,少一些空白、多一些规范。

  近来,著名小品演员、相声演员“飙英文”的视频让公众大呼震惊。据11月5日央视报道,视频网站上通过人工智能换脸,国产影视剧里的主角用英语说起了台词,人们通过小程序也可以将自己变成电影里的人物。该新技术给人们带来欢乐的同时,也带来了一种名为“AI换脸诈骗”的新骗术,不法分子通过虚拟摄像头,用“AI换脸”功能跟受害者聊天,相似度可达80%,而一台电脑合成一段10秒的换脸视频只需要一两分钟。为此,国家金融监督管理总局北京监管局近日发布谨防“AI换脸”等新型欺诈手段的风险提示。

  “AI换脸”来了,这让不少人感受到人工智能技术正在改变我们的生活。除了用于开发娱乐性小软件外,人工智能技术正在被广泛应用于医疗、新闻传播、生物多样性监测等领域,其发展前景值得期待。

  人工智能技术迅速发展,技术升级迭代的速度超出很多人的想象。在文字写作上,今天,相关技术可以实现用简短素材短时间生成复杂内容,其专业性、便捷性很强。以前的人工智能合成语音相对粗糙生硬,如今合成的语音不仅有着与真人一样的语气语调嗓音,甚至还有了情绪。

  此外,某些人工智能技术的可及度提升,公众的应用门槛降低。用户使用某些人工智能软件并不需要具备专业知识和技能,甚至有些产品已实现“傻瓜式操作”。比如,很多视频剪辑软件或短视频平台上就有生成方言语音的功能,用户录入文字或语音素材就可以即刻生成活灵活现的方言版字幕,丰富自己的视频作品风格。

  以“AI换脸”为例,其行业门槛并没人们通常想象的那么高,通过算法开源,普通工程师可以“分分钟”制作出一个变脸软件,这就导致控制源头存在天然的困难。几年前,一名外国工程师基于一个算法开源项目开发了某款变脸软件,一时间,很多人在参加线上视频会议时都纷纷化身“阿凡达”“马斯克”,令人啼笑皆非。

  问题随之而来,一是人工智能终端产品已经铺天盖地,但鉴别技术和设备却未能普及,二是相关规制约束没能及时跟上技术发展的脚步。这些在很大程度上让某些人工智能技术有了被滥用的空间,公众的担心由此而起。

  应该看到,相关监管一直在持续发力。近几年,国家网信办等部门先后出台了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等政策文件,陆续开展了“互联网深度合成算法备案”“大语言模型算法备案”等有关工作,有效促进了生成式人工智能的健康发展和规范应用,对利用AI换脸、变声等手段实施违法犯罪等行为形成有力震慑。同时,一些头部互联网平台也在探索算法检测、软件识别等办法来识别人工智能生成产品并向公众标注说明,减少信息差,提升公众防范意识。

  一项新技术的落地应用往往会经历一段“成长的烦恼”,这是新事物发展过程中的共性问题。比如近年来的共享单车押金难退、伤亡责任纠纷,直播带货虚假宣传、售后难觅等等。有关方面解决问题的共同思路就是加快规制步伐,不断补上法律法规和行业公约等“拼图”。同样,在某些人工智能技术应用门槛不断降低而触达面越来越广的当下,积极着手问题的研判与应对,研究出台有效举措划清新技术使用的边界、相关权责等,都应当快马加鞭,少一些空白、多一些规范。

  某种程度上,人工智能技术的使用有多方便,就可能有多少风险和变数。防范包括“AI换脸”在内的人工智能技术被滥用,要加强对人脸、声纹、指纹、步态等生物信息数据的安全防护。这需要每个人提高防范意识,更需要监管部门在完善规制的进程上加快脚步。(本报评论员 吴迪)

  来源:工人日报 【编辑:曹子健】