发布时间:2024-12-06 05:39:29 来源: sp20241206
随着AI技术的发展,变脸、拟声的深度伪造现象也随处可见。一些人利用这样的先进技术,实施针对老年人的诈骗。有哪些AI新型诈骗方式?如何防范?一起了解。
AI变脸拟声 新型技术针对老年人实施诈骗
9月1日,北京大学国家发展研究院教授李玲发布了一份公开声明,称“近期网上出现了大量假冒本人推销医药书籍和治疗手段的虚假视频,大多是人工智能AI合成。本人从未在任何平台推销过医药书籍和医疗产品,请大家不要上当受骗”。
随后,李玲教授向警方报警。
北京大学国家发展研究院教授 李玲:我觉得这个,不仅损害我的利益,更多的其实是损害了公众的利益。因为老年人更关注健康,会实施一些养生的方法、治疗的方式。所以特别希望我们老年朋友们一定要识别,要看清楚,你买他的东西,他是不是这一行的专家?像我是搞政策的,这个治疗,我不是行家,不会推荐的。
除了卖东西给老年人,更可怕的,还有利用这种深度伪造的技术,实施针对老年人的诈骗。
武汉市公安局汉阳分局琴断口派出所民警接到辖区银行报警,称先后有两位老人,要求提前支取定期存款,疑似遭到了诈骗。而两位老人并不认识,只是碰巧在同一个银行取钱。
武汉市公安局汉阳区分局琴断口派出所民警 胡楚文:肖婆婆接到电话,说她上大学的孙子跟别人起了冲突,把对方打伤了,现在正在派出所调解。杨爹爹接到电话,说他的孙子,在路上出了交通事故,需要跟对方私了,因为担心影响后面的工作。
民警向老人解释了AI诈骗的套路,老人都声称,电话里的声音和自己的孙子一模一样。经民警联系家属确认,两位老人的孙子,并没有电话里的情况发生。
武汉市公安局汉阳区分局琴断口派出所民警 胡楚文:目前这两个案例,已经非常充分说明,现在的AI技术已经可以模拟声纹、人的面容,所以你所看到的、听到的,都不一定是真的。
还有更极端的事情。一位母亲正和女儿视频聊天,女儿在视频里抱怨“生活费不够用了”,就在这时,家门打开了,她的“真女儿”走了进来。而另一头,视频里的“假女儿”还在央求母亲“给生活费”。
加强治理 帮助老年人防范新型诈骗
在利用新技术进行的新型诈骗中,老年人是弱势群体。他们分辨力低,但平时也离不开手机的使用。如何帮助老年人防范这样的陷阱,也成为大家关心的问题。
在上海和平公园,虹口公安分局民警为现场老年人讲解了当前常见的投资理财诈骗、网络贷款诈骗等电信网络诈骗手段。
在辽宁大连,一场包含AI互动、反诈宣传、知识科普等主题的反诈宣传活动也吸引了不少老年人前来,沉浸式学习预防电信网络诈骗犯罪的相关知识,提升防骗能力。
9月8日开幕的2024年国家网络安全宣传周上,就专门设置了关于AI换脸、换声等对个人隐私侵害的反诈宣传展位。
中国网络空间安全协会人工智能安全治理专业委员会委员 张博:除了换脸之外,如果再结合换背景环境、换声音等等,那样逼真度就会更高,更加难以分辨。
近几年,我国对于规范人工智能生成、合成、使用上一直在采取积极措施。
2022年12月,国家网信办等三部门发布《互联网信息服务深度合成管理规定》,旨在加强互联网信息服务深度合成管理。
2023年7月,国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》,在鼓励创新与发展的同时,进一步完善人工智能管理体系。
2024年7月,国家金融监督管理总局金融消费者权益保护局发布风险提示,提醒公众防范“共享屏幕”“AI换脸拟声”等新型电信网络诈骗。
2024年9月14日,国家网信办发布《人工智能生成合成内容标识办法(征求意见稿)》。
《人工智能生成合成内容标识办法(征求意见稿)》中提出:
人工智能生成合成内容标识包括显式标识和隐式标识。
网络信息服务提供者在提供生成合成内容下载、复制、导出等方式时,应当确保文件中含有满足要求的显式标识。 【编辑:史词】