研究发现：人屡被仿冒！合力斩断AI造假的黑手

垩摄冷光源

近期，多起知人士被AI仿冒事件引发关注。有账号仿冒知医生，深夜带货推销所谓“保健品”。虽然很被友识破，但对医生本人造成很大困扰，当事人多次投诉，账号仍屡禁不止。一段时间内，AI生成内容带有明显加工痕迹，大家尚能识别。随着技术发展，AI生成的画面、声音、视频越来越逼真，普通用户愈发难辨真伪。一些不法商家为躲避监管，通常选择在深夜直播，有的利用老年人警惕性弱、对新技术不了解，精准对其进行“收割”。AI造假触及的不止直播带货。有不法分子利用AI技术编“伪消息”、造“假新闻”，取民关注点赞，现流量变现。部分诈分子，深度合成受害者亲属、同事声音画面，精准施。严防AI造假，关系社会秩序，也关系公民权益，是一个很迫切的话题。近来相关法律法规相继出台，《互联信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等都在内容审核、信息安全方面对生成式AI提出了要求。今年9月，信办发布《人工智能生成合成内容标识办法（征求意见稿）》，进一步提出刚性约束。AI技术发展突飞猛进，带来了新奇体验和产业进步，与此同时，不法分子也千方百计为谋私利钻空子。面对新挑战，确需要想一些新办法，全方位提升防造假的能力。络平台的责任不可推卸，需要不断提升技术手段，加强审核识别，识别深度伪造内容。对于疑似AI生成的内容，应考虑在明显位置进行标识提醒，并做好相关内容的后台存储备案，以防止不法商家一删了之。监管部门应严格执法，对利用AI技术进行不法行为的人员和机构追根溯源、严查严处，加大震慑力度。友则应提高警惕，加强防范，多方求证，增强信息辨别能力。技术发展有其自身规律，关键在于使用技术者，须怀揣一颗向善之心。期待多方协同发力，清扫AI造假乱象，让AI成为造福社会的超级助手，不能沦为不法分子的行工具。

上述的结论表明新野很大程度上能够给市场带来新的活力，让行业良好的发展。https://create.xingyeai.com/