热点事件发生后，有人利用AI生成的假“照片”引流吸睛；网络直播间里，有人利用AI生成的假“名人”疯狂带货；现实社会中，有人利用“AI换脸”实施诈骗……

不时曝出的此类案例，让不少人“破防”，更引发人们对AI滥用的担忧。近日，国家互联网信息办公室、工业和信息化部等多个部门联合制定的《人工智能生成合成内容标识办法》正式施行。办法聚焦人工智能生成合成内容标识的关键点，从服务提供、内容制作、产品传播等各个环节，对AI参与内容生产提出具体要求。

办法的颁布实施，将对规范AI参与内容生产、防范AI被滥用立规矩、画方圆。

近年来，生成式人工智能取得长足发展，广泛应用于人们日常生活的许多场景。新技术的运用，为经济社会发展注入强劲动能，也带来一系列滥用的新问题。

此前，“广州限制外卖配送”“河南信阳市中心体育馆惊险崩塌”……诸如此类“有图有视有真相”的重磅“消息”，曾在网上广泛传播，引起大量网民关注。警方随后调查发现，这些耸人听闻的“消息”，是不法分子使用AI制作的网络谣言。

“名人效应”也是不法分子利用AI造假的重要动机。比如，一些不法商家盯上多位奥运冠军，通过AI“盗声”等方式，虚构奥运冠军为自己带货。

人工智能就像一柄双刃剑，利用得好，能够为工作、学习增添助力；AI被滥用，就会损害个人权益、搞乱网络环境、带偏社会风气。

利用AI生成的内容常常生动逼真，又没有相关的标识说明，一些不法分子甚至专门针对网民“量身打造”行骗内容，普通民众很难辨别真假。

相关部门推出的《互联网信息服务深度合成管理规定》明确提出，“任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。”这为利用AI进行内容生产划定了底线和红线。

该规定第十七条提出，深度合成服务提供者提供服务，“可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况”，从而给AI生成合成内容需要标注提出了法治化要求。

这次实施的《人工智能生成合成内容标识办法》，是《互联网信息服务深度合成管理规定》的配套制度要求。办法第四条明确规定，服务提供者提供的生成合成服务，属于《互联网信息服务深度合成管理规定》第十七条相关情形的，“应当”按照相应要求对合成内容添加显著的提示标识。

办法从AI生产内容的制作源头开始全链条发力，对AI生成内容服务的提供者、使用者、发布者、平台等多角色开展约束，全方位完善制度体系，为防止AI滥用树起了制度围栏。

徒善不足以为政，徒法不能以自行。

从今年3月印发到9月正式施行，《人工智能生成合成内容标识办法》给相关单位留出了相对充分的准备时间。全面开展宣传普及，让办法贯彻实施下去，为防范AI滥用发挥出应有效用，需要全社会合力推进。

生成合成内容服务提供者，要为落实标注要求提供坚实的技术支持，让使用者开展标注可用、好用、易用。

相关企业和个人需要仔细掂量自己利用AI生产的内容，是否会损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益，做到知法、守法。对于违法行为，应当严厉查处，以儆效尤。

传播平台同样要承担起把关责任，既要“技防”也要“人防”，多管齐下，严防应该标注却没有标注的AI生产内容违规发布。

治理AI滥用难题，还需要健全处置机制，强化执法协同，用好群众力量，提升违规问题的发现能力和惩处效率。

为技术使用立好规矩，使用者、传播者各司其职守好内容真实的底线，AI这项未来可能越来越深入、越来越广泛影响我们日常生活的强大技术，才能趋利避害，不断催生新场景、新业态，赋能千行百业，服务千家万户。

题图漫画：潘红宇

微软将在英国投资300亿美元 用于人工智能基础设施建设与运营　　炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！（来源：财联社）财联社9月17日讯（编辑牛占林）微软当地时间周二表示，公司计划未来四年内在英国投资300亿美元，用于建设人工智能基础设施