近日,随着人工智能生成技术的普及应用,AI虚假信息、低质“数字泔水”、内容恶意篡改、数据污染等“AI污染”问题日益凸显,扰乱网络传播秩序、误导公众认知、侵害群众合法权益,成为数字生态治理的突出难题。为规范人工智能应用秩序、净化网络内容生态、护航AI产业健康有序发展,各地网信、监管部门立足源头防控、全程管控、长效治理,坚持防管结合、标本兼治、技管协同,多措并举开展“AI污染”专项治理行动,全方位筑牢人工智能安全治理屏障。
当前,“AI污染”呈现传播快、伪装性强、覆盖面广、溯源难度大的特点。部分平台和个人滥用AI技术生成虚假图文、拼接篡改经典内容、炮制低俗劣质信息、制造不实舆论内容,大量低质、虚假、同质化的AI生成内容涌入网络空间,形成“数字垃圾”堆积现象。同时,部分AI模型训练存在语料数据不规范、数据投毒、安全审核缺失等问题,从源头滋生内容污染风险,不仅破坏清朗网络生态,也给信息传播、社会治理、知识产权保护带来诸多挑战,规范AI应用、整治AI乱象已成为网络治理的重要课题。
治理“AI污染”,重在源头预防、前置设防,从根源阻断污染滋生链条。各地坚持治理关口前移,聚焦AI技术研发、模型训练、内容生产全链条,压实互联网平台主体责任,督促平台严格落实大模型备案登记、安全评估、内容审核等制度,严把数据入口、训练语料、生成输出三道关口。针对AI数据污染、素材失范、违规生成等源头问题,强化技术防控体系建设,依托人工智能内容识别、智能筛查、溯源核验等技术手段,搭建智能化防控体系,精准甄别AI虚假内容、篡改内容、劣质内容,实现违规内容提前预警、自动拦截、前置过滤。同时,严格落实《人工智能生成合成内容标识办法》及相关国家标准,督促平台对AI生成内容规范标注标识,明确内容来源、厘清责任边界,从源头杜绝无底线滥用AI技术的行为。
治理“AI污染”,贵在从严监管、精准管控,以刚性约束规范行业秩序。依托全国“清朗·整治AI应用乱象”专项行动部署要求,各地持续加大执法监管力度,聚焦AI技术滥用、虚假信息生成、恶意内容传播、开源模型管理薄弱等14类突出问题,开展常态化排查整治。坚持问题导向,重点整治未落实AI内容审核机制、违规提供AI生成服务、传播AI虚假低俗内容、利用AI“魔改”内容博流量等违规行为,对整改不力、屡查屡犯的平台和主体依法依规严肃处置,形成有力震慑。同时,构建多部门协同监管机制,打通网信、公安、文旅、市场监管等部门监管渠道,实现信息共享、线索互通、联合处置,破解AI内容溯源难、监管碎片化、处置不及时等治理痛点,形成全方位、立体化的监管格局。
为实现长效治理,各地坚持防管并举、治建同步,持续完善AI治理体系,推动治理工作常态化、制度化、规范化。一方面,强化行业自律,引导人工智能企业、互联网平台树立合规经营理念,健全内部安全管理制度、内容审核机制和风险防控体系,主动提升AI鉴伪、内容净化、风险处置能力,从企业端筑牢合规防线。另一方面,加强宣传引导和科普教育,面向网民普及AI虚假内容甄别技巧,提升公众辨别“AI污染”信息的能力,引导网民自觉抵制、主动举报AI违规不良内容,构建全民参与、共建共治的治理格局。此外,持续优化技管结合治理模式,以技术赋能监管、以制度规范技术,推动AI技术创新与安全治理协同发展,杜绝“重发展、轻监管”“重整治、轻预防”的片面治理模式。
业内专家表示,人工智能是数字经济发展的核心动能,规范发展是前提,安全有序是底线。“AI污染”治理并非限制技术发展,而是通过科学防控、严格监管,剔除行业乱象、净化发展环境,为AI产业高质量发展保驾护航。下一步,各地监管部门将持续坚持防管结合、标本兼治,不断细化治理规则、升级防控技术、强化监管效能、健全长效机制,持续整治各类AI应用乱象,坚决遏制“AI污染”蔓延扩散,持续净化网络空间生态,让人工智能技术在规范、安全、有序的环境中赋能社会发展、惠及民生福祉。