陈纯 任奎：生成式人工智能安全治理法治化路径
2026-09-11
以下文章来源于中国网信杂志，作者陈纯 任奎以大模型为代表的生成式人工智能，正在从技术突破走向规模化应用。文本、图像、音频、视频、代码和多模态内容可以被低成本生成、编辑、传播，智能体、工具调用和行业模型进一步推动人工智能嵌入政务、金融、教育、医疗、工业、交通、媒体等重要场景。人工智能由“辅助工具”向“生产系统”和“治理对象”双重角色演进，既为发展新质生产力，推进网络强国、数字中国建设提供重要支撑，也对网络空间治理、公共安全、社会信任和国家安全提出新的挑战。生成式人工智能安全治理进入体系化推进新阶段生成式人工智能安全风险具有明显的复合性和传导性。一是内容真实边界被不断模糊。深度伪造、虚假图片、仿真音视频和机器批量生成文本，可能造成身份冒充、舆论误导、网络诈骗和社会恐慌。二是算法决策影响从线上信息分发扩展到线下资源配置。模型训练数据、参数权重、提示词策略和输出过滤机制共同塑造服务结果，传统的单点监管难以覆盖模型全链条。三是数据安全和个人信息保护压力上升。训练语料、用户输入、交互日志、插件调用和行业知识库均可能包含敏感数据，若缺乏有效治理，容易形成泄露、滥用和跨境流动风险。四是责任链条更为复杂
