摘 要:人工智能是引领新一轮科技革命和产业变革的战略性技术，其治理之道攸关发展全局和人类未来。当前，人工智能技术演进、风险形态、全球格局正经历深刻转变，传统治理范式面临系统性挑战。以高水平治理护航人工智能向上向善发展，要恪守以人为本、聚力自立自强、秉持公平普惠；坚持辩证思维，把握好“快”与“稳”、“放”与“管”、“内”与“外”三组关系；坚持系统施策，从夯实发展基础、健全协同机制、强化技术赋能、筑牢安全底线、完善制度体系、深化全球合作等方面综合发力，推动人工智能高质量发展行稳致远。

关键词：人工智能治理 向上向善 以人为本 公平普惠

【中图分类号】F124 【文献标识码】A

2026年7月，习近平主席在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上发表主旨讲话时指出：“人工智能技术发展越是一日千里，向上向善、造福人类的方向越要正确锚定，监管治理的尺度越要精准把握，防范失控的措施越要及时完善。”[1]当前，人工智能技术演进进入加速期，风险形态日趋复杂，国际治理博弈持续深化。如何以高水平治理护航人工智能向上向善发展，已经成为推进国家治理体系和治理能力现代化必须回答好的重大课题。

把握人工智能治理面临的新形势新挑战

人工智能作为关键新兴变量，正在深刻改变生产方式、生活方式和社会治理方式。面对人工智能技术加速迭代、应用深度渗透、风险复杂交织的新形势，准确把握人工智能发展趋势和规律，加强人工智能治理，才能切实推动我国人工智能健康有序发展。察势者智，驭势者赢。把握治理方位，亟需认清当前人工智能演进中的三个深刻转变。

技术演进之变。人工智能技术从“数字”走向“物理”，治理对象更加复杂。人工智能发展早期主要在数字空间内运行，影响范围相对可控、边界较为清晰。随着大模型、智能体等技术的持续突破，人工智能系统能够自主规划、调用工具、完成任务，正在全方位、深层次渗透到制造、物流、医疗、养老等物理场景，具身智能的快速发展，使机器人、智能网联汽车等物理实体具备感知和行动能力。据工信部披露数据，2026年上半年我国各类智能终端出货量超1亿台，人形机器人产量超4万台，全年预计破10万。[2]技术形态的跃迁，使人工智能的影响从信息流、数据流延伸到物理世界的真实行动，直接关系经济运行和社会运行的关键环节，人机关系也从“人指挥机器”向“人机协同”乃至“机器自主”演进。技术演进之变，意味着治理对象从单一算法模型治理，转向覆盖模型、数据、算力、场景、系统的全链条治理。技术、产业、社会之间的耦合日益紧密，人工智能治理需跟上技术渗透的步伐，做到技有所进、治有所应。

风险形态之变。人工智能风险从“显性”走向“隐性”，治理关口需要前移。人工智能发展初期，风险多表现为虚假信息、隐私泄露等可观察、可归因的显性问题。随着模型能力持续跃升，风险形态正向更深层、更隐蔽的方向演变：既有模型幻觉、语料污染、模型失控等技术内生风险，也有就业冲击、智能鸿沟拉大、伦理失序等社会衍生风险。一方面，隐性风险潜伏期长、传导链条复杂、波及范围广，一旦集中释放，可能造成系统性影响，传统“事后监管、被动应对”的治理范式已难以为继。另一方面，模型参数规模庞大、决策过程不透明，可解释性、可审计性不足，给责任认定、权利救济和监管执法带来困难。例如，自动驾驶事故的责任划分、具身智能体行为边界的设定、人机协同场景中安全责任的界定等，都是传统治理框架未曾遇到的新问题。风险形态之变，意味着人工智能治理面临典型的“科林格里奇困境”，即技术发展初期往往难以预见其全部后果，待到后果充分显现时，技术又已深度嵌入社会、难以有效控制。要摆脱这一困境，需推动治理关口前移，把风险研判、监测预警、应急处置，贯穿人工智能研发和应用全过程。

全球格局之变。人工智能全球治理，正在经历从理念探索向规则博弈的阶段转换。近年来，世界主要经济体纷纷加快人工智能立法和监管布局：美国密集出台行政令和行动计划，成立跨部门超级智能工作组，并通过构建技术联盟强化规则主导权；欧盟以《人工智能法案》构建分级分类的强监管框架，试图以“布鲁塞尔效应”输出其规制范式。与此同时，全球南方国家人工智能基础能力相对薄弱，智能鸿沟持续扩大。全球人工智能治理呈现碎片化、竞争化态势，各国围绕数据流动、算法透明、安全审查、伦理准则等议题展开激烈博弈。全球格局之变，意味着人工智能治理正成为国际竞争合作的关键维度。谁能在治理实践中先行先试、积累经验，提出既符合技术规律又契合多数国家利益、既有效管控风险又有利于创新发展的治理方案，谁就能在全球人工智能治理格局中赢得主动。

锚定人工智能发展的价值坐标

习近平主席指出：“各国应当秉持以人为本、向上向善理念，让人工智能成为促进共同繁荣、维护共同安全的一个重要动力源，携手构建公正合理的全球人工智能治理体系。”[3]向上向善，既蕴含追求卓越、勇攀高峰的技术取向，又承载造福人民、普惠世界的价值追求。只有将以人为本、智能向善作为人工智能治理的价值取向，才能确保技术进步不偏离人类价值坐标，使人工智能成为服务人民、造福社会的强大正能量。坚持向上向善，需把握三个维度。

以人为本。技术越强大，越要牢牢坚持人的主体地位。确保人工智能始终为人所用、由人主导。中华优秀传统文化历来强调“以道驭术”，技术只有置于价值的驾驭之下，才能造福于人。恪守以人为本，要把人的主体性放在首位，在技术加速演进的背景下坚守人类对技术的最终控制权，在医疗诊断、司法裁判、金融授信等高风险领域保留必要的人工复核、干预和救济渠道，防止“算法专制”；以机器之长补人类之短，把人从重复、繁重、危险的劳动中解放出来，而不是让机器简单地取代人；推动人工智能在医疗、教育、养老、助残等民生领域深度应用，让发展成果更多更公平惠及全体人民；保障公众的知情权、选择权和监督权，让算法可理解、可质疑、可追责。中国互联网络信息中心《生成式人工智能应用发展报告（2026）》显示，截至2026年上半年，我国生成式人工智能用户规模已超过7亿人、普及率突破50%[4]，人工智能已从专业工具变为大众应用，越是深度融入日常生活，以人为本的价值立场就越是不能偏移，这是向上向善的关键之处。

自立自强。在全球竞争日益激烈的今天，科技实力是衡量国家综合国力的核心要素。人工智能作为新一轮科技革命和产业变革的重要驱动力量，是大国竞争的战略制高点。谁能在人工智能领域抢占先机、赢得主动，谁就能在国际舞台上掌握更多话语权，为国家长治久安、人民幸福安康奠定坚实基础。当前，我国已成为全球人工智能发展的重要一极。截至2025年底，我国已发布大模型1500余个，数量居全球首位[5]。同时要清醒看到，高端芯片、基础软件等关键环节仍存在短板弱项，技术“卡脖子”风险尚未完全化解。自立自强是人工智能发展的动力之源，唯有把关键核心技术牢牢掌握在自己手中，向基础研究深水区进军、向技术前沿制高点攀登，人工智能向上发展才有坚实底座，向善而行才有可靠支撑。

公平普惠。向善发展要让人工智能发展红利跨越鸿沟、惠及每一个人。一方面，防止数字鸿沟演变为智能鸿沟，推动智能技术向欠发达地区、基层一线、中小微企业延伸，开发适老化、无障碍的智能产品和服务，让老年人、残障人士等群体共享智能便利，让中小企业用得起、用得好人工智能。另一方面，践行多边主义，帮助发展中国家加强人工智能能力建设，推动技术、标准、经验的开放共享。未来5年，中国将面向发展中国家提供5000个人工智能专题研修培训名额；面向东盟、阿盟、非盟、拉共体、上合组织、金砖国家，建设国际人工智能应用合作中心；推动气象智能预警方案“妈祖”在30个国家落地应用，守望万家灯火，护佑四海安澜。秉持公平普惠，就是要让人工智能成为弥合鸿沟的桥梁，让智能红利跨越国界、惠及各国人民。

把向上向善贯穿人工智能治理全过程

习近平主席指出：“要高度重视人工智能引发的各类内生和衍生风险，推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下。”[6]当前，人工智能安全风险日益凸显，探索科学有效的人工智能治理路径，能够更好防范风险，营造稳定的政策环境与发展预期，构建公平公正、健康有序、富有活力的产业生态，让人工智能真正成为驱动经济提质增效、社会全面进步的强大引擎。把向上向善贯穿治理全过程，需坚持辩证思维，把握好三组关系，做到统筹兼顾、张弛有度。

把握“快”与“稳”的关系。当前，全球前沿大模型技术能力按月迭代，智能体、具身智能等新应用、新模式持续涌现，智能原生新业态快速发展。治理不能等技术成熟了再补位，等风险暴露了再应对，也不能因风险未知就贸然踩刹车、一禁了之。近年来，我国先后出台《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》《人工智能拟人化互动服务管理暂行办法》等制度规范。一方面，提升治理的敏捷性，建立技术监测、动态评估、快速响应、及时调整的闭环机制，以小切口、可迭代的制度供给跟上指数级的技术变化。另一方面，增强治理的预见性，加强前沿技术跟踪和趋势研判，对可能出现的风险提前研究预案，做到心中有数、手中有策，实现以敏捷治理适配快速演进，在发展中规范、在规范中发展。

把握“放”与“管”的关系。人工智能创新高度依赖企业和开发者的试错空间，治理的温度和尺度直接影响创新的浓度和速度。把握“放”和“管”的关系，关键在于以分级分类、沙盒监管等方式实现精准治理。一方面，“管”要管在风险处，对前沿模型强化安全评估、红队测试和持续监测。2026年下半年以来，全球前沿模型失控事件频频发生，业内专家、机构曾多次警告，人工智能可能出现自我改进、自主升级的能力，衍生难以预见的重大风险，系统性风险正从理论担忧变为现实威胁。另一方面，“放”要放在创新上，对一般应用和探索性研究留足试错空间，以清晰的底线保障广阔的空间。让各类主体能够预判合规尺度，知晓可开展的创新活动、需落实的风险评估义务以及不可逾越的红线，既不为无谓的束缚所困，又不为失控的风险所累，在合规前提下大胆创新和推广应用，发展才能行稳致远。

把握“内”与“外”的关系。人工智能无国界，治理有疆域，这是人工智能治理区别于一般产业治理的特征。模型一经开源便在全球流动，服务一经上线即跨境提供，风险一经生成便跨国传导，国内规则与国际规则的耦合程度前所未有。把握“内”与“外”的关系，关键在于统筹国内治理与全球治理，使二者相互支撑、彼此成就。一方面，国内治理的深度决定国际参与的高度。我国提出《全球人工智能治理倡议》，倡议并推动成立世界人工智能合作组织，国产模型在全球开发者社区广泛应用，治理实践和国际影响力持续提升，为参与全球治理奠定坚实基础。要及时把在规模化应用治理、普惠智能发展上的成功经验，提炼为可共享、可借鉴的制度方案和标准规范。另一方面，全球治理走向深刻影响国内发展空间。当前，随着各国治理规则密集落地，相关评测标准、合规要求正随技术合作、市场准入等渠道向全球传导，规则差异直接转化为企业出海的合规成本。要积极参与国际规则和标准制定，推动各国治理实践交流互鉴，让国内治理与全球治理相互促进、同向同行。

推动人工智能高质量发展行稳致远

治理的主动权源于发展的主动权，发展越充分、应用越深入，治理越有底气和抓手。以高水平治理推动人工智能向上向善发展，统筹人工智能发展和安全，需坚持问题导向和目标导向相结合，从以下几个方面综合施策、系统发力。

夯实发展基础。推动人工智能赋能千行百业，加速其与实体经济深度融合，是我国人工智能发展的特色所在。用好超大规模市场和丰富应用场景的独特优势，深入实施“人工智能+”行动，在制造、医疗等重点行业领域，加快打造一批具有战略意义的高价值场景，建设应用中试基地等共性平台，促进新技术新产品形成“技术突破—场景验证—产业应用—体系升级”的转化路径，以规模化应用牵引技术迭代、积累治理经验。强化算力、语料、人才等要素保障，加快推进全国一体化算力网建设，完善普惠算力服务体系，创新“Token券”“模型券”等支持方式，让更多经营主体用得上、用得起、用得好人工智能，为高水平治理提供坚实的实践土壤。

健全协同机制。人工智能治理点多、线长、面广，需以结构协同应对问题跨界，以过程协同应对风险演化，构建政府、企业、社会、公众多方参与的协同治理格局。健全部门协同和央地联动机制，强化各部门在政策制定、风险监测、执法监督中的协作配合，防止多头监管与监管空白并存。压实企业主体责任，推动模型研发机构和服务提供者建立覆盖研发、测试、部署、运营全链条的内部治理机制，把伦理审查和安全评估嵌入业务流程。支持行业协会、标准化组织制定自律公约和技术规范，培育发展第三方评估机构。加强全民智能素养教育，开展人工智能治理能力培训，形成政府有力监管、企业自觉履责、行业自律规范、社会广泛参与的共治合力。

强化技术赋能。面对人工智能风险的隐蔽性、复杂性，单纯依靠人工监管和制度约束难以为继，需探索“以技治技”，运用人工智能提升风险监测预警的智能化水平，让治理能力与技术演进协同并进。加强安全可信人工智能基础研究，发展安全检测、风险监测、内容标识、可追溯审计等治理技术，提升人工智能系统的内生安全性。健全覆盖模型全生命周期的安全测评体系，培育专业测评机构，发展自动化测评、红队测试等技术手段，对高风险系统开展安全评估和合规审查。

筑牢安全底线。安全可控是人工智能发展的前提，也是治理体系必须守住的底线。构建覆盖数据安全、模型安全、算力安全、内容安全的综合安全体系，健全技术监测、风险预警、应急响应的闭环机制，推动安全可控从“事后处置”转向“全程防控”。制定分级分类分场景风险管理清单，对自动驾驶、医疗诊断、金融授信、人脸识别等高风险应用从严评估、持续监测，给低风险创新留足发展空间。健全风险监测预警体系，完善应急预案，提升重大风险快速处置能力。落实拟人化互动服务管理要求，强化未成年人、老年人等重点群体保护。依法打击利用人工智能实施诈骗、造谣传谣、侵犯个人信息等违法犯罪行为，以严格执法形成有力震慑，以高水平安全保障高质量发展。

完善制度体系。“十五五”规划纲要提出：“完善人工智能领域法律法规、政策制度、应用规范、伦理准则。”[7]这就需要加快推进人工智能健康发展综合立法进程，统筹做好与网络安全法、数据安全法、个人信息保护法的衔接配套。构建系统完备、科学规范、运行有效的制度体系，针对生成式人工智能服务、自动驾驶等重点领域完善专门规范，健全科技伦理审查治理机制。统筹推进综合性立法与“小快灵”专项制度建设，既为产业发展提供稳定预期，又为技术演进预留制度弹性。

深化全球合作。深化全球治理合作既是现实所需，更是大国担当。通过世界人工智能合作组织进一步凝聚共识、促进合作，推动机制化、实体化运行，打造集规则协调、项目合作、能力建设于一体的国际平台。深度参与国际标准和评测规范制定，推动合格评定结果互认，降低企业跨境合规成本。深化同全球南方国家能力建设合作，助力弥合智能鸿沟，通过开源开放、能力援助、人才培训等方式，帮助发展中国家提升人工智能发展和治理能力，推动形成具有广泛共识的全球治理框架，让技术红利惠及更多国家和人民。

人工智能治理考验的是一个时代的智慧和担当。统筹发展和安全，既是人工智能健康发展的内在要求，也是推进国家治理体系和治理能力现代化的题中之义。奋进“十五五”，我们要深入学习贯彻习近平总书记关于人工智能治理的重要论述，以高水平治理护航人工智能向上向善发展，让人工智能更好造福全人类。

注释

[1][3][6]习近平：《携手构建公正合理的全球人工智能治理体系——在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上的主旨讲话》，《人民日报》，2026年7月18日，第2版。

[2]《工业和信息化部就科技赋能商品消费提质、推动人形机器人产业在消费商贸领域应用等答记者问》，工业和信息化部网站，2026年10月20日。

[4]《生成式人工智能应用发展报告（2026）》，中国互联网络信息中心网站，2026年10月8日。

[5]《我国成为发布大模型最多的国家》，《人民日报》，2026年3月3日，第12版。

[7]《中华人民共和国国民经济和社会发展第十五个五年规划纲要》，《人民日报》，2026年3月14日，第1版。

责编：贾 娜／美编：石 玉

声明：本文为人民论坛杂志社原创内容，任何单位或个人转载请回复本微信号获得授权，转载时务必标明来源及作者，否则追究法律责任。