智能体应用发展，要遵循四大原则！

据中国网信网消息，国家网信办、用发原则国家发展改革委、智能展遵工业和信息化部近日联合印发《智能体规范应用与创新发展实施意见》（简称《实施意见》）。用发原则其中提到要研究智能体数据安全、智能展遵个人信息保护、用发原则密码防护、智能展遵攻击检测、用发原则权限管理、智能展遵行为控制等安全技术，用发原则提升智能体系统安全保障能力，智能展遵防范数据投毒、用发原则隐私泄露、智能展遵算法篡改、用发原则系统漏洞、智能展遵运行失控等安全风险，探索建立智能体安全评估体系。

智能体带来隐私泄露等安全风险

智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统，是人工智能产品及服务的重要形态。

近年来，以手机助手、终端智能管家、云端智能体等为代表的智能体产品加速涌现，呈现规模化应用态势，极大便利人们工作生活。但与此同时，智能体高自主性、高权限等特性也带来了隐私泄露、越权操作、行为失控等安全风险，需要统筹发展与安全，促进智能体规范应用和创新发展。

2025年8月，国务院印发《关于深入实施“人工智能+”行动的意见》，以科学技术、产业发展、消费提质、民生福祉、治理能力等领域为重点，提出到2027年，率先实现人工智能与重点领域广泛深度融合，新一代智能终端、智能体等应用普及率超70%的阶段性目标。在回答记者提问时，国家网信办有关负责同志介绍，制定出台《实施意见》是贯彻落实《关于深入实施“人工智能+”行动的意见》的具体举措，以推动科技创新、提升治理能力、构建产业生态、提升民生福祉为导向，营造良好政策环境，发挥典型场景示范效应，统筹推动智能体高质量发展、高水平安全、高效能治理。

构建治理体系推进智能体落地应用

梳理发现，《实施意见》用了坚持安全可控、坚持规范有序、坚持创新驱动、坚持应用牵引等4个“坚持”，明确促进智能体规范应用与创新发展的基本原则。具体而言，适应智能体技术演进规律，构建与现有政策法规衔接顺畅、行业自律自治、底线红线清晰的治理体系，有序推进智能体落地应用；加强理论创新、技术创新、工程创新联动，体系化突破智能体关键技术，完善政产学研用协同机制，构建开放共享的智能体生态；重点围绕科学研究、产业发展、提振消费、民生福祉、社会治理等实际需求，发挥典型应用场景示范效应，先易后难、循序渐进，促进智能体技术验证、产品迭代、应用落地。

在规范智能体应用方面，《实施意见》有哪些具体要求？据透露，《实施意见》将智能体安全、可靠、可信作为产业发展的底线要求，规范有序推动智能体落地应用。一是明确产品准则。要进一步完善政策法规和伦理规范，做好智能体权限管理、行为管控等工作，为智能体相关产品研发提供指引。二是防范安全风险。发挥技术手段作用，提升在智能体内生安全、供应链安全、应用衍生风险等方面的风险防范能力，实现智能体开发、部署、应用、维护全周期安全管理，有效防范系统性风险。三是完善治理体系。适应智能体技术演进规律，根据应用场景和潜在影响，构建审慎稳妥的分类分级治理框架，推动建设智能体合规服务体系，做到既“放得活”又“管得好”。四是强化行业自律。鼓励智能体相关企业、行业组织、研究机构加强责任意识，共同制定行业自律规则。引导智能体开发者、开发平台、分发平台、服务提供者参与信用评价，共同营造良好发展环境。

明确19个典型应用场景牵引智能体提升

围绕推动智能体创新发展，《实施意见》部署哪些重点工作？国家网信办有关负责同志表示，《实施意见》围绕智能体技术突破、场景应用和生态建设等重点方向，体系化推动智能体创新发展。一是夯实发展基础。通过强化基础技术研发、完善智能体工具链，为产业提供高水平技术底座。建立智能体标准体系，降低智能体研发、适配、应用门槛。前瞻布局多智能体协同、智能互联网等前沿领域，为产业持续演进打好基础。二是强化应用牵引。围绕科学研究、产业发展、提振消费、民生福祉、社会治理等方向，提出19个典型应用场景，牵引智能体技术产品优化提升，探索可复制、可推广的落地应用模式。三是建设创新生态。加强培育开源创新力量、搭建产业协作平台，推动产业高效协同，提升创新活力。通过构建应用推广渠道、推进重点场景开放，畅通供需渠道，形成市场牵引、内驱发展的产业生态。积极培育全球生态，推动国内外技术融通发展，营造开放共享的国际合作环境。

下一步，国家网信办、国家发展改革委、工业和信息化部将会同有关方面切实推进《实施意见》落地见效。聚焦智能体技术研发、场景开放、安全治理等关键环节，完善配套政策，形成工作合力，推动重点任务落实落地。同时，加强智能体规范应用与创新发展的监测评估、滚动实施和动态调整。

南都研究员：袁炯贤

最新评论