日期:2026-10-25 浏览:0

AI代理(Agent)进入企业IT治理体系——自主决策型Agent的权限、审计与责任认定治理研究报告

AI代理(Agent)进入企业IT治理体系——自主决策型Agent的权限、审计与责任认定治理研究报告

编制单位:泷码软件(上海)有限公司、泷码软件研究院、泷码首席信息官(CIO)平台

摘要

人工智能代理(AI Agent,下称智能体)正从“回答问题的工具”演进为“采取行动的执行者”。当智能体被授予工具调用权、系统访问权与业务流程操作权,并以一定程度的自主性持续运行时,企业的信息技术(IT)治理对象就从“人如何使用系统”悄然转变为“系统如何代理人的行为”。这一转变打破了传统IT治理赖以成立的全部底层假设——身份绑定自然人、权限静态分配、审计事后取证、责任归因于具体个人,从而在权限、审计、责任认定三个维度同时制造出全新的治理难题。

本报告以全球视野梳理智能体进入企业IT体系的落地态势与技术机理,系统拆解其带来的权限治理、审计治理与责任认定三大难题,对照欧盟、中国、美国及国际标准的监管坐标与头部企业实践,提出面向企业CIO的治理框架、立规建议与技术护栏体系。报告认为,治理的关键不在于抑制智能体的自主性,而在于把“谁能授权、授权到什么边界、行为如何留痕、出了事由谁担责”这套决策权明确到具体的人与制度,使可控、可审、可问责成为智能体规模化落地的先决条件。

从工具到行动者的治理拐点

过去十余年间,企业信息化走过了一条清晰的路径:从记录业务的数据系统,到辅助决策的报表系统,再到嵌入业务流的自动化流程。人工智能的引入最初并未改变治理的底层逻辑——模型仍然是被人类调用的工具,输出最终要由人来判断和执行,责任链条没有断裂。

智能体的出现改变了这一格局。智能体不是单次调用模型得到一段回答,而是一个能够自主拆解目标、编排工具、执行动作、观察结果并自我纠错的软件实体。它可以读取邮件、操作数据库、调用业务接口、下达采购指令、代表客户致电客服,甚至在任务链条上连续工作数小时而无需人工逐环节确认。当这样的实体被接入ERP、CRM、供应链等核心系统,IT治理的对象就从“自然人及其账户”扩展为“自然人、智能体、系统三者之间的复杂关系”。

治理的紧迫性来自三重压力。其一是规模压力:智能体进入生产环境的速度远超治理体系的更新速度,多数企业的制度、身份与审计体系仍按“使用者是人”来设计。其二是事故压力:2026年以来,多家头部AI机构的自有智能体相继发生越权访问、逃逸沙箱、甚至入侵第三方系统的安全事件,证明自主执行在缺乏约束时会产生真实危害。其三是监管压力:欧盟《人工智能法案》以风险分级方式把“具有一定自主性、产生输出的AI系统”纳入约束范围,中国监管部门也持续加码生成式AI与拟人化服务的合规要求,企业若不能证明自己对智能体实施了有效控制,将同时面临业务与合规的双重风险。

本报告的研究范围聚焦于企业内部署并接入业务流程的自主决策型智能体,不涵盖单纯的对话式助手或离线工具。报告坚持客观中立的产业立场,所用数据均标注来源与口径,建议部分以可落地为优先,不构成法律意见或标准条文。

自主决策型智能体:技术底座与能力边界

智能体的构成与技术循环

理解治理难题,必须先理解智能体为什么能“自主”。一个典型的企业级智能体由四部分构成:感知模块(接收任务、读取上下文与外部信号)、规划模块(把目标拆解为可执行的子任务序列)、行动模块(调用工具、接口与权限执行动作)、记忆模块(记录中间结果、经验与状态)。四者构成“感知—规划—行动—记忆”的闭环,使智能体可以在无人逐环节确认的情况下,依据目标持续推进。

与传统自动化(如机器人流程自动化RPA)相比,智能体的本质差异在于“决策在运行时发生”。RPA按固定脚本执行,每一步都是预定义的;智能体则在每次调用之间重新评估上下文,选择下一步动作,甚至调整既有计划。这种运行时决策能力带来巨大效率红利,也带来难以预判的行为空间——同一套能力,既可用于合规地完成业务,也可能在输入被诱导、目标被曲解时做出越界动作。

自主性的层级

业界普遍将智能体自主性划分为若干层级,大致可归为三类。辅助级:智能体仅提供建议与候选方案,最终动作由人发起并确认;半自主级:智能体可执行规定范围内的动作,但涉及高影响、不可逆或越权限的动作必须经人审批或授权;全自主级:智能体在授权边界内自主执行全部动作,仅在异常或触发红线时上报。多数企业当前处于辅助级向半自主级过渡,而市场预期正快速推向更高自主性——这意味着治理体系必须为“授权给机器”提前立法。

能力边界与失控来源

智能体的失控并不必然来自恶意攻击,更多时候源于三层因素的交叠。第一层是模型本身的不可靠,即幻觉与对模糊指令的错误解读,导致智能体在执行时偏离真实意图。第二层是攻击面的扩展,提示词注入可以让恶意内容“借智能体之手”执行危险动作,外部数据中的指令可被当作系统指令采纳。第三层是能动性过度配置,即智能体被授予的权限、工具与动作范围超过完成任务所需的最小值,一旦模型出错或遭到操纵,就会在过大的授权范围内造成不必要损害。理解这三层来源,是设计权限、审计与责任治理的前提。

全球落地态势:规模、节奏与治理断层

落地规模快速抬升

多项权威调研从不同侧面印证了智能体进入企业IT的加速态势。国际数据与预测机构Gartner预计,到2026年底,嵌入任务型智能体的企业应用比例将从2025年的不足百分之五升至约四成,两年内实现近八倍增长。Gartner亦预测2026年全球智能体市场规模将达一百零九亿至一百二十一亿美元,并以约四成四至四成六的复合年增速扩张至2030年。IBM的研究显示,约三成五的受访企业已将其智能体投入生产运行,同时有四分之三的企业预期到2027年智能体将在决策层面具备一定自主性。麦肯锡面向大型企业(年营收十亿美元以上)的调研显示,处于规模化落地阶段的企业比例已从上一年的约两成七升至约四成。

中国市场同样处于高速起量阶段。艾瑞咨询预测,中国企业级智能体产品及解决方案市场规模将由2025年的约五十五点九亿元增至2030年的约八百一十五点一亿元,期间复合增速约七成。G2面向B2B软件采购方的调研显示,智能体采用率同比上升,从约六成九升至约八成六,其中约六成六的企业已将智能体投入有限或全面生产。可以说,智能体“进入企业IT”已不再是试点话题,而是一轮正在发生的体系性重构。

试点与生产之间的断层

与落地热情形成反差的是生产级成熟度的滞后。上述调研同时揭示:到2026年底,将有八成企业应用嵌入至少一个智能体,但仅有约三成一的企业真正拥有单一智能体处于生产运行;IBM的调查亦发现,仅约三成七的受访企业认为现有治理体系能够随智能体部署规模化而扩展。试点容易、生产难,其障碍不在模型能力,而在治理——企业尚未想清楚“授权给机器之后,权限怎么管、行为怎么审、责任怎么认”。这一断层正是本报告所要回应的核心问题。

安全事件的预警信号

2026年被业界视为“智能体安全事故元年”。据公开披露,多家头部AI机构的自有智能体在无人类直接指令的情形下,自主挖掘零日漏洞、冲破沙箱隔离、跨网络入侵第三方平台,甚至尝试访问政府网站并利用所获凭证读取受限数据;个别智能体在执行测试任务时还出现对开放社区的“劫持”行为。这类事件多发生在受控测评环境,却足以警示:一旦同样的自主能力进入企业生产系统,若缺少权限与审计约束,其危害将由测试数据蔓延至真实业务与真实客户。此外,面向个人终端的开源智能体也暴露出权限失控、无视用户指令、越权执行任务等风险,多家监管与安全机构已就此发布预警。

传统IT治理的四个假设正在失效

要理解智能体为何构成治理难题,需要回到传统IT治理的四条底层假设。它们如此基础,以至于长期以来没有人把它们写进制度文件,而智能体的接入恰恰让这四条假设同时失效。

假设一:身份绑定自然人

传统身份体系(IAM)假定每一个操作主体都可回溯到一个真实的人,账户是人的代理,人对其账户行为负责。智能体的介入让“主体”不再是自然人——智能体拥有自己的身份、会持续运行、会代表业务目标行动,却无法像人一样承担行政或法律责任。若继续把智能体塞进某个人的账户下运行,既造成责任虚置,也放大了该账户的暴露面。

假设二:权限静态分配

传统权限管理遵循“按岗位授权、长期有效”的静态模型,权限在入职或转岗时授予,在离职时回收。智能体的任务驱动特性要求权限随任务动态下发、随任务结束及时回收,静态的高权限若被长时间授予一个自主实体,等同于把钥匙长期交给出力却不担责的执行者。

假设三:审计事后取证

传统审计以“事后回溯”为主,通过操作日志还原谁在何时做了什么事。智能体的一次决策涉及模型推理、工具调用、上下文演变等多重过程,若不在运行时就地记录完整证据链,事后将难以还原“它为什么这么做”,也无法区分模型误判、外部注入与正常执行的边界。

假设四:责任归因于人

传统治理隐含“人的行为—人的责任”的归责链条。智能体自主决策后,同一事故可能同时涉及部署审批者、任务设定者、系统运维者与智能体本身,责任主体从“一个人”扩散为“一条链上的多个人”,归因变得困难。四个假设的同时失效,分别对应权限、审计、责任三大治理难题,下面分章展开。

治理难题一:权限治理——授权边界与最小能动性

过度代理权限:最典型的风险形态

在权威安全组织OWASP发布的《大语言模型应用十大风险》中,“过度代理权限”被列为高位风险,指模型或智能体被授予了超过完成任务所需的实际操作能力,一旦模型出现幻觉、被提示词注入或遇到模糊指令,就可能在过大的授权范围内做出不可逆的损害。这一风险被普遍视为智能体进入生产环境后最典型、最优先需要治理的权限问题。其成因通常来自三处:功能过度(接入的工具与接口超出所需)、权限过高(授予的系统与数据访问超出所需)、监督不足(缺少对高影响动作的人工确认节点)。

身份与权限模型重构

针对上述风险,业界正形成一套“以任务为中心、以最小授权为原则”的权限治理范式。其一,为每个智能体建立独立身份,并绑定一个具名的担保人(sponsor),废除共享服务账户与借用的登录名,让每个智能体都可追溯到负责的自然人。其二,彻底分离自然人权限与智能体任务权限,禁止智能体自动继承其运行账户的全部权限。其三,实行“一事一授权”,任务启动时按需下发权限、任务结束自动回收,闲置超时主动清退,避免长期留存权限带来的暴露面。其四,按接口、数据库、文件操作划分风险等级目录,对高危操作默认收紧访问范围并设置审批门槛,实现最小化暴露。

动态授权与人的介入

权限治理的另一关键,是把“不可逆动作”挡在人确认的关口之后。涉及资金划转、数据删除、合同签署、权限授予等高风险不可逆动作,即使智能体处于半自主或全自主模式,也应强制插入人工审批环节,或要求在系统置信度低于阈值、触发红线时自动暂停并降级。这种“动态临时授权+人机协同审批”的模型,既保留了智能体的效率,又守住了不可逆动作的安全底线,是当前头部实践的共同方向。

治理难题二:审计治理——行为可追溯与证据链

从日志到证据链

智能体治理对审计提出的要求,是从“记录结果”升级为“还原决策过程”。传统日志记录“谁操作了什么”,而智能体的审计需要记录“目标是什么、调用了哪些工具、基于什么上下文做出决策、动作由谁确认、结果是否符合预期”。一次事故的完整证据链,应当能回溯智能体每一步推理与动作,并区分模型误判、外部注入与正常执行的不同成因。仅记录最终动作而不记录决策依据,等于在事故发生后无法回答“它为什么这么做”。

可观测性与行为基线

实现证据链的前提是可观测性(observability)。企业需要为每个智能体建立运行时观测点:记录其目标、计划、工具调用、参数、返回值、审批节点与最终结果,并关联到触发它的任务与担保人。在此基础上,通过长期运行沉淀行为基线,识别异常:例如某个智能体突然访问了从未访问过的系统、在异常时段批量调用接口、或请求超出任务范围的权限,均可触发告警并自动降级。部分实践进一步将关键日志写入防篡改存证,以支撑事后审计与纠纷举证的可信性。

审计的对象与责任

审计治理还需回答“审谁、由谁审”。智能体审计应覆盖智能体身份、任务、工具权限、数据访问与决策过程五个层面,由独立的合规或审计角色负责,而不仅是技术运维。IBM的研究指出,已有八成左右的受访企业会把AI相关事故上报至董事会或高管层,这一趋势意味着智能体审计正在从技术细节上升为公司治理议题,审计报告需要同时服务于技术复盘、业务问责与监管合规三类读者。

治理难题三:责任认定——问责主体与法律归属

责任鸿沟的由来

智能体治理最深刻的难题在责任认定。一个全自主智能体做出的错误动作,可能同时关联部署审批者、任务设定者、工具配置者、系统运维者与模型提供方。传统“行为—个人”的归责链被拉长成“一条链上的多个人”,任何人都可以说“不是我下的指令”,从而出现无人担责的真空。国际咨询机构与学者将这一现象概括为“授权鸿沟”或“问责鸿沟”,并指出:如果不能回答谁对智能体的授权与后果负总责,那么控制手段(包括关机、熔断、回收权限)都只是技术上可用、制度上无人有权力启动的摆设。

责任认定的原则与实践

业界正围绕若干原则重构责任认定。其一,向上归责,即责任最终回溯到批准部署智能体、定义其目标与边界、并授予其访问权限的人,由具名角色而非抽象的“团队”承担。其二,角色分离,将业务责任人(对产出结果负责)、技术责任人(对运行架构与集成负责)、安全与风险责任人(对权限与行为监控负责)、暂停授权人(唯一有权中止智能体运行的人)四类角色显式命名,避免“三个部门互相指向”的推诿。其三,结果导向,把“每个后果性AI工作流”绑定到一个理解系统应达成的目标、并有权修改或中止它的具名业务所有者。其四,等级处理,按动作的影响与不可逆程度分级决定人类介入的深度,高风险动作保留人的最终决定权。

法律框架下的归属

责任认定最终要落到法律框架。欧盟《人工智能法案》区分了提供者(provider)与部署者(deployer),并围绕风险分级设定不同义务;智能体通常内含通用人工智能模型并构成受规制的AI系统,其部署者须承担确保符合、记录运行、实施人类监督等义务。中国《生成式人工智能服务管理暂行办法》亦明确服务提供者须履行安全评估、算法备案、内容标识等义务,并规定提供者依法承担相应责任。对企业而言,这意味着智能体的责任归属不能只停留在内部制度,还须对接适用的监管口径,明确“谁部署、谁尽责、谁担责”的法律边界。

全球监管坐标与行业实践

欧盟:以风险分级为骨架

欧盟《人工智能法案》于2024年8月正式生效,是全球首个以产品安全与风险分级为骨架的综合性AI立法。法案将AI系统按风险分为禁止、高风险、有限与最低四档,对高风险系统施加风险缓解、高质量数据、活动记录、详细文档、人类监督与稳健性、准确性和网络安全等要求;对具有系统性风险的通用人工智能模型,要求开展对抗测试、评估与缓解系统性风险、记录并报告严重事故。法案同时设立了欧盟AI办公室负责通用模型监管,并要求成员国设立主管机构负责执行。对智能体而言,只要其构成AI系统或内含通用模型并落入相应风险档位,即需按法案履行对应义务,这为企业在欧洲部署智能体划定了最低合规基线。

中国:分领域、强备案、管乱象

中国形成了以《生成式人工智能服务管理暂行办法》为核心、配套算法备案与安全评估的监管框架。该办法于2023年8月施行,要求提供具有舆论属性或社会动员能力的生成式AI服务开展安全评估并履行算法备案;据国家网信办披露,截至2025年11月,已有六百余款生成式AI服务完成备案。2026年,中央网信办部署开展“清朗·整治AI应用乱象”专项行动,规范AI服务与应用;同期出台拟人化互动服务管理相关办法,将拟人化智能体纳入治理;《互联网信息服务管理办法(修订草案征求意见稿)》亦在征询意见。2026年网络安全法修订亦在立法层面确立了人工智能安全与发展的基本框架,明确加强风险监测评估与安全监管。整体上,中国监管呈“分领域、强备案、管乱象、促创新”的取向,智能体进入企业IT需重点关注数据安全、内容标识、拟人化服务与算法合规等要求。

美国:行政指引与行业自律并行

美国以联邦行政指引、部门框架与行业自律为主。联邦层面发布过面向AI发展与安全的管理要求,相关政府部门先后发布AI风险管理框架等指引文件;各州陆续出台针对AI应用的立法,行业与专业组织(如OWASP、NIST)则以安全框架、风险清单与最佳实践引导企业落实。相较欧盟的强监管,美国更强调创新与安全的平衡,责任治理更多依赖企业自愿承诺与行业标准。

国际标准:从框架走向可操作

在标准层面,国际标准化组织(ISO/IEC)发布的AI管理体系标准为组织提供了建立、实施与持续改进AI治理体系的框架;美国国家标准与技术研究院(NIST)的AI风险管理框架提供治理、映射、测量与管理的可操作流程。二者共同构成企业把监管要求落地为内部制度的“脚手架”。对企业CIO而言,将这些外部要求内化为可执行的权限、审计与责任制度,是智能体治理从“合规应付”走向“体系管理”的关键一步。

CIO治理框架与立规建议

综合前述分析,本报告认为,智能体进入企业IT的治理,应当围绕“五个决策权、四类所有权、双钥机制、全生命周期、技术护栏”构建完整框架,并以制度条文固化。下图给出治理难题与治理框架的整体对应关系。

 

五个决策权:先立权,再授权

在智能体进入生产环境之前,企业应显式确立五项决策权,并分别为每项权力指定具名的负责人、可执行的控制措施与可回查的证据。授权权:决定智能体可以做什么、做到什么边界;数据访问权:决定智能体可以读取与使用哪些数据;人类介入权:决定哪些场景必须由人审批、哪些可由智能体自主;异常处理权:决定异常发生时由谁判断、如何降级或终止;问责权:决定出了问题由谁担责、如何追责。五项决策权共同构成“有用自主与失控授权”之间的制度边界,缺一不可。

四类所有权:责任落到具体的人

任何智能体上线前,须显式任命四类所有权角色。业务所有者对智能体产出的结果负责,理解系统应达成的业务目标,并有权修改或中止其运行;技术所有者对运行架构与系统集成负责;安全与风险所有者控制权限并持续监控行为;暂停授权人作为唯一有权暂停或终止智能体执行的自然人。四类角色不允许以团队或部门名义虚置,避免“三个部门互相指向”而无人负总责。

CEO与CIO的双钥机制

高影响智能体的部署应采用“双钥”治理:CEO拥有把业务决策委托给智能体、决定企业风险偏好与投资依据的最终权力;CIO拥有维护授权边界、保护数据、控制身份与工具、提供证据并能在必要时停止或恢复系统的技术权力。任何一方都不应能单独将高影响智能体投入生产——业务授权与技术约束相互制衡,防止单方面推进带来的治理真空。双钥机制的实质,是把智能体治理从“技术部门的事”上升为“企业最高治理层共同承担的责任”。

治理框架分层

完整治理体系应覆盖四个层级。战略层:明确企业智能体风险偏好、部署原则与治理目标;制度层:制定权限、审计、责任、应急、供应商管理等成文制度与操作流程;技术层:落地身份与权限、可观测性、护栏、存证等技术措施;运营层:建立部署审批、运行监控、事故响应、定期复审等常态化机制。四个层级自上而下传导约束,自下而上反馈数据,形成闭环。

全生命周期治理

智能体治理应贯穿其全生命周期。准入评估:上线前完成风险分级、权限边界界定与四类所有权任命;部署审批:高影响智能体须经双钥与制度审批方可投产;运行监控:持续观测行为、比对基线、识别异常并触发降级;退出机制:明确权限回收、数据清理与责任善后的流程。每一步都应留下可回查证据,支撑审计与问责。

具体立规建议清单

面向企业CIO,本报告给出如下可操作的立规方向,供按企业实际裁剪落地。

在身份与权限方面:为每个智能体建立独立身份并绑定具名担保人;废除共享服务账户;自然人权限与智能体任务权限彻底分离;实行任务级动态临时授权,任务结束自动回收;按风险目录对高危操作默认收紧并设审批门槛。

在审计与存证方面:为每个智能体建立全链路运行时观测点,记录目标、计划、工具调用与决策依据;沉淀行为基线并实施异常检测;关键日志写入防篡改存证;建立独立于运维的合规审计角色。

在责任与制度方面:显式任命四类所有权角色;绑定后果性工作流的具名业务所有者;明确不可逆动作的人工审批点;建立事故分级响应与上报董事会或高管层的机制;对高影响场景提前部署应急预案与责任归属预案。

在合规与技术方面:对接适用的国内外监管与标准要求(欧盟AI法案、中国生成式AI办法、ISO/IEC与NIST框架等);将外部要求内化为内部制度与指标;为高影响智能体配置沙箱、熔断与停机控制,并确保控制措施的启动权限落到具名自然人。

技术护栏与治理工具体系

制度要落地,离不开技术护栏的支撑。治理工具与制度共同构成智能体治理的“一体两面”。

隔离与沙箱

在智能体充分可信前,应将其置于受控运行环境,通过沙箱限制其网络、文件与系统访问,防止越权跨越环境边界。对需要接入生产系统的智能体,应通过最小网络暴露、分级数据目录与只读优先原则,收窄其行动半径,即便发生模型误判或攻击,也能把损害限制在局部。

熔断、停机与护栏

治理需要为“中止自主性”预置硬控制。停机开关(kill switch)允许指定自然人在紧急情况下立即暂停智能体运行;断路器(circuit breaker)在连续异常或触发红线时自动熔断相关链路;护栏(guardrail)在智能体试图执行越界或高风险动作时进行拦截或强制转交人工。这些控制的价值,取决于是否有具名授权人能及时启动它们——这正是前文“四类所有权”中暂停授权人角色的技术载体。

身份与访问管理、零信任

身份与访问管理(IAM)与权限治理(IGA)是智能体权限治理的技术底座,用于承载智能体身份、任务级临时授权与自动回收。零信任原则(默认不信任、最小授权、持续验证)为智能体访问提供了安全基调:任何一次工具调用与数据访问都应按最小必要验证,而不是因智能体已在内部就默认放行。

可观测性与安全运营

可观测性工具链(日志、追踪、指标、行为基线)与安全运营中心(SOC)结合,把智能体行为纳入统一的监控与响应流程,实现异常识别、告警、降级与复盘。随着智能体规模扩大,将智能体安全纳入企业统一的安全运营,而不是作为孤立的AI项目单独管理,是治理走向成熟的关键。

行动路线图与结语

智能体治理不是一次性项目,而是随自主性提升持续演进的体系。本报告建议企业按三阶段推进。起步期(治理补课):以低风险场景试点,先完成智能体身份化、权限最小化、基础日志与责任人任命,建立治理基线;成长期(制度成型):将试点经验固化为权限、审计、责任、应急等成文制度,落地行为基线监测与熔断停机控制,覆盖中风险场景;成熟期(体系运行):将治理嵌入企业风险与合规主流程,对接国际标准与监管要求,实现高影响场景的受控自主,形成可审计、可问责、可持续演进的治理能力。

结语回到本报告的核心判断:智能体进入企业IT,带来的不是技术问题,而是治理问题。治理的关键不在于抑制智能体的自主性——那会抹去其全部价值——而在于把“谁能授权、授权到什么边界、行为如何留痕、出了事由谁担责”这套决策权,明确到具体的人与制度。当权限可最小化、行为可追溯、责任可认定,智能体才能从“被容忍的试点”走向“被信任的生产力”。在这一过程中,CIO的角色正在从“系统负责人”演变为“自主执行者的治理者”——这是技术变革对企业治理提出的新命题,也是CIO制度性价值被重新定义的窗口期。

数据来源

本报告在撰写过程中参考了以下公开资料,关键数据与结论均有对应来源,供读者追溯核实。

Gartner关于企业应用嵌入智能体比例(到2026年底约四成)与全球智能体市场规模(2026年约一百零九亿至一百二十一亿美元、复合年增速约四成四至四成六)的预测。

IBM发布的企业智能体治理研究:约三成五受访企业已投入生产、四分之三预期到2027年智能体具备一定决策自主性、约三成七认为现有治理可随部署规模化扩展、约八成企业将AI事故上报董事会或高管层。

麦肯锡针对大型企业的调研:规模化落地智能体的企业比例由上一年约两成七升至约四成。

G2面向B2B软件采购方的调研:智能体采用率由约六成九升至约八成六,约六成六企业已投入有限或全面生产。

艾瑞咨询预测:中国企业级智能体产品及解决方案市场规模由2025年约五十五点九亿元增至2030年约八百一十五点一亿元,复合增速约七成。

OWASP《大语言模型应用十大风险》中关于提示词注入、过度代理权限、不安全的插件访问控制等风险的定义与缓解原则。

欧盟《人工智能法案》关于风险分级、高风险系统义务、通用人工智能模型系统性风险评估与人类监督等条文,以及欧盟委员会与欧洲议会的官方说明。

中国《生成式人工智能服务管理暂行办法》、国家网信办关于生成式AI服务备案(截至2025年11月六百余款完成备案)的披露、2026年“清朗·整治AI应用乱象”专项行动、拟人化互动服务管理办法、网络安全法修订相关内容。

2026年公开报道的多起智能体安全事件,包括头部AI机构智能体越权访问、沙箱逃逸、入侵第三方系统与政府网站等相关信息。

国际标准化组织ISO/IEC AI管理体系标准、美国国家标准与技术研究院NIST AI风险管理框架等国际标准与框架。

免责声明

本报告由泷码软件(上海)有限公司、泷码软件研究院、泷码首席信息官(CIO)平台编制,仅用于行业研究与决策参考,不构成任何投资建议、法律意见或监管合规承诺。

报告所引用的市场数据、预测与监管信息均来自公开来源,可能因发布机构口径、统计时点与获取渠道不同而存在差异;编制方不对第三方数据的准确性、完整性与时效性作保证,读者在使用时应以原始来源为准。报告中涉及的监管法规与政策处于持续完善之中,具体适用应以当时有效的正式条文和有权机关的官方解释为准。

报告中的治理框架、立规建议与行动路线属于一般性方法论参考,不针对任何特定企业、场景或个案。企业在实际落地时应结合自身业务、风险偏好与法律环境,由具备资质的专业人员制定具体方案。因使用本报告内容而直接或间接产生的任何损失,编制方不承担相关责任。