据市场研究机构Forrester发布的2027年亚太地区预测报告,随着人工智能工具在企业内部的快速渗透,该地区正面临严峻的治理挑战。报告预计,到2027年,亚太区三分之一的大型企业中,每部署1个官方认可的AI智能体,就将伴随至少10个由员工自行构建的“影子AI”智能体。

影子AI引发新型技术债务

报告指出,员工自建智能体、嵌入式软件功能以及本地化平台的发展速度,已远超机构控制措施的跟进能力。这种失衡将形成一种新型的人工智能驱动技术债务,表现为未管理的风险、薄弱的治理结构、重复的工具投入以及未记录的依赖关系。

对于高管而言,核心议题正从追求AI部署速度,转向强化控制、治理和责任追究。“影子AI”指的是超出正式采购和监管流程使用的AI应用。在亚太地区,由于各国监管体系、AI成熟度及对数据主权处理方式存在显著差异,跨国企业试图套用单一治理模型的难度极大。

地缘政治与主权考量

报告具体预测,五分之一的亚太大型受监管企业将批准使用中国开源权重模型。Forrester认为,这反映了主权担忧范围的扩大:企业关注点已从单纯的数据驻留,转向对模型本身及推理过程的更大控制权。部分组织可能选择自托管中国模型以满足运营主权要求,从而更直接地审查管理工作负载,但这同时也可能引发关于数据来源的地缘政治担忧。

个人AI工具带来安全隐患

随着消费级AI工具向职场蔓延,安全风险随之升级。Forrester预测,一名员工使用的个人AI智能体将在某家财富500强公司引发安全事件。当个人智能体执行工作任务时,可能访问企业设备、凭证及数据。现有安全措施多侧重于身份和权限验证,而非行为意图识别,这为善意智能体滥用权限或泄露敏感信息留下了漏洞。

雇主因此陷入两难:既希望利用员工对消费级AI的熟悉度提升效率,又需规避未经授权软件、审计轨迹缺失及问责模糊带来的风险。这表明,传统围绕人类用户构建的安全策略,难以直接适用于代表人类行事的软件智能体。

“人工保证”成为差异化关键

在信任至关重要的领域,完全自动化并非最优解。报告预测,亚太地区最大的10家面向消费者的品牌将通过“人工保证”策略脱颖而出。在金融服务、医疗保健等涉及财务风险、情感脆弱性或复杂决策的行业,企业将保持可见的人工监督,而非完全依赖纯AI交互。

Forrester副总裁兼高级研究总监Frederic Giron表示,亚太地区的多样性将塑造组织的响应方式。“2027年,该地区组织面临的挑战是在市场、监管要求和AI准备程度截然不同的环境中建立治理协议。”他强调,适应当地主权要求并致力于建立长期信任的组织,将更有可能捕捉AI的价值。