开源多模型AI治理平台Kimchi核心贡献者Kunal Das指出，企业若仅通过屏蔽模型访问权限来治理AI，往往适得其反。员工可能转而使用个人账户，从而引发更大的数据泄露与安全风险。
Das在Cypher 2026大会上发表题为《如何在难以预测的情况下治理AI》的演讲时表示，AI的行为模式与传统企业软件截然不同。相同的提示词可能产生不同回答，这使得依靠传统手段预测结果和治理技术变得异常困难。
他主张，企业应将治理机制构建于基础设施层，特别是员工设备与AI模型之间的路由层。在这一层级，组织可精准控制模型访问权限、成本预算、数据传输内容以及需人工干预的操作节点。
AI使用的经济悖论
AI使用的经济效应已成为治理难题。Das透露，其带领的约200名工程师团队在一年内为Claude Code花费近20万美元，却未能建立AI使用与生产力提升之间的明确联系。“更多的AI使用并不必然转化为更高的产出。”他说。
任务与模型精准匹配
Das认为，企业应停止将访问最强大模型作为默认设置。大多数常规任务（如修复错误或总结PDF）无需旗舰级模型。他提倡采用“任务匹配模型”策略，根据任务复杂性、成本和需求，将AI工作负载路由至相应模型。
他引用了一个百人工作坊案例：参与者在三小时内完成项目，当请求首先通过低成本模型系统路由时，费用约为54美元；若完全使用旗舰模型执行相同工作，成本高达约3800美元。“我们使用一个非常便宜的小模型来决定哪个模型最适合该提示词，这改变了游戏规则。”Das表示。这种前置路由方式能让企业在成本累积前控制支出，而非依赖事后审计。
AI治理的四层架构
Das概述了企业应关注的四个领域：支出、边界、弹性和控制。该方法将治理置于模型输出层之下，通过控制模型接收数据、执行任务和返回结果的基础设施来进行管理，而非试图判断每一个AI响应的正确性。
他将这一转变比作云计算早期阶段：组织大量采用计算资源，但在开发出成熟的跟踪控制系统前，缺乏有效管理手段。此外，Kimchi正在开发一种“Teleport”功能，可将长时间运行的代理任务移至临时云沙箱，使工作脱离开发人员笔记本电脑继续运行。
治理的局限性
Das也承认AI治理平台的局限性。审查和监控工具虽能提供可见性，但无法自动修复编写不良的代码或提示词。更棘手的是，一旦敏感信息发送至外部AI提供商，组织可能无法收回或控制后续处理流程。“我们无法修复所有这些问题。”Das坦言。
这意味着AI治理不能完全依赖模型本身。企业需围绕模型建立控制措施，明确数据去向、处理模型、任务成本及人工接管时机。Das总结道：“你无法预测AI，但我们可以确保决策得到妥善覆盖，并具备所有必要的追踪手段。”