当超级AI代理试图打电话协商有线电视账单时，与之讨价还价的可能是真人客服，而非软件程序。
尽管Meta和OpenAI等公司大力推动，宣称AI驱动的数字助理能完成网购搜鞋等任务，但这些由尖端基础模型驱动的代理在可靠执行网络操作，尤其是涉及电话沟通的任务上，仍显力不从心。
前雅虎CEO、现任AI初创公司Dazzle AI负责人的Marissa Mayer指出，当前顶级AI模型虽擅长提供在线家庭装修建议，但在预订和安排屋顶升级等实际服务时容易出错。“我们依赖前沿模型提供建议和候选名单，但会仔细审核以确保服务值得信赖。”Mayer表示，Dazzle会将部分任务分配给人类承包商。
数字障碍与“人在回路”
Duckbill CEO Meghan Joyce指出，AI代理常在与需要现实世界判断力的任务交互时遇到数字障碍，如代为预约医生或预订清洁服务。为此，Duckbill近期推出了一项应用程序编程接口（API），帮助个人代理构建者将可能搞砸的任务委托给人类合同工。
“我们的模式类似Uber，将任务分解为原子化的小块，”Joyce表示。Duckbill将这些任务转化为普通成年人可一致、可靠完成的工作，并追踪结果。Wajo AI CEO Shivani Poddar也在整合人类工人处理电话及验证码测试，以防止机器人访问受限网站。她认为，“AI+人类”的协作模式才是完成任务的关键，否则用户将因体验不佳而弃用技术。
常识缺失与隐私权衡
Mayer举例称，AI模型仍缺乏常识。曾有用户尝试让Dazzle AI同时处理更换屋顶、修补窗户及购买玻璃桌面等任务，AI却混淆了窗户玻璃与桌面玻璃，试图计算如何让桌面“装入”窗户。该错误被系统标记并迅速外包给人工解决。“几秒钟内人就解决了问题，而代理不仅消耗大量计算资源，甚至可能永远找不到解决方案。”Mayer说。
真人介入引发了隐私担忧。此前，Meta员工曾对公司内部测试中利用人类承包商代为接听Muse AI代理电话提出质疑。Meta发言人当时回应称，这是“产品开发流程的核心部分”，但目前Meta并未在用户使用Muse时引入人类协助。
为解决信任问题，Duckbill对使用的1099类合同工进行“全面背景调查”，将其比作寻求额外收入的Uber或DoorDash司机，部分人员来自专业呼叫中心企业。Dazzle同样严格筛选具备谨慎、良好品味及出色判断力的人才，并强调其事后遗忘和信息隔离能力。“我理解这是一种特权，但我知道如何指导他们。”Mayer表示。
Mayer认为，在基础模型能够像人一样高效执行复杂网页任务和电话沟通之前，市场处于“过渡期”。“我们毫不掩饰，‘人在回路’是一种优势。”