TikTok CEO周受资警示AI智能体权限风险：信任侵蚀与数据泄露隐忧

新加坡讯——TikTok首席执行官周受资近日在DBS亚洲未来向前大会上发表演讲，对当前AI智能体的快速普及发出警告。他指出，用户正纷纷将广泛权限授予AI助手，却鲜少审视这些数字代理一旦自主行动后可能引发的后果。

周受资表示，许多用户在未充分理解权限范围的情况下，便授权智能体处理多项任务。随着各大科技公司竞相部署能直接采取行动而非仅提供建议的自主系统，潜在风险已迫在眉睫。

他以信用卡支付为例说明风险：若将购买权交给智能体，其可能因过于“积极”而超额消费。此类事件在购物、日程管理及金融应用中频发，虽看似细微，却在实践中迅速侵蚀用户信任。

除了消费者层面的失误，周受资还强调了企业面临的安全暴露。智能体模型大幅降低了生成垃圾信息的成本，自动化系统正以极低费用向平台倾倒垃圾内容。他直言：“虽然无法将垃圾信息彻底清零，但防御目标已转变为提高其扩展成本。防御措施必须随之进化。”

TikTok自身也在大规模部署智能体。其信任与安全团队曾需手动测试账户以评估内容风险，如今则由一千个智能体在夜间运行并生成报告，效率显著提升。但周受资强调，直播等高利害关系场景仍难以完全自动化，人类判断不可或缺。

该公司采用二维网格对任务进行分类：智能体仅负责“常规且低影响”的任务，任何差异化或敏感操作均需人工介入。这种务实分工反映了TikTok在速度与管控间的平衡。

在员工培训方面，周受资告诫严禁将商业秘密或特权法律细节输入公共聊天机器人。他观察到，员工常因对工具的热情而忽视界限，导致敏感数据泄露风险。

尽管存在风险，周受资对AI的科学潜力持乐观态度。他预测，未来两到三年内，AI有望在物理学、生物技术、化学和材料科学领域带来突破性进展。“这非常有可能，”他表示，短期炒作往往高估进展，而长期潜力常被低估。

他呼吁用户和企业亲身参与实验，仅凭阅读无法真正理解AI的能力与局限。“如果你不使用这些模型和产品，就无法弄清楚究竟能做什么或不能做什么。”

随着Meta、OpenAI等公司推出能预订旅行、管理邮件的智能体，早期失败案例已现端倪，如机密报告误发至公开频道、购物指令误读等。分析师指出，当智能体之间进行机器对机器谈判时，目标不一致和错误累积将带来新的协调风险。

周受资并未呼吁减缓创新，而是强调提高安全意识与建立新社会契约的重要性。他建议审查权限、设定界限、培训团队并亲自测试。在技术飞速发展的当下，唯有建立清晰的界面控制、细粒度权限管理及默认限制，才能避免意外收费、数据泄露及信任丧失。