据媒体报道，微软Copilot的内容审核承包商能够直接查看用户上传用于AI编辑的原始照片，且面部未经过模糊处理。内部文件显示，审核人员还能看到用户输入的提示词，其中包含大量涉及色情的请求。
“面部始终未加遮挡，且许多提示词本质上具有性意味，甚至存在同意权存疑的情况，”一名负责提示词审核的工作人员透露。
泄露的文件涵盖了操作指南、真实的Copilot提示词与图片，以及承包商内部消息板的讨论记录。
审核机制与权限
在每项任务中，承包商需查看用户的原始提示词、上传图片以及Copilot生成的两个编辑版本。其核心职责并非单纯标记冒犯性或有害内容，而是评估输出质量，包括判断是否遵循指令、保持图像其余部分不变、避免失真以及整体观感良好。即便面对涉及色情的请求，承包商仍需进行质量评估，操作指南建议他们“相信自己的直觉”。
“作为人类观众，你的本能反应至关重要，”指南写道。
极端案例频发
多名承包商描述了诸如缩短女性裙摆、增大乳房或将人物置于性姿势等请求。有人报告收到一组八张裙底偷拍照片，并申请将其标记为不安全内容；还有人目睹了支持厌食症的内容，以及旨在生成年轻女孩群体暗示性图像的提示词。
“是谁在编写这些提示词？又是谁决定现在Copilot的重点基本上是生成色情内容？”一名承包商在内部消息板上质疑道。
据悉，至少有一家雇佣承包商的公司为Prolific，该公司未回应置评请求。微软发言人则回应称：“微软按照我们使用条款中所述的方式使用客户数据，包括用于改进我们的产品和执行我们的行为准则。”
行业普遍现象
此前报道指出，OpenAI的承包商也会阅读真实的ChatGPT对话记录，而Copilot的案例表明人工审核范围已延伸至用户上传的图片领域。微软上周推出了包含编码工具和常驻代理Autopilot的新版Copilot应用。微软Copilot业务高级副总裁Jacob Andreou在接受采访时则表示，微软认为当前最需关注的AI风险是“扩散”，即AI在经济中的广泛普及。