
尽管AI写作能力备受诟病,但其生成内容正大规模充斥互联网,形成低质“废料”。为应对这一问题,文本水印技术应运而生。通过在AI生成文本中嵌入机器可识别的隐藏信号,该技术旨在增加大规模生产AI内容的阻力,并为人类保留网络空间。此外,欧盟《人工智能法案》也要求以机器可读方式标记AI生成内容。
目前,Anthropic确认其最新及部分旧版Claude模型在全球所有平台上均对生成文本添加了隐藏水印。Google自2024年起已在Gemini应用中部署文本水印。OpenAI则宣布,将于今年10月在欧盟地区的ChatGPT和Codex文本中添加水印。然而,这些科技巨头并未向公众开放检测工具。尽管Google的synthid.com允许检查图像、视频和音频的水印,但不支持检测由其实验室生成的文本。
水印技术的底层逻辑
大语言模型(LLM)的核心是预测下一个词。输入文本被分词器转换为标记(token)ID,进入模型的上下文窗口。模型输出的是词汇表中每个标记的概率分布,而最终选择哪个标记由“推理运行时”(inference runtime)决定。运行器可根据概率随机选择标记,这赋予了AI输出的非确定性。
主流的水印技术正是在这一环节介入。一种是“绿名单”方法:将标记分为“绿名单”和“红名单”,在运行时提升绿名单标记的概率。另一种是Google DeepMind提出的SynthID-Text方法,也是Claude目前采用的技术。它不直接调整概率,而是在运行时通过秘密密钥、候选词及前文语境进行多次“抛硬币”决策,仅当硬币结果为正面时才选中该词。检测时,拥有密钥的检测器重做这一过程,统计正面比例。若正面比例显著高于随机预期(如50%),则判定为AI生成。
交互式演示:成为水印
为直观展示SynthID原理,可通过构建一个交互式HTML页面来模拟。该页面包含一段短篇故事和秘密密钥。每个单词的标记ID基于其在字母顺序列表中的位置。检测器从第五个单词开始,结合前四个单词的标记ID与密钥数字进行计算:若乘积之和的末位数字在5至9之间,则判定为“正面”。
用户可通过下拉菜单替换单词,观察“正面”比例的变化。若正面比例达到60%以上,页面将显示“检测到水印”徽章。这一过程揭示了水印的脆弱性与依赖性:更改密钥或单词会重置检测结果;且由于每个单词的计算依赖前文,修改早期单词会影响后续所有判断。真实场景中,SynthID使用更复杂的哈希函数和多轮加权机制,且在长文本中检测效果更佳。
为何检测权被垄断?
目前,只有AI公司及其授权机构能进行水印检测,关键在于密钥的保密性。若公开密钥,恶意用户可利用相同逻辑去除水印,或故意编写高比例“正面”文本以伪造AI生成内容,从而使水印机制失效。尽管这一理由存在争议,但确是当前行业维持检测门槛的主要原因。作者表示,目前正在申请访问Claude的检测器权限。