AI生成的“垃圾内容”正通过窃取喜剧演员的段子，制作虚假的病毒式传播视频。这些视频将人类表演者替换为AI生成的丰满年轻女性形象，并引导观众访问OnlyFans页面以获取付费内容。
据媒体报道，喜剧演员乔治·布雷特·奥尔森（George Brett Olson）的作品近期遭一个拥有超30万粉丝的AI账号盗用。奥尔森发布视频详细揭露了其段子甚至服装细节被AI仿冒的过程。对此，Instagram负责人亚当·莫西里（Adam Mosseri）回应称，在平台上全面禁止AI内容并不切实际，因为识别难度日益增加，且并非所有AI内容均属低质。
平台治理陷入两难
莫西里表示，尽管难以一概而论，但团队将深入调查大规模抄袭行为，并致力于推动流量流向原创者。他坦言：“我不确定具体措施，但会确保与团队沟通并展开调查。”此前，针对视觉艺术家作品被重制为AI垃圾内容的现象，莫西里也曾称这是一个“棘手的问题”，Instagram仍在寻找解决方案。
他在Threads上指出，虽然平台允许用户提出版权主张并移除侵权材料，但这并不足够。许多喜剧演员和舞者并未为其作品申请版权，因此缺乏保护。同时，平台还需防止不良分子滥用虚假索赔机制，这种情况时有发生。
AI降低抄袭门槛
鉴于Meta在人工智能领域的战略地位，业界普遍认为其不太可能彻底清除社交媒体上的AI内容。莫西里指出，盗窃和侵犯版权虽非新问题，但AI使抄袭变得前所未有的容易且低成本。创作者无需再亲自表演或绘画，只需设置好AI工作流即可源源不断地输出低质内容。若能将虚假形象包装为迷人的真人，造假者甚至能通过OnlyFans额外获利。
Meta将如何在Instagram等平台上打击此类滥用行为，还是继续依赖创作者逐个举报，仍有待观察。