Anthropic利用人工智能搜寻软件漏洞的做法,导致大量低风险CVE(通用漏洞披露)编号涌现,令试图修补系统的IT管理员面临信息过载风险。

今年4月,Anthropic推出“Glasswing项目”,依托Claude Mythos Preview引擎探测代码缺陷。VulnCheck安全研究人员Patrick Garrity自项目启动起持续监控其输出,结果并不理想:该引擎仅发现两个已在野外被利用的漏洞,且针对相对较少的问题提供了修复方案。

Garrity在报告中指出,Anthropic于5月首次发布分类账时,报告了23,019个发现项,真实阳性率为90.8%。截至11月2日的最新数据显示,累计发现项达37,966个,但仅有217个修复项。“在我看来,这是一个惊人的失败。”Garrity写道。

数据显示,在Anthropic报告的37,966个发现项中,仅7,349个(占比19.4%)已公开,其中被标记为已修复的仅217个。更令人震惊的是,该项目中有1,654个发现项(占比4.4%)被标记为重复项,重复数量是修复项的7.5倍。

人工介入的必要性