Powell、Bessent 警告银行有关 Anthropic 的 Mythos AI 所带来的安全风险:彭博社

据报道,美国财政部长Scott Bessent和联邦储备局主席Jerome Powell本周稍早与华尔街银行首席执行官召开会议,警告有关Anthropic新人工智能模型的网络安全风险。

根据彭博社的报道,会议包括来自花旗集团、美国银行、富国银行、摩根士丹利和高盛的高管。官员们讨论了Anthropic的新AI模型Mythos,该模型最近因其明显的先进网络安全能力而引起广泛关注。

官员们召开会议以确保银行了解能够识别和利用操作系统及网络浏览器软件漏洞的系统所构成的风险,并鼓励机构加强防御,以应对针对金融基础设施的潜在AI辅助网络攻击。

安全研究人员警告说,能够自动发现漏洞的工具如果被滥用,可能会加速防御性安全工作和恶意黑客攻击。

Anthropic的Mythos模型于3月首次在网上浮现,此前有关该系统的草稿资料在网上泄露,揭示了该公司所描述的迄今为止最强大的AI模型。在测试中,据报该系统发现了数千个以前未知的软件漏洞,包括跨主要操作系统和网络浏览器的零日漏洞。

Anthropic研究人员在本周稍早的一份报告中表示,Mythos Preview的漏洞发现能力并非有意训练的结果,而是从模型的编码、推理和自主性方面的广泛改进中产生的。

"使模型在修补漏洞方面大幅提高效率的相同改进,也使其在利用漏洞方面大幅提高效率,"该公司写道。

由于这些能力,Anthropic已将访问权限限制在一小群网络安全组织中。

"鉴于其能力的强大,我们在如何发布方面非常谨慎,"Anthropic在一份声明中表示。"按照业界的标准做法,我们正在与一小群早期访问客户合作测试该模型。我们认为这个模型是一个阶段性变化,也是我们迄今为止构建的最强大的模型。"

为了应对这一风险,Anthropic正在通过Glasswing项目测试Mythos,这是与主要科技和网络安全公司的合作,利用该模型在攻击者利用之前识别并修补关键软件中的漏洞。

"Glasswing项目是一个起点。没有任何一个组织能够单独解决这些网络安全问题,"该公司在一份声明中表示。"前沿AI开发人员、其他软件公司、安全研究人员、开源维护者以及世界各国政府都有重要的角色要扮演。"

Anthropic没有立即回应Decrypt的置评请求。