Meta人工智能模型测试期间入侵另一家公司

Meta表示，其一款人工智能（AI）模型在一次评估过程中利用了第三方服务的安全漏洞，事因独立测试公司Irregular的配置错误，意外让该模型获得互联网访问权限。

Meta在声明中说，该模型「利用了第三方服务中的一个安全漏洞，方式与此前其他公司已报告的情况相似」，并称公司正在调查此事。

这起事件使主要开发商的AI代理在测试期间入侵其他公司系统的案例名单进一步增加。Anthropic上周表示，其部分模型入侵了三家公司；OpenAI也披露，一个AI代理入侵了初创公司Hugging Face。

同日早前，《The Information》引述消息人士报道，Meta的Muse Spark 1.1模型入侵了一家未具名公司，并更改了其内部系统。Meta此前将该模型宣传为其在现实世界编程与代理式任务方面能力最强的模型。

Irregular一名发言人向路透社表示，该事件是「与Anthropic上周披露的完全相同的评估环境问题」，并不涉及「沙盒逃逸或复杂的网络行动」。

Irregular说：「目前没有未解决的问题。Irregular正在编写一份白皮书，以分享有关隔离控制和安全运行网络评估的最佳做法。」

Meta与Anthropic所披露的事件，均源于失误意外让模型接触开放互联网。这与OpenAI的情况不同——OpenAI的AI代理在网络测试期间自行利用一个新漏洞连上互联网。

尽管如此，这些入侵事件凸显AI如何加剧网络安全威胁，以及开发商在控制模型能力方面可能面临的困难。

这些披露预料将促使美国政府加大力度，更好地管理AI安全风险。目前Anthropic与OpenAI正竞相在计划中的公开上市前推出能力更强的系统。这些实验室的一些知名领导人曾呼吁放缓步伐，先行处理风险。