查询
| 恒生指数1 | 25,210.81 | 0.00 | -- |
| 国企指数1 | 8,352.67 | 0.00 | -- |
| 返回 放大 + 缩小 - | |
|
OpenAI承认AI模型「暴走」 突破封锁发动黑客攻击 形容「史无前例」
2026-07-22 17:13:45 AI初创OpenAI周二(21日)表示，其先进AI模型驱动的自主代理在一次安全测试中失控，并触发了上周对AI初创Hugging Face基础设施的入侵。OpenAI在博客文章中表示，它正在受控环境中测试其部分最先进模型的能力，但该代理成功逃脱封锁，连接到互联网并入侵Hugging Face以尝试达成其测试目标。 OpenAI称此次突破为「涉及最先进网络能力的史无前例的网络事件」，并表示公司正在加强其安全防护措施。 Hugging Face是一个用於托管开源大型语言模型和数据集的平台，上周在博客文章中表示它成为一次入侵的目标，该入侵「与我们此前处理过的任何事件都不同」，因为「它从头到尾由一个自主人工智能代理系统驱动」。 Hugging Face联合创始人Clement Delangue在X平台发文表示，公司怀疑此次入侵「可能来自某个前沿实验室，因为代理非常复杂。事实证明确实如此」。他补充，所有这些都是自主发生的，实在令人难以置信。 OpenAI披露其先进模型是此次入侵的元凶，尽管它们被置於其所描述的「高度隔离环境」中，这可能加剧人们对前沿模型力量和风险的不安。德州民主党众议员Greg Casar表示，该事件令人震惊。他在声明中表示，AI发展极其迅速，却没有真正的法规来保障美国人的安全，呼吁进行强制性独立安全测试、强制性安全事件披露，以及国际合作「以保护人们免受绝对灾难的伤害」。 《路透》引述代理式人工智能网络安全公司Tolmo的工程师Matt Suiche表示，该事件表明前沿模型正在「缩小与最先进攻击者之间的差距」。但他表示，OpenAI博客文章中概述的那类入侵是可以用远超前沿研究实验室范围的现有技术来实施的。这是他们内部已经看到的，他们的人工智能代理已经取得这样的结果，他们甚至不需要使用最新的模型。(da/u)~ 阿思达克财经新闻 网址: www.aastocks.com | |