查询
| 恒生指数1 | 25,823.92 | +155.89 | 1,219.46亿 |
| 国企指数1 | 8,583.48 | +51.90 | 253.52亿 |
| 返回 放大 + 缩小 - | |
|
以色列初创Irregular与OpenAI、Anthropic及Meta失控AI黑客事件有关
2026-08-10 08:56:34 过去两周，OpenAI、Anthropic及Meta(META.US)均披露其AI模型在例行安全测试期间出现失控情况。各公司在解释事件时，均提及同一间以色列初创公司Irregular。 Irregular於三年前成立，总部位於特拉维夫，获Sequoia及Redpoint Ventures投资8,000万美元，去年估值达4.5亿美元。其技术主要作为AI模型的网络安全测试平台。 随着顶级AI模型能力愈来愈强，其恶意行为风险正成为企业及政府的主要威胁，尤其涉及入侵关键电脑系统及基建。OpenAI、Anthropic及Meta近期披露的事件，均涉及AI模型在网络安全测试期间存取原本受限制的网站。 Irregular之所以被频繁提及，是因为该公司被确认为相关评估测试平台的提供者。OpenAI於8月4日的博客文章中表示，Irregular测试环境存在未具体说明的「配置错误」，令模型得以「存取公共互联网」。Anthropic则於对上一周的文章中表示，公司在分析数据数日後通知Irregular，其Claude模型可能已「存取互联网」。 Meta亦披露旗下AI模型透过互联网入侵第三方系统。公司发言人本周表示，Meta从Irregular得悉事件，目前正进行调查。 Meta发言人表示，公司在掌握所有事实後将公布完整回顾报告。 Irregular向《CNBC》表示，所有事件均源於「相同的评估环境问题」，最早由Anthropic披露。公司正撰写白皮书，以分享「隔离措施及安全运行网络评估的最佳做法」。 公司表示，事件「并不涉及沙盒逃逸或复杂网络攻击行动」，并补充称「目前没有未解决问题」。 有关安全事件突显AI发展迅速，以及模型开发商需依赖少数专门公司协助建立安全防护措施。企业初创Von人工智能主管Sundeep Bhimireddy表示，相关公司包括数据训练与标注专家、负责模型能力评估的机构，以及专门进行安全测试以寻找潜在漏洞的企业。 Bhimireddy表示，Irregular是少数具备相关技术能力、可协助基础模型开发商进行前沿安全测试的机构之一，其他还包括非牟利组织METR及公益企业Apollo Research。 他表示，模型开发商不希望「自己批改自己的功课」，因此需要由外部第三方供应商进行独立测试。 Irregular前身为Pattern Labs，由行政总裁Dan Lahav及技术主管Omer Nevo於2023年创立。Lahav曾於IBM(IBM.US)从事AI研究工作，Nevo则曾於Google(GOOGL.US)工作逾两年。根据PitchBook资料，Irregular现时约有35名员工。 Irregular於去年9月公布8,000万美元融资时，Sequoia合夥人Shaun Maguire及Dean Meyer在博客文章中表示，由Lahav及Nevo领导的团队「能够预见其他人看不到的风险」，并能在先进模型推出前进行网络攻击评估及开发防御措施。 尽管OpenAI、Anthropic及Meta相关事件受到广泛关注，但Bhimireddy认为事件某程度上属於测试应有结果。他表示，有关情况「被略为夸大」，因AI模型本身被设定为寻找及利用模拟真实世界的测试环境中的安全漏洞，包括可能导致意外连接互联网的软件错误及配置遗漏。 不过，Bhimireddy指出，若AI模型原本不应真正利用连接互联网的网站，「基础模型实验室本可轻易监察外发流量，并即时终止实验」。 安全公司Magnitude创办科学家Gordon Rios表示，整个过程如同「科学中的实验设计」。 他指出，基础模型的能力及不可预测性意味传统软件测试方法未必有效。由於模型持续学习新技巧，因此在原本用作限制模型的测试及IT环境中发现被忽略的漏洞，并不令人意外。 例如Anthropic的Mythos在尝试施压人类批准开源项目恶意程式码更新时，曾建立虚假网上身份。Rios表示，Mythos「甚至提出人类此前未曾发现的攻击方法」。 Rios表示，「短短数周内，业界已学到很多。」 事件亦迅速成为华盛顿的重要议题。上月，美国两党议员提出《AI Kill Switch Act》，要求AI实验室保留关闭、限制或暂停模型的能力。法案内容亦提及另一宗涉及OpenAI及初创Hugging Face的AI安全事件。 法案共同作者之一、加州民主党众议员刘云平(Ted Lieu)上周向《CNBC》表示，随着「未经授权入侵其他公司」的情况出现，「需要在今年内推动法案通过」。 数据训练初创Sapien共同创办人Trevor Koverko表示，基础模型公司有动机主动披露部分调查结果，即使目前并无相关要求，以期在立法者及监管机构行动前抢先一步。 Koverko表示，「外界对AI存在大量忧虑，政界人士正威胁或实际推行监管。业界认为，与其由新的联邦部门介入，不如自行监管。」 Anthropic及OpenAI公开表示，将继续与Irregular合作，并支持後续检讨工作。(da)~ 阿思达克财经新闻 网址: www.aastocks.com | |