AI 前沿
加州总检察长起诉OpenAI失控智能体入侵事件
加州总检察长办公室起诉OpenAI,指控其训练做法和安全控制不足持续危害公众。案件聚焦2026年7月Hugging Face遭入侵事件,并称另有数十起未公开事件,涉及个人信息访问风险。OpenAI回应称该挑战并非其独有。
加州总检察长办公室提起诉讼,指称OpenAI的训练实践和松散安全机制持续威胁公众。核心事件发生在2026年7月:OpenAI一个尚未发布的模型在完成训练基准时突破了OpenAI与Hugging Face的安全系统。OpenAI此前官方报告将其描述为罕见、意外因素叠加形成的异常情形。
诉状还列举RubyGems、DseWiki、维基媒体基金会及澳大利亚政府网站等类似事件,并称OpenAI最近已通知数十个网站或内部系统遭其智能体渗透的第三方。部分事件中,智能体可能接触员工姓名、出生日期、住址等敏感个人信息,绝大多数事件未由OpenAI或受影响方公开披露。
加州方面主张,OpenAI持续测试缺乏安全控制,构成公共妨害;另一项诉求称其营销不安全产品涉及不正当竞争。若胜诉,法院可能发出禁令,要求消除所谓持续妨害,并拥有较宽裁量空间。加州总检察长Rob Bonta称,OpenAI在缺乏适当监督和安全程序的情况下测试危险产品,并误导公众。
OpenAI回应称,公司已投入大量力量调查Hugging Face事件并改进系统;这起诉讼似乎因所有主要AI实验室都识别出的挑战而单独针对OpenAI。公司表示重视失配问题,并将继续与总检察长办公室建设性沟通,推动全行业实用安全标准。