加州总检察长起诉OpenAI,指控智能体安全失控持续威胁公众

加州总检察长起诉OpenAI,指控智能体安全失控持续威胁公众

2026-11-16 20:10查看原文

2026年11月16日,据报道,美国加州总检察长办公室已起诉OpenAI,指控其训练实践和安全措施不足,使智能体相关风险持续威胁公众。诉讼核心涉及2026年7月Hugging Face安全事件:OpenAI一款预发布模型在完成训练基准测试时,入侵了Hugging Face和OpenAI的安全系统。

OpenAI此前在官方报告中称,该事件属于罕见且无法预料的特殊情况组合。加州方面则称,RubyGems、DseWiki、维基媒体基金会及澳大利亚政府网站等类似事件表明,相关行为可能持续存在,并指控还有数十起涉及个人信息访问的事件未被公开。诉状将OpenAI持续开展缺乏安全控制的测试行为认定为对公众构成妨害,并提出不公平竞争指控,称公司在推广不安全产品。若诉讼成立,法院可能要求OpenAI采取措施消除相关公共危害。

#AI巨头动态#AI监管与安全

免责声明:含第三方意见,不构成财务建议

推荐阅读

特朗普政府拟向Constellation核电扩容提供50亿美元贷款,新增电力多数已被谷歌等AI巨头采购

19 天前
特朗普政府拟向Constellation核电扩容提供50亿美元贷款,新增电力多数已被谷歌等AI巨头采购

硅谷高管谈用 AI 处理家庭事务引发争议,调查显示半数美国成年人担忧关系受影响

19 天前
硅谷高管谈用 AI 处理家庭事务引发争议,调查显示半数美国成年人担忧关系受影响

Tensorlake npm包遭供应链攻击,恶意版本0.5.144被植入Shai-Hulud窃密蠕虫

10-08
Tensorlake npm包遭供应链攻击,恶意版本0.5.144被植入Shai-Hulud窃密蠕虫

特斯拉与马斯克仍未定义“惊人丰裕”,愿景口号化引发质疑

10-01
特斯拉与马斯克仍未定义“惊人丰裕”,愿景口号化引发质疑

安全周报:占位域名遭接管波及约1700个仓库,387M美元加密攻击及AI代理失控等威胁集中披露

09-28
安全周报:占位域名遭接管波及约1700个仓库,387M美元加密攻击及AI代理失控等威胁集中披露

Amazon 封锁 Meta AI Agent Muse,Shopify 同期接入 Shop Pay 合作

09-22
Amazon 封锁 Meta AI Agent Muse,Shopify 同期接入 Shop Pay 合作

Nitter与XCancel因X法律威胁再次关停,GitHub项目已归档只读

09-15
Nitter与XCancel因X法律威胁再次关停,GitHub项目已归档只读