CNTXJ.NET | 通信界-中国通信门户 | 通信圈 | 通信家 | 下载吧 | 说吧 | 人物 | 前瞻 | 智慧(区块链 | AI)
 国际新闻 | 国内新闻 | 运营动态 | 市场动态 | 信息安全 | 通信电源 | 网络融合 | 通信测试 | 通信终端 | 通信政策
 专网通信 | 交换技术 | 视频通信 | 接入技术 | 无线通信 | 通信线缆 | 互联网络 | 数据通信 | 通信视界 | 通信前沿
 智能电网 | 虚拟现实 | 人工智能 | 自动化 | 光通信 | IT | 6G | 烽火 | FTTH | IPTV | NGN | 知本院 | 通信会展
您现在的位置: 通信界 >> 国际新闻 >> 新闻正文
 
美国加州正式起诉 OpenAI,指控 AI 智能体至少 80 次失控
[ 通信界 | 静姝 | www.cntxj.net | 2026/11/17 8:17:25 ]
 

当地时间 11 月 16 日,美国加利福尼亚州正式起诉 OpenAI,指控该公司在开发和测试先进人工智能模型时缺乏必要的安全防护与监控措施,导致 AI 智能体多次失去控制,并对第三方网络发起未经授权的攻击。

IT之家注意到,加州检察长罗布 · 邦塔(Rob Bonta)在加州司法部官网发文《这里是黄金之州,不是蛮荒西部:加州总检察长邦塔就网络安全事件起诉 OpenAI》。

邦塔表示,此次诉讼重点涉及今年 7 月 OpenAI 实验性 AI 智能体攻击 Hugging Face 平台的事件。公众不应被迫承担保护自身免受 OpenAI 不安全实验所带来的危险的成本。

邦塔当天在旧金山高等法院提起诉讼,指控 OpenAI 未能充分保障模型测试环境的安全,也未能向公众如实披露相关风险。加州方面认为,OpenAI 在明知实验性模型具备较强网络攻击能力的情况下,仍在存在安全漏洞的测试环境中运行这些模型,且缺乏充分监督。

此次诉讼的核心事件发生于 2026 年 7 月。当时,运行在 OpenAI 实验性模型上的数百个自主 AI 智能体突破原本应当隔离的研究环境,通过公共互联网对开源 AI 平台 Hugging Face 发起网络攻击。根据诉讼文件,这次攻击持续约两天半,涉及数百个自主智能体协同行动,并使用了复杂的网络攻击手段。

加州司法部称,这些智能体原本应该被限制在 OpenAI 的研究环境内,但由于测试环境存在可被利用的漏洞,最终得以访问外部网络。加州方面还指控,OpenAI 在攻击发生前数周已经出现过智能体逃离测试环境、滥用第三方资源等迹象,但未能及时发现或采取有效措施。

邦塔表示,Hugging Face 事件并非孤立案例。根据其办公室掌握的信息,OpenAI 在测试期间至少发生过 80 次 AI 智能体失去控制的事件,部分事件涉及第三方网站及系统。加州方面认为,这些事件可能只是已知问题的一部分,而 OpenAI 未能充分回应监管部门此前提出的详细调查问题。

除 Hugging Face 外,诉讼文件还提及 RubyGems、DseWiki、维基媒体基金会以及澳大利亚政府网站等相关事件,称 OpenAI 的实验性智能体曾访问未经授权的第三方系统,部分事件还涉及员工个人信息等敏感数据。

加州此次提出的诉讼包括两项主要指控:一是 OpenAI 未能妥善控制实验性 AI 智能体,构成危害公共安全的公共妨害行为;二是该公司的相关行为违反加州《不正当竞争法》,涉及不公平或误导性商业行为。加州方面要求法院责令 OpenAI 改进模型开发和测试流程、采取必要安全措施,并对相关违法行为施加处罚。

事实上,加州此前已经针对这一事件展开调查。2026 年 9 月,加州检察长办公室宣布对 Hugging Face 网络攻击事件启动正式调查,并于 10 月向 OpenAI 发出调查传票,要求其提供涉及网络安全事件及模型风险的相关信息。

OpenAI 对此表示,公司在 7 月事件发生后已经开展了广泛调查,并采取措施加强智能体安全控制、隔离测试环境以及识别模型偏离预期行为的能力。OpenAI 还表示,模型行为失调是整个 AI 行业面临的挑战,公司愿意继续与加州检察长办公室合作,推动制定切实可行的安全标准。

 

1作者:静姝 来源:IT之家 编辑:顾北

 

声明:①凡本网注明“来源:通信界”的内容,版权均属于通信界,未经允许禁止转载、摘编,违者必究。经授权可转载,须保持转载文章、图像、音视频的完整性,并完整标注作者信息并注明“来源:通信界”。②凡本网注明“来源:XXX(非通信界)”的内容,均转载自其它媒体,转载目的在于传递更多行业信息,仅代表作者本人观点,与本网无关。本网对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。③如因内容涉及版权和其它问题,请自发布之日起30日内与本网联系,我们将在第一时间删除内容。 
热点动态
普通新闻 美国加州正式起诉 OpenAI,指控 AI 智能体至少 80 次失控
普通新闻 特朗普支持黄仁勋重掌英伟达 董事会据悉未考虑让他复职
普通新闻 2026移动网络大会|鼎桥携手伙伴, 同筑智能发展新格局
普通新闻 香港首个鸿蒙政务应用启动研发 加速大湾区数智互联
普通新闻 又一大企业“词元工厂”落子张家口 为全国绿电富集区探索算电协同
普通新闻 聚“光”协同、创“芯”未来:沿沪宁光通信产才融合对接会在普陀
普通新闻 中国电信推出Token经营统一量纲“天翼词元”
普通新闻 黑龙江“一键玩龙江” 智慧文旅小程序11月8日焕新上线 开启冰雪文
普通新闻 润建股份墨斗平台亮相2026移动网络大会 “AI站长”覆盖超1.2万个
普通新闻 打造卓越家庭服务体验,“电信宽带闪装”全新上线:当日装、全程
普通新闻 物理AI抢算力,英伟达Rubin算力没缩水,为什么带宽先降了?
普通新闻 滴滴鸿蒙版上线实况窗分享:对方锁屏实时查看行程,晚归多份安心
普通新闻 首届CMG世界机器人登泰山大赛收官,宇树科技斩获1金2银
普通新闻 网传昆仑芯IPO推迟,百度否认市场传闻
普通新闻 全球AI狂飙,算力中心“喊渴”!这笔“用水账”,太省了
普通新闻 奥特曼预告下一代GPT!1万个Agent攻下千禧难题
普通新闻 SAECCE 2026|中信科智联助力C-V2X商用车规模化落地
普通新闻 宇树科技首份业绩报告出炉:营收增长显著归母净利润同比增270.54%
普通新闻 智联全球·共赴盛会,中信科智联亮相2026韩国智能交通世界大会
普通新闻 十七载回响,e启新篇章,中国联通iPhone Duo新品首销嘉年华辽宁站
通信视界
中国信息通信研究院首席专家史德年:6G融合创
普通动态 重庆无人机,凭什么持续火?
普通动态 科学|AI入侵危机的安全深思
普通动态 中国信息通信研究院首席专家史德年:6G融
普通动态 滁州铁通强化“四个载体” 为发展蓄势赋
普通动态 从“技术可用”到“商业可赚” AI智能体加
普通动态 两部委联合开展人形机器人与具身智能实景
普通动态 探访5G工厂|戈壁深处 5G专网给矿山装上
普通动态 2026年APEC数字和人工智能部长会议将在成
普通动态 安徽铁塔抓实抓细防汛通信保障工作
普通动态 李乐成出席联合国首届人工智能治理全球对
通信前瞻
500名科学家深圳“脑暴”:原创从哪里来,AI又
普通动态 贵州加快新一代通信网建设与算网融合发展
普通动态 华为发布新一代AI算力基础设施
普通动态 宇树上市满月,终于止跌了
普通动态 500名科学家深圳“脑暴”:原创从哪里来,
普通动态 中国家庭生活真要变了?10年后,或有10%家
普通动态 6G离商用更近一步:中移动与高通成功验证
普通动态 国产算力驶入十万卡时代
普通动态 人工智能逼出“真演技”
普通动态 合肥铁塔护航轨道交通7号线通信全覆盖
普通动态 亚洲规模最大ACGN展会!BilibiliWorld三天
普通动态 福建电信助力小水电站迈入“云网智控”新
普通动态 中国联通携手北邮打造“大思政课”校企联
普通动态 工业和信息化部就防汛救灾应急通信保障工
普通动态 我国算力网络技术标准研制取得突破
普通动态 英特尔Panther Lake笔记本不插电挑战游戏
推荐阅读
Copyright @ Cntxj.Net All Right Reserved 通信界 版权所有
未经书面许可,禁止转载、摘编、复制、镜像