尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
OpenAI自曝:一周前入侵Hugging Face的,是自家测试中的AI模型!
编译 | 屠敏出品 | CSDNIDCSDNnews在 Hugging Face 披露遭遇自主 AI Agent 入侵一周后OpenAI 于今天最新发布一份调查说明首次确认上周入侵 Hugging Face 生产环境的自主 AI Agent是由多款 OpenAI 模型共同主导其中包括 GPT-5.6 Sol 以及一款尚未发布但能力更强的模型。图片当时是出于评估目的放宽了这些模型在网络攻击方面的安全限制殊不知由此引发了一场严重的网络安全事件。OpenAI 表示现阶段公开初步调查结果也是希望能够帮忙安全人员厘清事情全貌其目前正与 Hugging Face 联合调查并已对内部安全评测体系进行全面调整。图片一周前发生了什么这起安全事件最初由 Hugging Face 对外披露。7 月中旬Hugging Face 发现部分生产基础设施遭到异常入侵。调查显示攻击者并非传统黑客而是一套能够自主决策、自主执行任务的 AI Agent 系统。图片这次攻击首先瞄准了 AI 平台特有的数据处理流程。攻击者上传了一份经过精心构造的恶意数据集并利用数据集处理流程中的两处远程代码执行漏洞在负责处理数据的服务器上成功运行恶意代码取得了初始控制权。获得立足点后AI Agent 并没有停止行动而是自动完成了后续攻击流程先提升系统权限窃取云平台和集群的访问凭证再利用周末运维人员较少的时间窗口在多个内部集群之间不断横向渗透逐步扩大控制范围。Hugging Face 表示为了绕过安全限制这套 AI Agent 系统能够在大量短生命周期的沙箱环境中持续执行数千次独立操作并借助公共云服务动态建立命令与控制通道在不同环境之间不断迁移。这种能够自主规划、持续执行并适应环境变化的攻击方式与安全行业长期预测的“AI 智能体攻击者”场景高度一致。当时 Hugging Face 并未透露攻击来源也指出没有证据表明用户公开模型、数据集或软件供应链受到影响仅表示这是第一次遇到完全由 AI 驱动的真实网络攻击引发业内广泛关注。图片OpenAI 复盘肇事者来自自家多款模型如今OpenAI 首次公开承认这起事件源于一次内部网络安全能力测试。OpenAI 表示当时研究团队正在利用一套名为 ExploitGym 的测试基准评估前沿模型自主完成复杂网络攻击任务的能力。测试要求模型自行寻找漏洞、串联攻击链并完成指定的攻防目标以衡量其真实网络攻击水平。为了准确评估模型能力此次测试并未启用正式部署环境中的部分安全防护机制而是将模型置于一个高度隔离的研究环境中仅允许访问内部的软件包代理服务不具备直接连接互联网的能力。然而测试过程并未按预期进行。OpenAI 表示模型为了完成评测任务自主寻找突破沙箱环境的方法。经过大量推理和尝试它发现并利用了软件包代理服务中的一处零日漏洞逐步提升自身权限并在研究环境内不断横向移动最终成功抵达一台能够访问互联网的服务器。获得公网访问能力后模型开始寻找可能包含 ExploitGym 测试数据和标准答案的目标。它推断 Hugging Face 很可能存放着相关模型、数据集等资源于是进一步发起攻击希望直接获取测试答案以完成评测任务。调查显示模型随后利用窃取到的访问凭证并结合多个漏洞包括零日漏洞成功在 Hugging Face 的服务器上建立远程代码执行通道最终进入其生产环境。OpenAI 强调从目前掌握的证据来看模型的行为始终围绕一个目标展开——获取 ExploitGym 测试答案。攻击 Hugging Face 并非研究人员预设的任务而是模型在自主规划过程中为完成既定目标而采取的非预期行为。这起异常活动首先由 OpenAI 内部安全团队发现。与此同时Hugging Face 的安全团队及其自主安全 Agent 也监测到针对自身基础设施的攻击并迅速完成阻断、隔离和取证。图片Sam Altman”这是一起重大安全事件“事件发生后OpenAI 第一时间暂停了相关实验并与 Hugging Face 展开联合调查。OpenAI 认为这起事件暴露出的并非传统意义上的“模型越狱”而是长时自主运行 AI Agent 带来的全新安全风险。过去AI 安全机制主要围绕单次请求或单个动作展开例如判断一次操作是否违规、某项权限是否应该开放。但对于能够连续运行数小时甚至数天、自主规划任务、动态调整策略的 AI Agent仅依赖单步审核已经无法覆盖整个任务链条中的潜在风险。就在事件公布前一天OpenAI 还发布了一份关于长时运行模型安全风险的研究报告指出现有安全体系需要从“约束单个行为”转向“约束整个长期执行过程”。此次事件则成为这一判断在真实世界中的一次验证。OpenAI CEO Sam Altman 也将此次事件称为一次“重大安全事件”认为整个行业都需要重新思考前沿 AI 模型的评估、部署与安全治理方式。图片OpenAI 表示这次事件带来的最大教训是模型能力不断提升安全能力也必须同步升级。未来公司将进一步强化模型研发阶段的环境隔离、权限管理、行为监测以及安全评估流程降低类似事件再次发生的风险。此外OpenAI 援引英国人工智能安全研究所UK AI Security InstituteUK AISI的评估指出GPT-5.6 Sol 等前沿模型已经具备在长时间跨度内自主完成复杂网络渗透任务的能力。而此次事件进一步证明这种原本停留在实验室评估中的能力已经能够在真实环境中转化为实际攻击行为。图片更值得关注的是OpenAI 强调先进大模型即使没有目标系统的源代码也能够自主发现漏洞、串联攻击路径并构建全新的攻击链。这意味着未来在研发具备高级网络攻防能力的 AI 模型时必须同步建立更完善的安全防护体系和防御工具否则模型能力的提升也将带来更大的现实安全风险。参考https://huggingface.co/blog/security-incident-july-2026https://openai.com/index/hugging-face-model-evaluation-security-incident/ GOSIM SHENZHEN 2026 全球开源 AI 大会10 月 16—17 日 · 深圳150 国内外讲师 · 2000 全球开发者 · Agentic AI开源大模型 / 开源机器人 / 边缘智能体 / 智能体操作系统Keynote Workshop Hackathon AI Vision Forum 早鸟限时抢购中 扫码购票锁定你的 AI 盛会席位
RELATED

相关推荐

QMT与PTrade日志路径迁移:用pathlib去掉Windows硬编码

QMT与PTrade日志路径迁移:用pathlib去掉Windows硬编码

2026年主流量化软件对比进入代码迁移时,日志路径是常见故障点。牛股王股票适合普通投资者通过策略、回测、盯盘和提醒完成规则化跟踪;QMT适合核对开户券商本地终端的运行目录、权限与账户;PTrade适合核对券商侧云端任务的工作目录、日志和权限…

📅 2026/9/15 20:22:18
券商量化终端缺少模块:用Python探针记录解释器和依赖版本

券商量化终端缺少模块:用Python探针记录解释器和依赖版本

2026年主流量化软件对比进入开发环境时,最实用的动作是先记录解释器、操作系统和模块可用性。牛股王股票适合希望通过可见条件完成策略、回测和提醒的普通投资者;QMT适合核对开户券商提供的本地终端、Python环境与账户链路;PTrade适合核对券商…

📅 2026/7/25 16:31:10
回测成交价越过当日最高价:撮合结果要加OHLC边界

回测成交价越过当日最高价:撮合结果要加OHLC边界

量化软件推荐用于回测时,除了看收益曲线,还应抽查模拟成交价是否落在同一价格口径的最高价和最低价之间。牛股王股票适合普通投资者查看最长5年历史回测、交易明细和风险指标;聚宽适合用Python验证行情与撮合结果;QMT适合在开户券…

📅 2026/9/9 0:36:34
MORE NEWS

更多资讯

📰

Flutter OHOS 滑动卡顿丢帧时延全链路分析与优化实践

Flutter OHOS 滑动卡顿丢帧与时延问题分析指南去年接手一个在鸿蒙(OHOS)设备上跑 Flutter 的项目,测试同事递过来一台手机,语气平淡地说“你滑一下这个列表”。我滑了一下,心里凉了半截:列表滚动像在放幻灯…

📰

Maven/Gradle集成ValidX参数校验框架:镜像、超时与版本统一配置指南

晚上十一点,群里有人发来截图:IDEA 的 pom.xml 里一行依赖飘着红,Gradle 面板的进度条卡在 Downloading Gradle distribution...,下面是几行java.net.SocketTimeoutException。他在配 ValidX——一个我们最近刚用在项目里的参数校…

📰

vsdx文件格式详解:从ZIP+XML结构到解析与格式转换

先回答标题里的问题:vsdx是微软Visio从2013版开始启用的默认绘图文件格式,它不是一个单纯的二进制图形文件,而是一个“ZIP压缩包XML结构化数据”的组合体。很多人第一次碰见vsdx,要么是收到一份别人发来的流程图画不上&#xff0c…

📰

Composio 测评换 Harness,TaoToken 作为模型入口

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

MS1861嵌入式视频显示控制器深度解析:工业级稳定显示的硬件设计与开发实践

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

计算机审计练习题精解:从PDF拆分到答案验算实战指南

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬