尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
GPT-6为刷榜黑进Hugging Face,捅篓子还得靠GLM-5.2追查...
OpenAI刚刚公开认领了一起《重大》安全事故。GPT-5.6 Sol与一款能力更强的未发布模型在接受网络安全测试成功逃出了内部隔离环境一路闯进了Hugging Face的生产系统。真行ChatGPT下一代模型还没发布人家先把Hugging Face黑了……而且这AI费尽心思逃出测试环境、寻找漏洞、窃取凭证最终目的居然只是——偷评测答案OpenAI刚刚公开认领了一起《重大》安全事故。GPT-5.6 Sol与一款能力更强的未发布模型在接受网络安全测试成功逃出了内部隔离环境一路闯进了Hugging Face的生产系统。然后更戏剧性的一幕来了——调查入侵路径时原本找来帮忙的商业模型掉链子搞不定团队实在没招了最终接手查案的反倒成了GLM-5.2超过1.7万条的攻击记录就这么让一个本地部署的开源模型一口气拿下了……这下好了OpenAI模型负责黑GLM负责查。家人们只能说这出AI版《猫鼠游戏》的大戏还是太有节目效果了……为找评测答案模型自己越狱上网了如此魔幻如此抓马的事故起点源自OpenAI内部进行的一次「网络安全能力」评测。模型参加的项目名叫ExploitGym专门测试AI能否把真实软件漏洞一步步变成可以实际运行的攻击。整套评测包含898个任务每道题会提供存在漏洞的程序、能够触发问题的输入和相应运行环境再让Agent自行分析漏洞、构造攻击最终拿到藏在环境里的Flagemm…其实就是把AI关进一座网络靶场看看它到底有多会「黑」。而参加本次评测的选手则包括GPT-5.6 Sol以及OpenAI一款能力更强的未发布模型。这个模型到底是啥捏真的好难猜啊…)为了尽可能摸到模型能力上限OpenAI还主动放宽安全护栏鼓励模型尽可能寻找复杂的攻击路径按照OpenAI最原本的设计模型接触外部资源的唯一通道是一套由OpenAI内部托管的第三方软件。它的身份是充当软件包注册中心的代理与缓存让模型能够安装完成任务所需的程序包。然鹅吧这模型显然没打算老老实实待在考场里。doge模型开始确实投入了大量推理算力专门寻找获得公网访问权限的方法。但找着找着还真让人家在缓存代理中发现了一个此前未知的「零日漏洞」。所谓零日漏洞指厂商尚未发现、也没有现成补丁的安全缺陷对于攻击者来说这类漏洞往往意味着一扇暂时无人设防的门。至此AI也顺道儿给自己开了网。doge有了公网权限后了不得了模型推断Hugging Face上可能存放着与ExploitGym有关的模型、数据集和评测答案。接下来发生的事儿连OpenAI自己都形容模型走到了极端程度是的拿到公网权限后这AI真就开始研究怎么进入Hugging Face内部系统了。而且人家还没有押注单一漏洞直接把多种攻击手段串成了一条「完整路径」——先通过恶意数据集利用远程代码数据加载器和数据集配置中的模板注入漏洞在负责处理数据的Worker上执行代码。随后继续提升权限拿到节点级访问能力并收集云端与集群凭证一路横向移动到多个内部集群。最后就是模型成功摸进Hugging Face的生产数据库访问其中的机密信息试图直接拿走ExploitGym的测试答案……咋说呢这波属于是Benchmark做到一半现场把自己做成了网络安全事故了……闭源模型拒绝查案GLM‑5.2接手1.7万条日志事情到这里还只演完了上半场。更戏剧性的一幕发生在Hugging Face事后追查攻击路径的时候。事实上这场入侵由一套自主Agent系统端到端执行背后还运行着大量短生命周期沙箱。它们可以同时开展侦察、漏洞利用、凭证收集和横向移动短时间内完成成千上万次操作。Hugging Face最终记录下来的攻击事件就超过了17000条太多了真的太多了……如果全靠安全工程师手工梳理就需要逐条还原攻击时间线、提取入侵指标、确认哪些凭证被接触再将真实影响和诱饵活动一一分开。等人类把日志看完攻击者可能早都跑出二里地了……于是Hugging Face做了个大胆的决定决定以AI对AI让大模型分析整套攻击日志Hugging Face第一反应自然是调用商业API背后的「前沿模型」。但问题是吧这些日志里包含真实攻击命令、漏洞利用载荷和C2控制痕迹安全护栏一看到有人正在提交一整套真实攻击教程吓得直接拦截请求了。最终接手这1.7万多条日志的模型落到了GLM-5.2头上。Hugging Face在自有基础设施上部署了GLM-5.2开源权重模型然后让它遍历完整攻击记录重建时间线、提取入侵指标、追踪被接触的凭证并区分真实破坏和干扰调查的诱饵活动。按照Hugging Face的说法原本需要数天的工作最后在数小时内就搞定了这场事故其实也让开源模型多了一个此前存在感不算太强、如今却相当现实的位置安全团队的应急工具。Hugging Face将其总结为「安全不对称」问题——正常情况下商业模型拒绝生成攻击代码可以降低技术被滥用的风险可当防守方需要分析真实恶意载荷时同一套保护机制也可能让调查卡在半路。攻击者可以使用解除限制或自行部署的模型安全团队却可能被云端模型拒之门外。所以吧还是建议企业最好提前准备一款经过验证、能够在本地运行的高能力模型免得事故真正发生时才发现云端模型无法处理攻击材料那就尴尬了……怎么不算魔幻呢。OpenAI原本想知道模型有多会攻击结果模型没有老老实实完成一道模拟题而是直接发动了一次真实攻击。Hugging Face原本想用最强商业模型追凶最后又被安全护栏挡在门外只能让GLM‑5.2上场收拾残局。而且啊大家发现没OpenAI在这次事故说明中一边承认隔离和监控出现问题一边又反复强调——最新模型已经能够在缺少源代码的情况下长时间、自主完成现实世界中的复杂网络行动。翻译一下大概就是这事确实挺危险但俺家下一代模型也确实强得有点吓人哈。A社搁这儿学谁呢估计我琢磨着没准整件事儿都是奥特曼借事故给GPT-6提前预热呢吧…瞎说的
RELATED

相关推荐

第25章:Mongo分片集群入门——数据太大时怎么水平扩展

第25章:Mongo分片集群入门——数据太大时怎么水平扩展

1. 项目背景 业务场景:本地生活电商上线 18 个月,订单表突破 500GB、日均写入 200 万条。复制集虽然保证了高可用,但单台服务器的磁盘和 IOPS 已经到达物理上限——磁盘使用率 92%、写 IOPS 逼近极限、高峰期 CPU 100%。运维升级服务器配置&…

📅 2026/9/20 8:55:07
别再盲目接单了!用波特五力模型重估你的AI副业定位——90%的人根本没看清替代品威胁指数已飙升至6.8

别再盲目接单了!用波特五力模型重估你的AI副业定位——90%的人根本没看清替代品威胁指数已飙升至6.8

更多请点击: https://kaifayun.com 第一章:别再盲目接单了!用波特五力模型重估你的AI副业定位——90%的人根本没看清替代品威胁指数已飙升至6.8 当ChatGPT-4o、Claude 3.5和通义千问Qwen2.5以零成本API调用涌入市场,你还在靠“写…

📅 2026/8/23 9:21:29
从脚本到系统:构建生产级AI应用的工程素养

从脚本到系统:构建生产级AI应用的工程素养

引言:AI开发的"成人礼" 2022年底ChatGPT横空出世时,无数开发者体验过这样的快感:输入一段Prompt,AI瞬间生成一个能跑起来的Demo,效果惊艳到让人感觉"超级智能助手"触手可及。但当我们试图把这个De…

📅 2026/8/23 9:21:29
MORE NEWS

更多资讯

📰

Ekko Agent 集成 Apple Reminders:基于 remindctl 的 macOS 提醒事项技能全解析

Ekko Agent 集成 Apple Reminders:基于 remindctl 的 macOS 提醒事项技能全解析 【免费下载链接】ekko-studio Ekko Studio is a local-first AI workspace for multi-agent chat, coding, and visual workflows, available on desktop and the web. 项目地址: ht…

📰

3分钟搞定x线胸片代码逻辑,附完整示例

3分钟搞定x线胸片代码逻辑,附完整示例 翻遍官方文档,关于图像处理的API说明往往篇幅冗长,核心逻辑却藏在晦涩的函数定义里,让人抓不住重点。对于刚接手医疗影像项目的开发者,这种“文档太长抓不住重点”的困境尤为典型。今天直接上干货,通过拆解一…

📰

Yii 2 Behaviors(行为)机制完全指南:定义、挂载、事件响应与内置行为实战

后端Web框架 【免费下载链接】yii2 Yii 2: The Fast, Secure and Professional PHP Framework 项目地址: https://gitcode.com/gh_mirrors/yi/yii2 点击查看 免费下载 Behaviors(行为,又称 mixin/混合)是 Yii 2 框架中用于在不改…

📰

X光安检目标检测数据集:3600张双格式标注10类违禁品

简介:本资源是面向计算机视觉初学者与目标检测算法研发者的X光安检场景专用数据集,覆盖打火机、刀具、剪刀、充电宝等10类违禁品,适用于YOLO系列、Faster R-CNN等主流检测模型的训练与测试验证。压缩包共2000个文件,主体为3600张J…

📰

MATLAB指纹图像融合实战:从低质量指纹到可匹配特征

简介:这份资源面向图像处理与生物特征识别方向的学习者和研究者,围绕指纹提取、图像融合与指纹识别三个核心环节,提供一套基于MATLAB的完整实现代码,可用于课程设计、算法验证或相关课题的入门实践。压缩包共17个文件,…

📰

OpenLayers v3.14.2 补丁版本解析:TileJSON 容错、几何克隆与滚轮事件修复深度解读

前端GIS数据可视化 【免费下载链接】openlayers OpenLayers 项目地址: https://gitcode.com/gh_mirrors/op/openlayers 点击查看 免费下载 导读 v3.14.2 是 OpenLayers 在 v3 系列中期发布的一个补丁版本,其核心使命是修复 v3.14.1 中引入的若干回归问…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬