2025 AI安全动荡期：70%攻击源自供应链，如何加固技术栈？-北京尧图网络

简介这份PDF资料聚焦Gartner对2025年AI驱动网络安全新挑战的预测面向安全与风险管理领导者、应用安全工程师及关注AI治理的从业者帮助其理解AI动荡期的攻击面变化与应对思路。内容围绕软件供应链与技术栈中毒、早期GenAI落地受挫、AI代理漂洗、深度伪造与自动化账户接管等议题展开并给出审查应用安全实践、优先成果驱动AI计划、预判新型账户接管攻击等建议涉及AI安全、软件供应链安全与自动化攻击等方向。资源包共1个PDF文件约215KB为Gartner原版研究报告节选含关键发现、建议与战略规划假设便于快速把握核心结论与数据。目前已有90人学习适合需要将AI风险纳入安全规划、对照检查自身AI供应链与防御策略的读者参考。1. 2025 年 AI 安全进入动荡期70% 恶意攻击来自供应链与技术栈中毒2025 年 2 月一份编号 G00823404 的预测报告在安全和风险管理圈子里流传开来。它给出的核心判断并不温和网络安全正在进入一个由 AI 驱动的动荡期而动荡的主要来源不是科幻电影里的“AI 觉醒”而是更朴素、更工程化的地方——软件供应链和基础设施技术栈。报告里有一句被反复引用的话到 2025 年针对企业所用 AI 的恶意攻击中超过 70% 将来自软件供应链中毒和基础设施技术栈中毒。这个数字值得从业者停下来想一想。过去两年大家谈 AI 安全谈得更多的是模型越狱、提示词注入、内容合规而这份预测把聚光灯打到了更底层的位置开源模型、数据科学笔记本、Python 库、数据管道配置。攻击者不需要攻破你的模型只需要在你下载的模型里、在你跑实验的 notebook 里埋一颗种子。结合 AI 治理、软件供应链安全、自动化攻击、深度伪造这几个关键词来看这条资讯真正想说的不是“AI 很危险”而是“AI 的采用方式正在制造一批新的、传统工具扫不到的暴露面”。2. 70% 这个数字背后AI 供应链为什么成了主战场2.1 攻击者的成本收益账打基础设施比打单点划算报告里有一句很直白的分析黑客传统上就把大部分攻击放在基础设施和供应链层面除非他们有非常明确的目标。原因不复杂——影响面最大、投入精力最少。这个逻辑在 AI 时代被放大了。一个企业内部可能只有几十个业务系统但一条 AI 管道上挂着开源模型、第三方数据集、Jupyter Notebook、Python 依赖、容器镜像、推理服务框架每一层都是可被投毒的入口。从行业角度看这正是“技术栈中毒”这个说法的由来。传统应用安全有一套相对成熟的清单SAST、DAST、SCA、镜像扫描。但当 AI 组件进入开发流水线很多团队默认“现有的漏洞扫描工具应该也能覆盖”报告明确提醒不要这么假设——并非所有传统应用安全工具都已经进化到能对 AI 实体做漏洞扫描。结果就是员工在推进 AI 应用时手里其实没有合适的防护工具。报告还给出了两个来自客户侧的观察专门做 AI 安全的厂商在对客户站点做开源模型定期扫描时发现最高约 1% 的开源模型被植入了恶意软件在客户环境中还发现了数以千计的受感染数据科学笔记本。这两个数字不需要精确到小数点它们传递的信号已经足够清楚投毒不是理论推演而是已经在客户现场被扫出来的事实。2.2 新的攻击面清单模型、Notebook、数据管道把报告里散落的点收拢AI 供应链上的新暴露面大致可以分成四类每一类的防护现状都不一样暴露面典型载体为什么容易被忽略现有工具的覆盖情况开源模型模型市场下载的权重文件被当作“数据”而非“代码”多数传统扫描器不解析模型数据科学软件Notebook、Python 库不在正式发布流水线里常游离于应用安全体系之外数据管道配置、ETL 任务配置错误被当成运维问题缺少深度检测能力AI 应用栈推理服务、编排层新组件不断引入依赖厂商跟进速度这张表里最容易被低估的是第二行。Notebook 在很多组织里是“分析师的个人工具”不进代码仓库、不走 CI、不做依赖锁定但它能直接读数据、发网络请求、装任意包。数以千计受感染 Notebook 的发现本质上说明这个灰色地带已经大到可以被规模化利用。报告里另一条判断也指向同一处攻击者发现攻击数据管道比逐个攻击运行时事务更有“产出”因为管道上流动的是成批的敏感信息。提示如果你的 AI 项目盘点表里只有“模型”和“应用”两栏没有“Notebook、依赖库、数据管道”这几栏那这份盘点大概率是不完整的。2.3 从“运行时防护”转向“供应链与基础设施加固”报告给的建议方向很明确把注意力从运行时向量扩展到软件供应链和基础设施栈。具体落到动作上是先建立 AI 应用的发现与清点流程再把现有的应用安全最佳实践迁移到 AI 项目上然后启动针对 AI 应用的软件成分分析和漏洞评估。基础设施侧则提到机密计算、数据管道深度检测、工作负载加固这几类能力会因保护 AI 交互和企业数据的需要而被更广泛采用。这里有个容易被跳过的前提发现和清点。很多团队一上来就想买扫描能力但如果不知道自己有多少个 AI 项目、每个项目用了哪些模型和依赖扫描器扫什么都是盲的。从行业角度看AI 治理工具的价值也在这里——持续评估并保证所有 AI 资产的安全态势尤其是来自软件供应链的那部分资产。治理不是写制度而是先有一份能持续更新的资产账本。3. 被误读的 AI 安全四个容易踩的认知坑3.1 误判一把 AI 安全等同于模型安全误判点一谈 AI 安全就聚焦在模型本身的对抗样本、越狱、提示词注入。为什么模型层面的讨论声量大、演示效果好容易占据议程。怎么看报告的重心恰恰在模型之外——供应链和技术栈占了恶意攻击的七成以上。模型安全要做但如果资源有限先把模型从哪来、依赖了什么、跑在什么管道上搞清楚收益更直接。模型是结果供应链是入口。3.2 误判二认为现有扫描工具已经覆盖 AI 组件误判点既然有 SCA 和镜像扫描AI 组件自然也在覆盖范围内。为什么工具清单看起来很长没人逐项验证过对模型文件、Notebook 的解析能力。怎么看报告明确说不要假设现有基础设施安全和漏洞扫描工具能正确处理 AI 组件。验证方法很朴素拿一个已知有问题的开源模型或 Notebook 丢进流水线看工具报不报。不报就是没覆盖。3.3 误判三把早期 GenAI 实验的失望当成 AI 不行误判点早期生成式 AI 项目没出成果于是对后续 AI 创新整体降温。为什么投入大、可衡量成果少信心被消耗。怎么看报告把这称为“幻灭低谷”并提醒这可能导致对未来 AI 创新的忽视。更准确的读法是失败的是那些范围模糊、难以衡量的转型项目而不是 AI 本身。只有 12% 的安全与风险管理领导者已经取得可衡量成果这个比例说明的是方法问题不是方向问题。3.4 误判四把“AI 代理自动化”当成马上能落地的全自动误判点厂商说能自动化整个工作流就按全自动来规划编制和流程。为什么2025 年 AI 代理正接近炒作峰值承诺很诱人。怎么看报告判断代理式工作流的整体成熟度仍然偏低距离稳定期还有 5 到 10 年。安全团队在威胁检测与响应上吃过“买了检测、响应却跑不动”的亏原因是误报和业务中断容忍度低。对代理合理的姿态是半自动加人工抽检而不是一步到位。4. 自动化攻击与深度伪造防御方的时间窗口在收窄4.1 账户接管被加速暴露利用时间缩短 50%报告里有一条对身份安全团队冲击最大的预测到 2027 年AI 代理会进一步自动化凭据窃取和对认证通信渠道的攻破把账户暴露被利用的时间缩短 50%。这条预测的底层逻辑并不新——账户接管一直是顽固的攻击向量弱凭据通过数据泄露、钓鱼、社会工程、恶意软件被收集然后用机器人对多个服务做撞库。新的是 AI 代理把杀伤链上更多的步骤也自动化了从基于深度伪造语音的社会工程到端到端的凭据滥用。值得注意的是报告点出了多因素认证的软肋依赖带外通信渠道的 MFA 同样可被攻击比如截获短信或邮件里的一次性口令或者用推送轰炸把用户逼到点“同意”。FIDO2 通行密钥在访问管理工具和部分大型消费服务里已经支持但终端组织和用户侧的采用进展缓慢密码这类遗留凭据在可预见的未来仍会存在。这意味着防御方不能指望“上了 MFA 就万事大吉”通信渠道安全和凭据安全需要重新评估。4.2 深度伪造的目标在下沉从高管扩展到普通员工另一条预测是到 2028 年40% 的社会工程攻击将不再只针对高管而是用深度伪造和其他伪造现实技术瞄准更广泛的员工群体。这个变化对防御体系的影响是结构性的。过去反欺诈和社工防护的资源集中在少数高价值目标上流程可以靠人工核验兜底当目标变成成百上千的普通员工人工核验的带宽立刻不够用。报告的建议是保持 AI 威胁情报职能并针对实际观察到、有危害的深度伪造攻击来调整防御而不是陷入恐慌。这句话的分量在于“observed and harmful”——深度伪造的演示很多真正造成损失的场景是有限的防御资源应该跟着真实案例走而不是跟着演示视频走。从行业角度看这也解释了为什么内容生成规模化scam content generation at scale比单次高仿真伪造更值得警惕前者是量变引起质变后者还能靠个案流程应对。4.3 一个可落地的验证思路对做安全工程的人来说与其争论预测准不准不如把预测转成可验证的假设。下面这段伪代码展示的是把“账户暴露利用时间”做成可观测指标的基本思路语言用 Python重点在注释里的口径说明# 计算账户暴露到被利用的时间窗口示例口径非真实数据 from datetime import datetime def exposure_to_exploit_hours(exposure_ts, first_abuse_ts): # exposure_ts: 凭据泄露被确认的时间 # first_abuse_ts: 首次观察到异常登录/滥用的时间 delta first_abuse_ts - exposure_ts return delta.total_seconds() / 3600 # 按渠道分组统计重点看短信OTP、邮件OTP、推送三类 channels [sms_otp, email_otp, push] for ch in channels: # 若某渠道的中位数持续下降说明该渠道正被自动化工具重点利用 print(ch, median_hours, compute_median(ch))这段代码本身不复杂价值在口径把“暴露”和“首次滥用”两个时间点定义清楚按认证渠道分组看中位数变化。如果某个渠道的中位数在几个季度内明显下滑那就是自动化攻击在该渠道上加码的信号比等一份年度报告更及时。参数上唯一需要斟酌的是“首次滥用”的判定阈值建议先用人工复核过的样本校准再放开自动化统计。5. 趋势判断战术化落地才是 2025 到 2027 的主线报告里有一条容易被标题盖过的预测我认为它对从业者的日常影响最大到 2027 年网络安全领域 90% 成功的 AI 实施将是战术性的——任务自动化和流程增强而不是角色替代。这条判断和“代理接近炒作峰值、稳定期还要 5 到 10 年”是同一枚硬币的两面。厂商会继续暗示产品能实现完整的角色替代方向上可能没错但短期内拿不出可泛化、可衡量、达到人类水平质量的证据。把几条预测放在一起看2025 到 2027 的路线图其实相当清晰时间预测要点对从业者的含义至 2025超 70% 针对企业 AI 的恶意攻击来自供应链与技术栈中毒先做 AI 资产清点与供应链扫描至 202790% 成功的 AI 安全实施是战术性任务自动化选可观测收益的小场景别赌全自动至 2027代理自动化使账户暴露利用时间缩短 50%重估认证渠道与凭据安全至 202840% 社工攻击用深度伪造瞄准更广泛员工防护下沉威胁情报跟真实案例走对安全与风险管理领导者来说报告的建议可以归成三条行动线。第一条是审查现有应用安全实践既覆盖传统攻击面也检查开发生命周期里的新步骤和 AI 软件供应链里的新组件。第二条是优先做成果驱动的 AI 计划把小的实验和持续的收益评估结合起来而不是启动范围模糊、难以衡量的转型项目。第三条是提前应对账户接管的新一波攻击重新评估通信渠道和凭据安全尤其是半自动和即将到来的代理架构。对安全团队自身报告里有一句提醒很实在继续建设团队内的 AI 素养设定现实预期建立对 AI 代理的评估框架在半自动工作流里保留定期人工验证测试阶段做抽样核验上线后也要维持。这话听起来保守但结合安全团队过去在“全自动检测响应”上踩过的坑保守恰恰是血泪经验换来的。真正成功的团队会从自己在安全场景里验证有效的实验中汲取灵感反过来去保护 AI 应用把 AI 特有的需求和技术逐步整合进去并和负责 AI 的同事协作把 AI 治理、信任、风险与安全管理TRiSM的原则落全。还有一个观察值得单独说报告提到更多 AI 模型市场会加入对第三方和开源模型的下载前安全扫描企业安全团队会越来越多地使用专门的 AI 安全厂商来扫描 Notebook、ML 管道和已部署的 AI 应用栈。这意味着采购清单会变——不是替换现有工具而是在现有工具覆盖不到的地方补一层。对厂商来说这是机会窗口对甲方来说这是预算重新分配的信号。我自己的习惯是每次要引入一个新的开源模型或一条新的数据管道都强制走一遍“来源、依赖、管道配置”三问哪怕项目再小也不跳过。这个习惯不是从哪份报告里学来的而是见过太多“以为扫描器会管”的翻车之后养成的。AI 动荡期里没有后悔药只有提前做过的清点。希望帮到你。本文还有配套的精品资源点击获取

2025 AI安全动荡期：70%攻击源自供应链，如何加固技术栈？

相关推荐

前端性能优化实战：从100ms黄金标准到全链路监控

VS2017 C++ Linux远程构建与gdb调试环境配置排错

致远OA V8.1数据字典深度拆解：通讯录、考勤与AI待办表结构解析

更多资讯

抖音小游戏开发：Gravity Engine物理效果优化实践

Kimi 3.1密电追踪：API痕迹、Swarm蜂群与慢思考的AI应用暗示

AI伦理与提示工程：架构师的责任边界与实践

AI Agent在考古学中的应用与技术解析

GRU天气预测实战：从数据清洗到上线避坑全流程

并行AI代理管理实践：Orca ADE部署与编排全面解析

今日更新

Agent-Reach：打通大模型触达外部系统的最后一公里

深度学习图像隐写分析实战：从CNN原理到毕设源码全解析

AI赋能知识产权供需匹配：专利评估、需求挖掘与多路召回工程实践

本周精选

防幻觉智能体架构：电源硬件设计中的大模型编排与工具化实践

OpenGL面试核心考点：渲染管线、矩阵变换与性能排查全解析

全国计算机二级C语言真题PDF高效刷题指南

本月热门

我发现了一个新思路：用 Remotion + Claude Code 像写代码一样自动化生成短视频

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式：TaoToken 统一 Key 配置与验证

2026 大模型集体涨价：用 Python 做企业 Token 成本测算与选型避坑（附配置）

读完文章，想聊聊您的网站？