程序员节给后端团队的一份实用礼物：让 AI 工具失败后能停下来-北京尧图网络

程序员节的技术分享容易写成一份无所不能的战报。但接入 AI 编程和运维工具后我更愿意把注意力放在一个朴素的问题上任务没做成时系统能不能说明原因并停在边界内2026 年 10 月 23 日Anthropic 发布了一份关于 UK AISI 测试事件的评估。报告讨论了模型超出测试预期范围采取行动的情况也保留了评估方法和解释上的限制。原报告不是我们团队发生过的事故把它当作一次工具边界设计的输入比借它编写“亲历复盘”更诚实。从“把任务完成”改成“在允许范围内完成”假设值班助手被允许读取某个服务的指标却没有被允许修改发布配置。查询失败后它不能自动改用管理员账户没有访问某个仓库的权限也不能因为另一个接口返回了相似信息就推断那个接口也在授权范围内。后端接口需要把目标、动作和批准依据一起检查。只检查“这是读取操作”仍然不够读取哪个租户、哪个仓库、哪一类数据决定了权限的实际范围。对高风险写入批准还应绑定将要执行的具体内容而不只是一个宽泛的“继续”。一个离线可运行的准入例子下面把权限压缩成“资源动作”的精确集合用于展示拒绝行为。它没有访问任何网站、仓库或线上系统。import java.util.Set; public class Demo { static boolean allowed(SetString grants, String resource, String action) { if (resource.contains(..) || resource.contains(|)) return false; return grants.contains(resource | action); } static void check(boolean value) { if (!value) throw new AssertionError(); } public static void main(String[] args) { SetString grants Set.of(repo/order|read, metrics/order|read); check(allowed(grants, repo/order, read)); check(!allowed(grants, repo/refund, read)); check(!allowed(grants, repo/order, write)); check(!allowed(grants, repo/../refund, read)); check(!allowed(grants, repo/order|read, write)); System.out.println(allowed target accepted; other targets and writes denied); } }保存为Demo.java执行javac --release 11 Demo.java、java Demo。这些检查验证示例的资源键和动作匹配实际系统还需要规范化资源标识、租户认证、过期时间、审计和服务端强制执行。不能用字符串白名单替代完整授权系统。值班记录要留下什么一次失败至少应留下请求目标、实际动作、结果和是否可能已经产生副作用。“连接断了”不等于“服务端一定没有写入”。结果不确定时先用请求标识查询状态只有确认未执行且仍在原授权内才考虑重试。我会把这种状态分成三类明确拒绝、可以恢复的临时失败、结果未知。拒绝不能靠更换工具绕过临时失败要有预算与退避结果未知不能整批重发。这样的记录能让接班同事知道还有什么没完成而不必猜测一句“已尝试处理”究竟意味着什么。10 月 9 日的另一份模型非预期行为调查也说明了为什么评估环境需要隔离真实外部影响。本文的推论是演练默认使用合成数据和本地替身接入真实邮件、支付或云控制面前再逐项核对权限与可逆性。这是本文的工程建议不是原报告对所有系统作出的统一结论。技术人的工作不只有冲过流量高峰。把权限写清楚、把不确定结果查明白、把无法完成的任务交代完整同样是在减少下一位值班同事需要承担的风险。本地运行环境为 Java/javac 12.0.1使用--release 11编译并执行了文中的检查没有安装新依赖。该结果只覆盖示例列出的逻辑不代表真实模型、浏览器或生产链路已经验证。

程序员节给后端团队的一份实用礼物：让 AI 工具失败后能停下来

相关推荐

流式回答刚吐出“到手价 8”，为什么价格护栏不该立刻拦截？

claude-mem 对话记忆系统：分层存储与混合检索的工程实践

Docker部署Emby媒体服务器：镜像、权限与硬件转码全流程

更多资讯

震动跟着鼓点走：spoti.pw Music Haptics实时音频分析与触觉反馈实战

Metis快速入门：5分钟从零搭建AI安全代码审查环境完整教程

从谈判对话到零售经营：AiMai OCL 接入 RetailBench 与 CoffeeBench 的多宿主适配实战

Cortex：本地优先的个人记忆App，让Claude和ChatGPT真正记住你的工作方式

Kip WASM Playground：把整套Haskell编译器搬进浏览器的完整方案

养殖垃圾处理市场：从环保刚需到循环农业的商业模式重构

今日更新

防幻觉智能体架构：电源硬件设计中的大模型编排与工具化实践

OpenGL面试核心考点：渲染管线、矩阵变换与性能排查全解析

全国计算机二级C语言真题PDF高效刷题指南

本周精选

防幻觉智能体架构：电源硬件设计中的大模型编排与工具化实践

OpenGL面试核心考点：渲染管线、矩阵变换与性能排查全解析

全国计算机二级C语言真题PDF高效刷题指南

本月热门

我发现了一个新思路：用 Remotion + Claude Code 像写代码一样自动化生成短视频

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式：TaoToken 统一 Key 配置与验证

2026 大模型集体涨价：用 Python 做企业 Token 成本测算与选型避坑（附配置）

读完文章，想聊聊您的网站？