尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
1024 特刊|从 A* 到 MCTS:过程奖励分数为什么不能直接当最短路启发函数
搜索器拿到一个分数第一件事应该是问它在估计什么。A* 的剩余代价、MCTS 的回报估计、PRM 对一步推理的评分虽然都能排队却不是同一种量。10 月 6 日OpenAI 公开一批数学研究结果及部分 Lean 形式化。这一事件对搜索工程的启示是候选推导和经过检查的证明需要保留不同身份。本文讨论的是如何使用评分不把某个搜索模板写成已经解决数学难题的系统。A* 的保证带着条件A* 常写作 f(n)g(n)h(n)。g 是已付出的路径代价h 是剩余代价估计。若要讨论最优性就必须说明启发函数是否可采纳、是否一致以及实现是否允许更优路径重新打开节点。不能只给公式后便宣称“搜索必然最优”。PRM 的 0.9 常表达局部正确性的估计未必与剩余 token、工具费用或最终任务成功率同单位。直接把它填到 h 里既可能改变优化方向也没有自动获得代价下界。一个会返回次优解的最小反例下面只用有限图和非负边权不调用模型。两条路线的总代价分别为 4 和 7。当错误的启发函数把 A 节点抬得过高而程序在首次弹出目标时返回就会先拿到代价 7 的路线。from heapq import heappop, heappush from itertools import count GRAPH {S: [(A, 2), (B, 1)], A: [(G, 2)], B: [(G, 6)], G: []} def search(heuristic): order count() queue [(heuristic[S], next(order), 0, S, [S])] best {S: 0} while queue: _, _, cost, node, path heappop(queue) if cost ! best[node]: continue if node G: return cost, path for child, edge_cost in GRAPH[node]: candidate cost edge_cost if candidate best.get(child, float(inf)): best[child] candidate heappush(queue, (candidate heuristic[child], next(order), candidate, child, path [child])) raise ValueError(goal unreachable) safe search({S: 0, A: 0, B: 0, G: 0}) bad search({S: 0, A: 100, B: 0, G: 0}) assert safe (4, [S, A, G]) assert bad (7, [S, B, G]) print(zero_heuristic:, safe) print(overestimated_heuristic:, bad)反例并不是说所有学习评分都不可用。它说明分数能提高探索效率与分数能支撑最优性证明是两项需要分别验证的主张。MCTS 还要给未充分探索的分支机会MCTS 常把经验回报 Q 和探索项 U 合起来选节点。高 Q 的分支可能只是样本少、碰巧成功低访问次数的分支也可能值得继续采样。图里的 Q、N、U 是说明概念的人造数字没有对应模型跑分。如果引入 PRM先明确它输出的是概率、logit、排序分数还是未校准奖励。还要决定路径聚合逐步概率相乘容易偏好短链取最小值容易被一个低分步骤支配取平均值可能掩盖关键错误。这些都需要用有标签的验证集比较。10 月 11 日提交的 Google Earth AI Agent 评估论文把基础模型、工具、领域技能和规划指导分开比较。借鉴这种拆分方法搜索实验也应分别开关生成器、PRM、验证器和预算策略避免把工具带来的改进全算给树搜索。一个可审计的搜索日志至少应保留节点文本、父节点、累计成本、评分来源、剪枝理由和验证状态。最终答案正确也不能倒推出每个中间步骤正确。本文验证了图搜索反例没有训练 PRM也没有运行真实语言模型的 MCTS。
RELATED

相关推荐

LLM面试必问的8个核心问题:从Transformer到微调的深度解析

LLM面试必问的8个核心问题:从Transformer到微调的深度解析

1. 为什么这8个问题成了LLM岗位的硬门槛面过LLM岗位的人大概都有这种体验:简历上写着“熟悉Transformer”“做过RAG项目”“微调过开源模型”,结果面试官第一个问题就把人问住了。不是问得多偏,而是问得太基础——基础到很多人以为自己会&…

📅 2026/10/25 9:24:59
LLM面试8大核心问题:Transformer、Tokenization、Embedding与Function Calling底层原理

LLM面试8大核心问题:Transformer、Tokenization、Embedding与Function Calling底层原理

1. 为什么这8个问题成了LLM岗位的硬门槛面过LLM方向的人大概都有体会:面试官不太爱问“你用过哪些框架”这种能背答案的题,反而喜欢盯着几个看似基础、实则暗藏杀机的点反复追问。原因很简单——大模型这个领域,工具和API三个月换一茬&#x…

📅 2026/10/25 9:24:59
生产级Agent内核设计:14个关键决策与四大复利引擎

生产级Agent内核设计:14个关键决策与四大复利引擎

1. 这不是“造轮子”,是重新校准Agent开发的认知坐标系我从2023年夏天开始写第一个能跑通的Agent,到今天手头维护着7个生产级Agent服务——有给制造业客户做的设备故障诊断助手,有嵌入ERP系统的采购决策支持模块,也有在内部知识库…

📅 2026/10/25 9:19:58
MORE NEWS

更多资讯

📰

旋转吧大喵照片地图实现揭秘:JS 注入如何把官方地图变成你的摄影足迹墙

桌面应用屏幕录制图像处理音视频视频处理 【免费下载链接】SpinningMomo 《无限暖暖》游戏摄影与录像工具。 Infinity Nikki Game Photography and Recording Tool. 项目地址: https://gitcode.com/gh_mirrors/sp/SpinningMomo 点击查看 免费下载 SpinningMomo&…

📰

LSTM降雨径流预测Matlab实现:数据归一化与预测评估

简介:基于LSTM网络实现降雨径流预测的Matlab代码包,适合水文水资源、环境工程等领域的研究生、工程师及入门深度学习的算法学习者。资源围绕长短期记忆网络对降雨与径流时序关系的建模展开,提供完整可运行的主程序与归一化等预处理函数&#…

📰

POM海洋模型编译配置与物理参数调试实战指南

简介:本资源为普林斯顿海洋模型(POM)经典版本POM2K的完整可运行代码包,面向海洋动力学、河口与河道水文模拟方向的科研人员及高年级研究生,用于开展数值建模基础实践与定制化开发。包内共21个文件,涵盖核心…

📰

双稳随机共振MATLAB实战:微弱信号检测与参数调优指南

简介:双稳随机共振是微弱信号检测领域的经典非线性方法,本资源面向信号处理方向的学生、科研人员与工程技术人员,提供基于MATLAB的双稳随机共振模型实现,帮助在低信噪比环境下增强微弱信号的可检测性。压缩包共5个文件&#xff0c…

📰

31岁晋升大厂最高职级22级:AI大模型浪潮下的工程师成长路径

这几天在几个技术社区和朋友圈里,一条消息反复出现:一位31岁的女工程师,晋升到了大厂最高技术职级。圈内人看到“31岁”和“最高职级”这两个词,第一反应大多是羡慕,第二反应是“这么年轻,凭什么”。但作为…

📰

Matlab朴素贝叶斯分类器代码实现与精度调优

简介:这份面向机器学习初学者与Matlab实践者的朴素贝叶斯分类器代码包,聚焦用简洁脚本复现基于贝叶斯定理与特征条件独立假设的分类流程,帮助读者从概率计算层面理解先验概率、条件概率与分类决策的实现方式,适合课程实验、算法入…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬