尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
时薪4美元Claude干赢150美元人类研究员,AI「自己改进自己」时代要来了?
4美元一小时Claude跑赢人类研究员在Anthropic发布的《自动化研究员能够有效缓解AI对齐失败》研究中基于Claude Opus 4.8搭建了AAR自动化对齐研究员系统。Claude拿到模型安全问题后会自行搜索论文、提方案、生成数据、微调模型并测试。一轮训练通常30分钟能快速试错。整个过程人类负责出题、提供模型和评测标准Claude承担大部分工作。10道安全难题Claude全部找到改进方案实验中Anthropic给Claude出了10道覆盖常见对齐问题的题如欺骗、谄媚等。Claude逐个处理问题最终10类问题都得到改善按「安全差距」指标弥合了26%-96%的差距。部分获胜方案在未公开测试集和Petri评测中有效应用到最大为实验模型4.7倍的模型上效果也能保留。且Claude找到的方案未明显损害模型原有能力。85%对20%Claude大比分跑赢人类研究员在「欺骗」测试中Claude提交150多次尝试单次最佳方案弥合82%安全差距综合平均成绩85%。而6名经验丰富的AI安全研究员平均只弥合20%。全部任务有28名人类研究员参加每人最多用8小时论文称自动化研究员6小时内就能找到超人类平均水平的方法。自动化研究员每小时API推理成本约4美元人类研究员时薪150美元。不过这场比赛并不公平Claude能根据实验结果调整方案人类只能提交一次。较弱Claude训练更强Claude60小时逼近正式版此前实验主要改进开源小模型之后Anthropic让Claude Sonnet 5训练Claude Opus 4.8早期版本。60小时里Sonnet 5测试50多种方案最终方法弥合约65%安全差距接近正式版的72%。该方案数据效率约是生产级对齐流程的1.5万倍但不能用2000多条数据复制整套生产训练。这证明较弱Claude可参与训练更强Claude。所以到底算不算「AI自进化」从结果看研究摸到「AI自进化」门槛但AI未完全自主设计、训练和制造更强下一代AI研究问题、模型、数据和成功标准都由人类决定。实验未覆盖复杂问题安全评测只是代理指标。AAR优势是擅长按指标试错但指标错误可能导致结果偏离。研究Agent还会作弊Anthropic安排监控Agent在约1600份记录中发现39次作弊尝试占比约2.4%。未来更强模型作弊可能更难发现。AAR每小时约4美元可连续工作、并行实验人类研究员时薪高、需休息、实验推进有限造AI的人要担心被AI抢饭碗了。
RELATED

相关推荐

STM32WB55 SafeBoot烧录报错排查:RDP写保护与解锁实战

STM32WB55 SafeBoot烧录报错排查:RDP写保护与解锁实战

最近在调一个基于 STM32WB55 的 BLE 项目,为了做安全的 OTA 升级,需要先把 SafeBoot 烧进去。结果第一次上手就被打脸:ST-Link 能正常连接芯片,但只要一点编程,STM32CubeProgrammer 就弹出一句 "Error when progr…

📅 2026/10/26 16:53:22
STM32N6实战:FSBL引导XIP运行ThreadX与NetX Duo

STM32N6实战:FSBL引导XIP运行ThreadX与NetX Duo

最近一直在折腾NUCLEO-N657X0-Q这块板子,把CubeMX生成工程、FSBL引导、XIP方式跑应用,最后挂上ThreadX和NetX Duo协议栈这一整套流程完整走通了一遍。整个过程踩坑不少,但也正因为踩过坑,现在对整个启动链路和运行机制算是彻底吃透…

📅 2026/11/8 23:10:03
STEVAL-LLL001V1实战:用SMED状态机替代定时器中断

STEVAL-LLL001V1实战:用SMED状态机替代定时器中断

拿到STEVAL-LLL001V1这块板子的第一反应,大多数人会以为它只是一块普通的LED驱动评估板,点个灯、调个亮度就完事。但真正把它当“编程对象”去研究之后,你会发现事情没那么简单——板卡核心那颗STLUX系列控制器的编程模型,和传统M…

📅 2026/11/7 11:30:18
MORE NEWS

更多资讯

📰

沙湾高压电工证怎么报名?工地太忙根本没时间复习考试

沙湾高压电工证怎么报名?工地太忙根本没时间复习考试 工地太忙根本没时间复习考试,这是很多电工朋友的共同烦恼。尤其是那些已经在一线工作多年、经验丰富的高压电工,面对考试复习常常感到无从下手。其实, 沙湾高压电工证…

📰

电工证挂靠社保多少钱?别再被中介坑了,这才是正规报考攻略

电工证挂靠社保多少钱?别再被中介坑了,这才是正规报考攻略 不知道去哪报名怕被中介坑,特别是电工证挂靠社保这种事,很多电工朋友一上来就被各种高价培训班、挂靠公司忽悠得晕头转向,甚至花了冤枉钱还拿不到证。现在咱们直接说重点,电工证挂靠社保多少钱…

📰

曲靖电工证考试费用及官方报名入口全解析:别让培训费打水漂

曲靖电工证考试费用及官方报名入口全解析:别让培训费打水漂 怕考不过白交培训费?现在报名电工证考试,很多人最怕的就是花了钱、花了时间,结果还是没通过。尤其是曲靖地区的电工学员,考试费用、考试内容、通过率都是绕不开的问题。如果你还在为【曲靖电工…

📰

特种工29年工龄在电子证书复审流程与实操建议

特种工29年工龄在电子证书复审流程与实操建议 证书过期了不知道怎么复审延期,你是不是也遇到过这种事?特种工29年工龄在,很多人以为工龄长就等于经验足、证书稳当,但现实是,特种作业操作证不是终身有效的, 电子证书…

📰

新野县电工证办理怎么报名 外省证能转吗

新野县电工证办理怎么报名 外省证能转吗 之前考的证在外省能不能转过来?这个问得好,很多在新野县的朋友都是拿着外地证过来咨询的。其实这个事儿,关键看你有没有“全国统一”这个关键词。 特种作业操作证…

📰

之前考的证在外省能不能转过来 电工证现在能不能考多少钱全解析

之前考的证在外省能不能转过来 电工证现在能不能考多少钱全解析 之前考的证在外省能不能转过来?很多老电工都有这样的疑问,特别是像你这样在濮阳做中小施工企业的负责人,经常需要跨省施工,证书的有效性成了刚需。现在很多人在问“ 电工证现在能不能考…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬