尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
Skywork-OR1:革命性开源强化学习框架如何训练数学和代码推理模型
Skywork-OR1革命性开源强化学习框架如何训练数学和代码推理模型【免费下载链接】Skywork-OR1Unleashing the Power of Reinforcement Learning for Math and Code Reasoners项目地址: https://gitcode.com/gh_mirrors/sk/Skywork-OR1Skywork-OR1Open Reasoner 1是一个强大的开源强化学习框架专注于训练数学和代码推理模型。该框架通过大规模基于规则的强化学习结合精心设计的数据集和训练方案赋能开发者构建高性能的推理模型包括7B和32B两种规模的通用推理模型。 为什么选择Skywork-OR1Skywork-OR1框架在数学和代码推理任务中展现出卓越性能尤其在AIME数学竞赛和LiveCodeBench代码评估中表现突出。其核心优势包括多阶段训练 pipeline通过分阶段优化策略有效缓解熵崩溃现象提升模型稳定性AvgK评估指标相比传统Pass1指标更能反映模型的推理一致性和稳定性灵活的部署选项支持Docker和Conda环境兼容单节点和多节点训练Skywork-OR1-32B在多阶段训练过程中AIME24和AIME25分数随训练步数的变化曲线 惊人的性能表现Skywork-OR1系列模型在多个权威基准测试中表现优异超越了同规模的其他开源模型32B模型性能对比Skywork-OR1-32B与DeepSeek-R1、QwQ-32B等模型在AIME24、AIME25和LiveCodeBench上的准确率对比Skywork-OR1-32B在AIME24Avg32上达到82.2%的准确率超过DeepSeek-R179.8%和Qwen3-32B81.4%在AIME25上以73.3%的成绩领先所有对比模型。7B轻量级模型优势Skywork-OR1-7B与同规模模型在各项任务上的准确率对比即使是7B轻量级模型也展现出强大竞争力在AIME24上达到70.2%的准确率远超DeepSeek-R1-Distill-Qwen-7B55.5%和Light-R1-7B-DS59.1%。 多阶段训练的秘密Skywork-OR1采用创新的多阶段训练策略通过动态调整训练参数和数据分布实现模型性能的持续提升。以Skywork-OR1-Math-7B为例其在AIME24任务上的性能随训练阶段逐步优化Skywork-OR1-Math-7B在AIME24任务上的多阶段训练性能曲线展示了8K、16K和32K序列长度下的准确率提升️ 快速开始指南环境准备Skywork-OR1支持Docker和Conda两种安装方式满足不同用户需求Docker环境docker pull whatcanyousee/verl:vemlp-th2.4.0-cu124-vllm0.6.3-ray2.10-te2.0-megatron0.11.0-v0.0.6 docker run --runtimenvidia -it --rm --shm-size10g --cap-addSYS_ADMIN -v image:tag git clone https://gitcode.com/gh_mirrors/sk/Skywork-OR1.git cd Skywork-OR1 pip3 install -e .Conda环境conda create -n verl python3.10 conda activate verl pip3 install torch2.4.0 --index-url https://download.pytorch.org/whl/cu124 pip3 install flash-attn --no-build-isolation git clone https://gitcode.com/gh_mirrors/sk/Skywork-OR1.git cd Skywork-OR1 pip3 install -e .数据准备训练数据可通过官方提供的脚本自动下载和过滤model_size32b # 可选 1p5b, 7b python ./or1_scripts/data_preprocess/download_and_filter_data_${model_size}.py --local_dir ./or1_data/train启动训练根据模型规模和序列长度选择合适的训练脚本model_size7b # 或 32b train_seq_len8 # 或 16, 32 export CODE_PATH./ export MODEL_PATH模型路径 bash ./or1_scripts/train/${model_size}_${train_seq_len}k.sh分布式训练对于大规模训练需求Skywork-OR1支持基于Ray的多节点训练# 在主节点启动Ray ray start --head --dashboard-host0.0.0.0 # 在其他节点连接到主节点 ray start --address主节点IP:6379 评估模型性能Skywork-OR1提供了便捷的评估脚本支持AIME和LiveCodeBench等多个基准测试# 评估7B模型 bash ./or1_scripts/eval/eval_7b.sh # 评估32B模型 bash ./or1_scripts/eval/eval_32b.sh评估结果将自动保存至outputs/evalation/pass.csv文件。 学习资源官方文档项目提供了全面的文档涵盖从安装到高级配置的所有内容示例代码examples/目录包含多种场景的使用示例包括数据预处理、模型训练和推理技术报告Skywork Open Reasoner 1技术报告详细介绍了训练流程、熵崩溃现象的研究与缓解以及大量分析和消融实验 致谢Skywork-OR1基于以下项目开发感谢这些开源社区的贡献模型训练基于DeepSeek-R1-Distill-Qwen系列模型训练框架基于verl项目的定制分支开发 引用如果您在研究中使用了Skywork-OR1请引用以下文献article{he2025skywork, title{Skywork Open Reasoner 1 Technical Report}, author{He, Jujie and Liu, Jiacai and Liu, Chris Yuhao and Yan, Rui and Wang, Chaojie and Cheng, Peng and Zhang, Xiaoyu and Zhang, Fuxiang and Xu, Jiacheng and Shen, Wei and Li, Siyuan and Zeng, Liang and Wei, Tianwen and Cheng, Cheng and An, Bo and Liu, Yang and Zhou, Yahui}, journal{arXiv preprint arXiv:2505.22312}, year{2025} }Skywork-OR1为开源社区提供了一个强大而灵活的强化学习框架无论是学术研究还是工业应用都能帮助开发者构建更强大的数学和代码推理模型。立即开始探索释放AI推理的无限可能【免费下载链接】Skywork-OR1Unleashing the Power of Reinforcement Learning for Math and Code Reasoners项目地址: https://gitcode.com/gh_mirrors/sk/Skywork-OR1创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
RELATED

相关推荐

从入门到精通:gh_mirrors/webso/websocket-client 发送消息的7种方式

从入门到精通:gh_mirrors/webso/websocket-client 发送消息的7种方式

从入门到精通:gh_mirrors/webso/websocket-client 发送消息的7种方式 【免费下载链接】websocket-client 🔧 .NET/C# websocket client library 项目地址: https://gitcode.com/gh_mirrors/webso/websocket-client gh_mirrors/webso/websocket-cl…

📅 2026/11/12 20:10:42
ComplimentaryGradientView完全解析:从安装到高级配置的简单步骤

ComplimentaryGradientView完全解析:从安装到高级配置的简单步骤

ComplimentaryGradientView完全解析:从安装到高级配置的简单步骤 【免费下载链接】ComplimentaryGradientView Create complementary gradients generated from dominant and prominent colors in supplied image. Inspired by Grade.js 项目地址: https://gitcod…

📅 2026/11/12 20:10:42
neomerx/json-api安全指南:请求验证与响应过滤的最佳实践 [特殊字符]️

neomerx/json-api安全指南:请求验证与响应过滤的最佳实践 [特殊字符]️

neomerx/json-api安全指南:请求验证与响应过滤的最佳实践 🛡️ 【免费下载链接】json-api Framework agnostic JSON API (jsonapi.org) implementation 项目地址: https://gitcode.com/gh_mirrors/jso/json-api 在构建现代Web API时,安…

📅 2026/10/4 22:42:18
MORE NEWS

更多资讯

📰

电工证怎样考怎样操作 别踩坑这几点你得知道

电工证怎样考怎样操作 别踩坑这几点你得知道 之前考的证在外省能不能转过来?这个问题真的太常见了,我天天都在接电话,问这个问那个。说实话,很多人都 千万别踩坑…

📰

远大培训电工证靠谱吗官方回应工地电工怎么应对考试压力

远大培训电工证靠谱吗官方回应工地电工怎么应对考试压力 工地太忙根本没时间复习考试,这个问题在我们这个行业太常见了。尤其是像低压电工证、高压电工证这种特种作业操作证,考试内容不光是理论,还有实操,很多人觉得“考试太难,复习没时间”。但根据郑州…

📰

工地太忙根本没时间复习考试?官方回应检测电工证报考全攻略

工地太忙根本没时间复习考试?官方回应检测电工证报考全攻略 工地太忙根本没时间复习考试,这不是你一个人的烦恼。特别是像检测电工证这种实操与理论结合的考试,很多一线工人因为工作强度大、时间不固定,往往把考试当作“遥远的事”。不过,官方回应,检测…

📰

工地太忙根本没时间复习考试,高级电工证镗床故障维修在哪考全攻略

工地太忙根本没时间复习考试,高级电工证镗床故障维修在哪考全攻略 工地太忙根本没时间复习考试,尤其是像高级电工证镗床故障维修这类技术性强、实操要求高的证书,很多人都在问: 高级电工证镗床故障维修在哪考…

📰

泸州哪里可以办电工证保姆级教程:外省证能转吗?全攻略来了

泸州哪里可以办电工证保姆级教程:外省证能转吗?全攻略来了 之前考的证在外省能不能转过来?这是很多特种作业持证人最关心的问题。如果你手里有外省的电工证,现在在泸州工作,想要在本地使用,或者准备继续教育、复审,那么这篇保姆级教程就是为你量身打造…

📰

江苏电工证的工资到底多少?官方回应来了,别再被中介坑了

江苏电工证的工资到底多少?官方回应来了,别再被中介坑了 你是不是也正愁不知道江苏电工证的工资到底多少,又怕去哪报名被中介坑?别慌,官方回应已经出来了,下面我从一个从业多年的老手角度,给你讲讲江苏电工证的工资、报考流程、考试内容、避坑建议,还…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬