LLM权重各个文件作用分析（safetensors分片格式）-北京尧图网络

文章目录1. 模型架构与核心配置**config.json****configuration.json (部分模型存在)**2. 文本生成策略配置**generation_config.json**3. 分词器Tokenizer配置**tokenizer_config.json****tokenizer.json****vocab.json / merges.txt****special_tokens_map.json**4. 权重索引与元数据**model.safetensors.index.json (或 pytorch_model.bin.index.json)****adapter_config.json (LoRA/微调场景)**总结对照表1. 模型架构与核心配置config.json作用定义模型的核心架构参数是加载权重时最关键的配置文件。关键内容包含隐藏层大小 (hidden_size)、注意力头数 (num_attention_heads)、层数 (num_hidden_layers)、词汇表大小 (vocab_size)、激活函数 (hidden_act) 等。对于 MoE 模型还包含专家数量 (n_routed_experts)、路由策略等参数。注意在昇腾适配或量化场景中该文件可能需要修改以支持特定硬件特性如添加 quantize 字段或移除不支持的 flash_attn 相关配置。configuration.json (部分模型存在)作用通常作为 config.json 的补充或别名包含额外的模型配置信息具体取决于模型实现。2. 文本生成策略配置generation_config.json作用定义模型在推理生成文本时的默认超参数。关键内容包括温度 (temperature)、Top-K/Top-P 采样策略 (top_k, top_p)、最大生成长度 (max_length)、结束符 ID (eos_token_id)、起始符 ID (bos_token_id) 等。注意在 MindIE 等推理框架中该文件会被读取以决定默认生成行为。若需通过 API 动态控制生成参数有时需清理此文件中的硬编码参数以避免冲突。3. 分词器Tokenizer配置tokenizer_config.json作用定义分词器的全局配置选项。关键内容包含分词器类型、特殊标记映射如 pad_token, unk_token、聊天模板 (chat_template) 等。在昇腾适配中若 config.json 未指定 prompt 模板常需从此文件拷贝 chat_template 使用。tokenizer.json作用包含分词器的完整词汇表及合并规则Merges通常由 Rust 库 tokenizers 生成用于快速分词。关键内容词汇表映射、BPE 合并规则等。vocab.json / merges.txt作用部分模型如 GPT-2 系列或旧版 LLaMA使用这两个文件分别存储词汇表 ID 映射和 BPE 合并规则而非单一的 tokenizer.json。special_tokens_map.json作用明确映射特殊标记如 [PAD], [EOS], [CLS]到其对应的 Token ID。4. 权重索引与元数据model.safetensors.index.json (或 pytorch_model.bin.index.json)作用当模型权重被拆分为多个分片文件如 model-00001-of-00004.safetensors时此 JSON 文件作为索引记录每个权重参数Key位于哪个分片文件Value中。关键内容weight_map 字典映射参数名到文件名metadata 记录总大小等信息。adapter_config.json (LoRA/微调场景)作用在 LoRA 微调后记录适配器的配置参数如秩 (rank)、缩放系数 (alpha)、目标模块 (target_modules) 等用于推理时正确加载 LoRA 权重。总结对照表文件名核心作用典型关键字段config.json模型架构定义hidden_size, num_layers, vocab_size, architecturesgeneration_config.json推理生成策略temperature, top_p, max_length, eos_token_idtokenizer_config.json分词器全局配置chat_template, model_max_length, pad_tokentokenizer.json分词器核心数据词汇表、BPE 合并规则model.safetensors.index.json权重分片索引weight_map (参数名 - 文件名)adapter_config.jsonLoRA 适配器配置rank, alpha, target_modules提示在昇腾 MindIE 或 ModelArts 部署时务必确保 config.json 中的架构参数与权重文件一致且 generation_config.json 中的参数符合业务预期否则可能导致推理结果异常或服务启动失败。

LLM权重各个文件作用分析（safetensors分片格式）

相关推荐

角色动作迁移技术：从骨骼映射到舞蹈动画二次创作实践

终极视频修复指南：3步免费拯救损坏的MP4文件

深入解析STM32 HAL库GPIO驱动：从模式配置到高效应用实践

更多资讯

Windows上Maven安装配置与IDEA集成：环境变量与镜像设置详解

合同问题记录

B端NPS实战：从量表设计到样本分析再到行动闭环

VS Code Python 远程开发最佳实践：SSH、解释器与性能调优

编译原理习题与实验通关指南：从词法分析到面试考点

把 OpenClaw 的模型 API 改到 TaoToken，指纹伪装照跑

今日更新

AReaL 调试指南：从 Agent Workflow 验证到分布式训练死锁诊断

MATLAB实现GPS L1 C/A信号仿真与二维捕获验证

彻底搞懂ASCII、Unicode与UTF-8：从乱码根源到编码实战

本周精选

AI驱动的自动化专利分析平台技术解析

LeetCode-Go 题解：1252. Cells with Odd Values in a Matrix（奇数值单元格计数）双解法剖析

在线答疑系统Java毕设实战：Spring Boot前后端分离与状态流转

本月热门

基于YOLO的焊缝缺陷检测：从数据标注到工业部署全流程实践

分布式服务的决策记录

创业产品的首版范围

读完文章，想聊聊您的网站？