PyTorch实战：2卷积1全连接实现MNIST手写数字识别-北京尧图网络

1. 从一行标题拆出来的完整项目思路1.1 这个项目到底在做什么先把标题拆开看PyTorch 实现 MNIST 手写数字识别网络结构是 2 个卷积层加 1 个全连接层。这句话信息量其实不小它同时锁定了四件事框架用 PyTorch数据集用 MNIST任务类型是 10 分类模型结构是两层卷积一层全连接的极简卷积网络。MNIST 这个数据集在圈子里算是Hello World级别的存在60000 张训练图、10000 张测试图每张都是 28×28 的灰度图内容是 0 到 9 的手写数字。任务目标很直接给一张图让模型判断它是哪个数字。别看它简单它几乎是所有人入门深度学习的必经之路因为数据干净、任务明确、训练快一台普通笔记本的 CPU 都能跑完有张入门级显卡更是几分钟就出结果。那为什么标题特意强调2 卷积 1 全连接因为这是卷积神经网络CNN最精简的可用形态。很多人第一次接触 CNN 时会被各种层堆叠搞晕而两层卷积负责提取特征、一层全连接负责分类刚好把 CNN 的核心逻辑完整地展示出来又不会因为层数太多而难以调试。它解决的问题是用最小的结构代价让你把卷积提取特征、池化降维、全连接分类这条链路彻底跑通一遍。适合谁来参考三类人最合适。第一类是刚学完 PyTorch 基础语法、想找个完整项目练手的初学者第二类是学过理论但没亲手搭过 CNN、想补上实操环节的学生第三类是需要一个快速验证环境是否配置正确的开发者——MNIST 跑通了说明 PyTorch、CUDA、数据加载这条链路都没问题。我当年配新机器第一件事就是拿这个项目测一遍比任何环境检测脚本都直观。1.2 为什么选这个结构而不是更复杂的有人会问现在都流行 ResNet、Transformer 了为什么还要折腾两层卷积我的看法是入门阶段结构越简单你越能看清每一层在干什么。如果一上来就堆十几层出了问题你根本不知道是哪一层导致的调参也变成了玄学。两层卷积的设计有它的道理。第一层卷积负责捕捉最基础的局部特征比如边缘、笔画方向第二层卷积在这些基础特征之上组合出更复杂的模式比如数字的拐角、闭环。两层之后特征已经足够表达手写数字这种简单图形了。再加层收益递减反而增加过拟合风险和训练时间。全连接层放在最后作用是把卷积提取出来的特征图展平映射到 10 个类别上做分类。这个够用就好的思路其实是很务实的工程哲学。我在实际项目里见过太多人一上来就追求复杂模型结果数据量根本撑不起来模型还没简单结构跑得好。MNIST 用两层卷积能轻松做到 99% 以上的测试准确率这个成绩对入门项目来说完全够看。2. 核心细节解析与实操要点2.1 数据加载与预处理的关键细节数据这块PyTorch 提供了torchvision.datasets.MNIST一行代码就能下载。但有几个细节新手特别容易忽略。第一个是归一化参数。MNIST 官方给的均值和标准差是 0.1307 和 0.3081这两个数字不是随便写的是统计整个训练集算出来的。归一化的目的是把像素值从 0-255 缩放到接近 0 均值、1 方差的分布让梯度下降更稳定。如果你不做归一化或者随便填个 0.5模型也能跑但收敛会慢一些准确率可能差零点几个百分点。别小看这点差距入门阶段养成规范习惯很重要。第二个是ToTensor 的顺序。transforms.ToTensor()会把 PIL 图像或 numpy 数组转成张量同时自动把像素值从 0-255 缩放到 0-1。所以归一化要放在 ToTensor 之后顺序反了会出错。这个坑我踩过当时报错信息不直观排查了半天才发现是 transform 顺序问题。第三个是batch size 的选择。常见取值是 64 或 128。batch 太小梯度噪声大训练震荡batch 太大显存吃紧而且泛化性能可能下降。MNIST 数据量小64 是个稳妥的选择。我实测下来64 和 128 最终准确率差别不大但 64 的收敛曲线更平滑适合观察。transform transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)) ])提示归一化参数必须和数据集匹配。MNIST 是单通道灰度图所以均值和标准差都只有一个值。如果你换成彩色数据集这里要写三个值。2.2 网络结构设计的取舍逻辑标题说的2 卷积 1 全连接具体怎么搭我的方案是这样的第一层卷积输入 1 通道、输出 32 通道卷积核 3×3padding 设为 1接 ReLU 激活再跟一个 2×2 的最大池化。第二层卷积输入 32 通道、输出 64 通道同样 3×3 卷积核、padding 1接 ReLU 和 2×2 池化。最后展平接一个全连接层输出 10 类。为什么第一层输出 32 通道、第二层 64 通道这是卷积网络的常见递增模式。浅层特征简单通道数少一点够用深层特征复杂需要更多通道来容纳不同的模式组合。32 到 64 这个翻倍关系是很多经典网络比如 VGG的惯用手法属于经验值实测效果好。padding 设为 1 是为了保持特征图尺寸。3×3 卷积核不加 padding 会让尺寸缩小 2两次卷积加两次池化下来28×28 会缩得比较厉害。加 padding 后卷积不改变尺寸只有池化每次减半最终特征图是 7×7展平后是 64×7×73136 维接全连接刚好。激活函数用 ReLU 而不是 Sigmoid原因是 ReLU 计算简单、梯度不会饱和深层网络里能有效缓解梯度消失。MNIST 虽然浅但养成用 ReLU 的习惯没坏处。class Net(nn.Module): def __init__(self): super(Net, self).__init__() self.conv1 nn.Conv2d(1, 32, 3, padding1) self.conv2 nn.Conv2d(32, 64, 3, padding1) self.pool nn.MaxPool2d(2, 2) self.fc nn.Linear(64 * 7 * 7, 10) def forward(self, x): x self.pool(F.relu(self.conv1(x))) x self.pool(F.relu(self.conv2(x))) x x.view(-1, 64 * 7 * 7) x self.fc(x) return x注意x.view(-1, 64*7*7)里的 -1 是让 PyTorch 自动推断 batch 维度。如果你改了网络结构导致特征图尺寸变化这里的 7×7 必须同步改否则会报维度不匹配的错。这是新手最常见的报错之一。2.3 损失函数与优化器的搭配分类任务用交叉熵损失nn.CrossEntropyLoss()这个函数内部已经包含了 Softmax所以网络最后一层不要再加 Softmax否则等于做了两次会影响训练。这一点很多人第一次写会搞错。优化器选 Adam学习率 0.001。为什么不用 SGDSGD 需要仔细调学习率和动量收敛慢对新手不友好。Adam 自适应调整每个参数的学习率开箱即用在 MNIST 这种小任务上表现稳定。等你有经验了可以试试 SGD 加动量有时候泛化性能会略好但那是后话。学习率 0.001 是 Adam 的经典默认值实测在 MNIST 上收敛快且稳。如果你发现 loss 下降很慢可以试试 0.01如果 loss 震荡厉害降到 0.0001。不过大多数情况下0.001 不用动。3. 完整实操流程与训练环节实现3.1 环境准备与依赖安装先把环境搭起来。PyTorch 的安装命令要根据你的硬件选有显卡的装 CUDA 版本没显卡的装 CPU 版本。我建议直接用官方推荐的 pip 命令别自己瞎折腾版本组合。pip install torch torchvision如果你有 NVIDIA 显卡去 PyTorch 官网选对应 CUDA 版本的命令。装完之后验证一下import torch print(torch.__version__) print(torch.cuda.is_available())第二行输出 True 说明显卡可用。如果 False要么没显卡要么驱动没装好。CPU 也能跑这个项目就是慢一点大概几分钟一轮。3.2 训练循环的逐行拆解训练循环是整个项目的核心我把它拆成五步取数据、前向传播、算损失、反向传播、更新参数。device torch.device(cuda if torch.cuda.is_available() else cpu) model Net().to(device) criterion nn.CrossEntropyLoss() optimizer optim.Adam(model.parameters(), lr0.001) for epoch in range(5): model.train() running_loss 0.0 for i, (inputs, labels) in enumerate(train_loader): inputs, labels inputs.to(device), labels.to(device) optimizer.zero_grad() outputs model(inputs) loss criterion(outputs, labels) loss.backward() optimizer.step() running_loss loss.item() print(fEpoch {epoch1}, Loss: {running_loss/len(train_loader):.4f})几个关键点。optimizer.zero_grad()必须放在反向传播之前作用是清空上一轮的梯度。PyTorch 默认会累加梯度不清零的话梯度会越积越大训练直接崩掉。这个坑我见过太多人踩报错信息还不明显就是 loss 不下降。model.train()和后面的model.eval()是切换训练和评估模式。训练模式会启用 Dropout 和 BatchNorm 的训练行为评估模式则固定它们。这个项目虽然没用 Dropout 和 BatchNorm但养成习惯没坏处以后加层了不会忘。inputs.to(device)是把数据搬到显卡上。模型在显卡上数据也必须搬到显卡上否则会报设备不匹配的错。这个错误新手经常遇到记住模型和数据要在同一个设备上就行。训练轮数设 5 轮。MNIST 很简单5 轮足够收敛到 99% 左右。你可以设 10 轮但收益很小还容易过拟合。我一般看 loss 曲线如果连续两轮 loss 下降不到 0.01就可以停了。3.3 测试评估与准确率计算训练完要评估模型在测试集上的表现。评估阶段不需要计算梯度所以用torch.no_grad()包起来能省显存、加速。model.eval() correct 0 total 0 with torch.no_grad(): for inputs, labels in test_loader: inputs, labels inputs.to(device), labels.to(device) outputs model(inputs) _, predicted torch.max(outputs, 1) total labels.size(0) correct (predicted labels).sum().item() print(fAccuracy: {100 * correct / total:.2f}%)torch.max(outputs, 1)返回每行最大值和对应的索引索引就是预测的类别。predicted labels得到一个布尔张量.sum().item()统计正确个数。这套写法是 PyTorch 分类评估的标准模板可以直接抄。实测下来这个结构在测试集上能到 99% 左右。如果只有 98% 出头检查一下归一化、学习率、训练轮数这几个点。如果低于 95%大概率是代码有 bug比如标签和输出对不上、梯度没清零之类的。3.4 单张图片推理与可视化训练完模型总想拿张图试试效果。从测试集里取一张跑一遍推理把预测结果和真实标签打出来。model.eval() dataiter iter(test_loader) images, labels next(dataiter) with torch.no_grad(): outputs model(images.to(device)) _, predicted torch.max(outputs, 1) print(f真实标签: {labels[0].item()}) print(f预测结果: {predicted[0].item()})如果想看图片可以用 matplotlib 画出来。注意images[0]是归一化后的张量画图前要反归一化或者直接看也能看出大概形状。可视化这块不是必须的但能帮你直观感受模型在识别什么。4. 常见问题与排查技巧实录4.1 训练不收敛的排查顺序训练不收敛是最常见的问题表现是 loss 一直不降或者震荡。我总结了一个排查顺序按这个走基本能定位。现象可能原因排查方法loss 完全不降梯度没清零检查optimizer.zero_grad()位置loss 震荡剧烈学习率太大降到 0.0001 试试loss 下降极慢学习率太小或没归一化检查 transform 和 lrloss 变 NaN学习率过大或数据有问题检查数据范围降 lr准确率卡在 10%标签和输出维度对不上检查全连接输出是否为 10梯度没清零这个坑我单独拎出来说。它的表现是 loss 一开始降然后突然飙升或者变 NaN。原因是梯度累加导致参数更新步长越来越大。解决方法就是确保zero_grad()在backward()之前调用。这个错误太常见了几乎每个新手都会踩一次。4.2 维度不匹配报错的定位技巧PyTorch 的维度报错信息有时候不太直观但有个技巧从报错信息里找两个数字一个是期望的一个是实际的。比如Expected input ... to have 3136 channels, but got 64 channels说明全连接层的输入维度写错了。这个项目里全连接输入是 64×7×73136。如果你改了卷积层通道数或者池化层这个数字要重算。计算方法输入 28×28两次 2×2 池化后变成 7×7通道数是第二层卷积的输出通道数。所以全连接输入第二层输出通道 × 7 × 7。我建议在forward里加一句print(x.shape)跑一次看看展平前的实际形状比手算靠谱。调试完再删掉。4.3 显存不足与设备不匹配显存不足一般出现在 batch size 设太大或者显卡太老的情况。MNIST 模型很小正常不会爆显存除非你 batch 设了几千。解决办法就是调小 batch size64 不行就 32。设备不匹配的报错是Expected all tensors to be on the same device。原因是模型在显卡上数据还在 CPU 上。检查两处模型有没有.to(device)数据有没有.to(device)。两处都加上就对了。还有一个隐蔽的坑如果你在评估时忘了model.eval()虽然这个项目没影响但以后加了 BatchNorm 层评估结果会不准。养成训练前train()、评估前eval()的习惯。4.4 提升准确率的小技巧想从 99% 再往上挤一点可以试这几个方法。第一加数据增强比如随机旋转 10 度、随机平移几个像素能让模型见到更多变化泛化更好。第二训练轮数加到 10 轮配合学习率衰减后期微调。第三把卷积通道数翻倍32 变 64、64 变 128但训练时间会增加。不过说实话MNIST 到 99% 以上之后每提升 0.1% 都很费劲性价比不高。这个项目的价值在于跑通流程、理解原理而不是刷榜。我个人的建议是先把基础版本跑稳再尝试改进别一上来就追求极致准确率。提示数据增强只在训练集上做测试集不要做。测试集要保持原始分布否则评估结果不可信。5. 结构扩展与后续进阶方向5.1 从两层卷积到更深网络的平滑过渡这个项目跑通之后下一步可以尝试加深网络。但别一下子跳到 ResNet中间有个过渡试试三层卷积加 BatchNorm。BatchNorm 能加速收敛、稳定训练是现代网络的标配。加的时候注意卷积层后面接 BatchNorm再接 ReLU顺序别搞反。再往后可以试试 Dropout在全连接层前加一个nn.Dropout(0.5)能缓解过拟合。MNIST 上过拟合不明显但换成更复杂的数据集就有用了。这些组件的加入能让你逐步理解现代 CNN 的构造逻辑。5.2 换数据集验证代码通用性代码写完之后可以换个数据集验证通用性。比如 Fashion-MNIST同样是 28×28 灰度图、10 分类但内容是衣物比数字难一些。把数据加载部分改一下其他代码基本不用动就能跑。如果准确率明显下降说明模型容量不够可以试试加深或加宽。再进一步可以试 CIFAR-1032×32 彩色图、10 分类。这时候输入通道要从 1 改成 3网络也要相应调整。这个过程能帮你理解网络结构要匹配数据特点这个原则。5.3 模型保存与加载的规范做法训练完的模型要保存方便下次直接用。PyTorch 推荐保存state_dict而不是整个模型因为state_dict更轻量、更灵活。torch.save(model.state_dict(), mnist_cnn.pth)加载的时候先实例化同样的网络结构再加载参数model Net() model.load_state_dict(torch.load(mnist_cnn.pth)) model.eval()注意加载后要调eval()否则推理结果可能不对。这个细节很多人忽略尤其是模型里有 Dropout 或 BatchNorm 的时候。我在实际使用中发现保存模型时顺便把训练轮数、准确率、超参数记在一个文本文件里过段时间回头看能快速回忆起来当时怎么调的。这个习惯看起来小但项目多了之后特别有用不然你根本记不清哪个.pth文件对应哪次实验。最后分享一个小技巧如果你要反复跑这个项目做实验把超参数batch size、学习率、轮数提到文件开头定义成变量改的时候只改一处比在代码里到处找要高效得多。这个习惯在调参阶段能省不少时间。

PyTorch实战：2卷积1全连接实现MNIST手写数字识别

相关推荐

具身智能中的协同机理研究（149）：TVA与VLA融合的四大关键核心技术

内网代码托管平台自签名证书配置指南：从生成到客户端信任

海康网络摄像机OSD字符叠加：BCB6.0调用SDK把文字写进编码前帧缓冲

更多资讯

PyTorch实战：猫狗图像分类从入门到部署

AI写作工具怎么选？六大平台榜单与智能改写实操指南

逆向Lua 5.1字节码：luadec51反编译实战与二次开发

open-code-review：从形式化到高效落地的Code Review实践指南

开源代码审查工具 open-code-review 实战：从 Git diff 到规则引擎

开源代码审查CLI工具：Git集成+LLM混合推理实战

今日更新

悟空开源无代码平台实战：从实体建模到应用设计避坑指南

基于.NET9的多租户权限系统：数据权限与动态API落地实践

场地预约小程序毕设实战：SSM+微信小程序+MySQL数据库设计到避坑

本周精选

金融AI落地指南：从调研报告到技术选型与工程实践

大模型上下文成本与注意力优化技术深度解析——为何O(n²)平方复杂度无法被常规优化消除｜TaoToken 统一 Key 通道实测

基于GMM的语音识别系统原理与MATLAB实现详解

本月热门

我发现了一个新思路：用 Remotion + Claude Code 像写代码一样自动化生成短视频

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式：TaoToken 统一 Key 配置与验证

2026 大模型集体涨价：用 Python 做企业 Token 成本测算与选型避坑（附配置）

读完文章，想聊聊您的网站？