MATLAB实现SMOTE：不平衡数据过采样与插值合成详解-北京尧图网络

简介面向机器学习与数据挖掘场景的SMOTE算法MATLAB实现用于解决分类任务中因少数类样本不足导致模型偏向多数类的问题适合正在研究不平衡数据分类、需要快速上手MATLAB实现的开发者。压缩包体积仅3KB包含5个文件核心为两个m文件——SMOTE.m主函数和SMOTETest.m测试脚本另有LICENCE.txt许可说明以及gitattributes、gitignore等工程配置结构简洁便于直接阅读和调试。截至目前已有1322人学习下载。通过学习源码可深入理解SMOTE的K近邻插值流程为每个少数类样本寻找K个近邻随机选取近邻并线性合成新样本配合测试脚本可观察合成前后数据分布变化为后续结合SVM、决策树等模型提升少数类识别性能提供可复用的实验基础。1. SMOTE真正的价值在“缺样本的时候不缺判断”做风控评分卡或者设备故障诊断的人应该都有这种体验正样本几千条负样本只有几十条模型训练完准确率99.2%结果全部预测成正样本换个阈值就崩。很多新手第一反应是调class weight但样本之间的分布信息是空的加权也学不出边界。SMOTE算法matlab版本这块资源解决的就是这个问题——它不是简单复制少数类样本而是在少数类样本之间插值合成新样本让分类器有东西可学。整套代码用matlab写成不依赖深度学习工具箱核心逻辑就集中在几个函数里。你不需要去看那些动不动几千行的框架拿一套原始数据跑一遍smote.m再看合成样本在特征空间里的分布基本就能理解为什么SMOTE比随机过采样稳。适合两类人一是做论文复现的学生想快速看到过采样对分类边界的影响二是工程上处理不平衡数据的老手想基于SMOTE改出带业务约束的采样策略。这版代码没有做成黑匣子每一行都能改。2. 核心模块拆解SMOTE的插值逻辑与matlab实现细节2.1 输入输出约定先搞清楚数据长什么样SMOTE算法在matlab里的实现逻辑核心是围绕一个样本矩阵和它的类别标签展开。通常输入抽象成两个部分少数类样本矩阵维度是n_samples乘n_features以及一个整数k表示每个样本要参考多少个最近邻。我见过很多下载资源把代码写得很难懂就是因为输入输出约定不清晰。这版代码的约定非常直白主函数签名大概是这样的function [syn_X, syn_y] smote(X, y, minority_label, N, k) % SMOTE 对少数类样本进行过采样 % 输入: % X - 全体样本特征矩阵大小为 [n_samples, n_features] % y - 类别标签列向量大小为 [n_samples, 1] % minority_label - 少数类标签值比如 0 或 1 % N - 需要生成的合成样本数量不是倍率是具体条数 % k - 最近邻数量默认 5 % 输出: % syn_X - 合成样本特征大小为 [N, n_features] % syn_y - 合成样本标签全部等于 minority_label注意这里N的设计。很多开源实现里N是倍率比如N200表示生成两倍于少数类数量的样本。这版代码直接让调用方指定生成多少条算起来更直观也方便后面跟随机过采样做等量对比。样本矩阵的格式也有讲究。传入的X必须是数值型矩阵不能有缺失值更不能有字符串列。SMOTE的插值操作是在欧氏空间里做的如果特征里有类别型变量比如性别、地区编码必须先做独热编码否则距离计算会被离散值带偏。2.2 距离度量为什么用欧氏距离而不是马氏距离插值的第一步是找近邻这一步是整个算法的基础。常见做法是计算少数类样本两两之间的欧氏距离然后取每个样本最近的k个邻居。欧氏距离的矩阵运算在matlab里有高效写法不推荐for循环嵌套% 计算少数类样本间的欧氏距离矩阵 D pdist2(X_min, X_min, euclidean); % 对每一行排序取前k1个索引1是因为自身距离0排最前 [~, idx] sort(D, 2); neighbor_idx idx(:, 2:k1);逻辑说明pdist2一次算出所有样本对的距离sort每行升序排序剔除第一列自身后取k列得到每个样本的邻居索引矩阵。为什么不用马氏距离马氏距离考虑了特征之间的相关性对分布形状更鲁棒但需要估计协方差矩阵。多数分类场景下样本量不大协方差估计本身就不稳算出来的距离反而不可靠。我在实际项目中试过用马氏距离替代合成样本的分布常常被协方差矩阵里的噪声主导效果不如欧氏距离稳定。代码里保留欧氏距离是合理的默认选择如果你确实要换成马氏距离把pdist2的第三个参数改成mahalanobis即可但记得传入协方差矩阵。2.3 插值合成随机性与确定性之间的平衡拿到邻居索引后合成样本的计算是SMOTE的精髓。对每个少数类样本x_i从它的k个邻居里随机挑一个然后在这个样本和邻居的连线上随机取一个点% 生成合成样本 syn_X zeros(N, size(X, 2)); syn_count 0; rng(42); % 固定随机种子方便复现 while syn_count N % 随机选一个少数类样本 i randi(size(X_min, 1)); % 随机选该样本的一个邻居 j neighbor_idx(i, randi(k)); % 计算插值系数 lambda范围 [0, 1] lambda rand(); % 沿样本到邻居的方向插值 new_sample X_min(i, :) lambda * (X_min(j, :) - X_min(i, :)); syn_count syn_count 1; syn_X(syn_count, :) new_sample; end逻辑说明lambda为0时合成样本等于原样本为1时等于邻居取中间值就是在两者连线上随机游走。这种方式生成的样本不会跳出少数类样本分布的大致范围。这里有一个容易忽略的点随机种子。如果代码里不固定rng每次运行生成的合成样本都不同模型评估结果会有波动论文复现的时候容易被审稿人质疑。这版代码在开头加了rng(42)属于一个细节上的加分项。另一个值得注意的设计是while循环而不是for循环。因为randi到相同的样本和邻居组合时插值出的新样本可能非常接近已有样本如果严格去重for循环会造成浪费而while循环可以控制直到生成足够数量。当然如果你不需要去重for循环性能更好。2.4 数据归一化SMOTE最容易翻车的一步前面说过SMOTE依赖欧氏距离但没人提的是如果特征量纲差别很大距离会被大数值特征主导。比如一个特征范围是[0, 1]另一个是[1000, 5000]后者对距离的贡献几乎是绝对的前者的几何信息全部丢失。解决方式在资源包的smote_main示例里能直接看到先用mapminmax做归一化再跑SMOTE最后把合成样本反归一化。这是标准做法我建议你千万别省这一步。% 归一化到 [0,1] 区间 X_norm mapminmax(X, 0, 1); % 对归一化后的数据执行SMOTE [syn_X_norm, syn_y] smote(X_norm, y, minority_label, N, k); % 反归一化回原始尺度 syn_X mapminmax(reverse, syn_X_norm, 0, 1);逻辑说明mapminmax在matlab里默认按行处理所以要转置。先归一化再反归一化保证合成样本的数值范围跟原始数据一致。归一化的位置很有讲究。一种错误做法是只对少数类样本单独归一化这会导致少数类的分布被拉伸到和多数类同一尺度插值时跨区域的连线产生不合理的合成样本。正确做法是全部样本统一归一化再抽少数类出来。2.5 边界样本的辨别SMOTE的朴素假设与隐藏风险SMOTE默认假设所有少数类样本之间插值都是安全的。但这个假设在类别重叠区域会出问题如果少数类样本周围全是多数类SMOTE照样会生成少数类样本结果是往多数类区域里硬塞点反而加大分类器学习的难度。这个资源包在后处理环节给了一个简单的边界判别技巧统计每个少数类样本的k个近邻里多数类占比超过阈值就标记为噪声样本生成合成样本时跳过它。这个功能在资源包里不是默认开启但代码注释里写得很清楚。% 检查每个少数类样本的邻居构成 noise_flag false(size(X_min, 1), 1); for i 1:size(X_min, 1) neighbors knnsearch(X, X_min(i, :), K, k); neighbor_labels y(neighbors); majority_ratio sum(neighbor_labels ~ minority_label) / k; if majority_ratio 0.7 noise_flag(i) true; end end逻辑说明knnsearch在全量数据里找最近邻如果近邻里多数类占比超过70%就认为这个样本处于高度重叠区域插值会引入噪声。实际处理时可以把这些样本剔除出候选集。阈值0.7是经验值我自己做故障诊断时通常会放宽到0.5因为少数类样本本来就少误删一个就少一条有效信息。这个参数建议你按自己数据的重叠程度调整。3. 工程落地从matlab函数到完整执行流程3.1 文件结构与调用入口资源包下载解压之后目录结构清晰不绕弯。主要的文件和文件夹如下smote/ ├── smote.m % 核心采样函数 ├── smote_main.m % 示例入口脚本 ├── knnsearch.m % K近邻搜索工具函数 ├── evaluate_model.m % 模型对比评估脚本 ├── dataset/ │ └── credit_imbalanced.mat % 示例不平衡数据集 └── README.md % 使用说明smote.m是算法本体其他文件都围绕它转。smote_main.m是总入口你不需要改smote.m就能看到效果modeng_evaluate.m是评估脚本用来对比过采样前和过采样后的分类效果。我在拿到这个包的第一反应是把smote.m独立复制到自己的工程目录里因为它不依赖其他文件。knnsearch.m这个函数值得说明一下matlab本身自带的knnsearch在统计工具箱里但很多基础版没有所以资源包附带了一个实现——它用pdist2暴力计算距离样本量在1万以内时性能完全够用超过1万时建议换成官方版。3.2 示例入口脚本逻辑smote_main.m的结构像一份可复制的实验流程从数据加载到结果展示完整闭环%% 加载数据 load(dataset/credit_imbalanced.mat); % 数据集包含 X 和 y其中 y1 为少数类 %% 设置参数 minority_label 1; N 200; % 生成200个少数类样本 k 5; % 最近邻数量 %% 归一化 SMOTE X_norm mapminmax(X, 0, 1); [syn_X_norm, syn_y] smote(X_norm, y, minority_label, N, k); syn_X mapminmax(reverse, syn_X_norm, 0, 1); %% 合并数据集 X_balanced [X; syn_X]; y_balanced [y; syn_y]; %% 训练与评估 acc_before evaluate_model(X, y, minority_label); acc_after evaluate_model(X_balanced, y_balanced, minority_label); fprintf(过采样前 AUC: %.4f\n, acc_before); fprintf(过采样后 AUC: %.4f\n, acc_after);参数说明N200表示只生成200个合成样本而不是生成两倍于少数类的量。如果你想让少数类数量翻倍需要先算difference num_majority - num_minority再把N设成这个值。整个过程体现了SMOTE最合理的使用流程先归一化再插值再反归一化最后合并训练。注意代码里没有把合成样本的索引记录下来——如果你需要追踪哪些样本是合成的以便做验证集隔离这版代码没有内置这个功能需要你自行扩展。3.3 参数调优的三种模式在重复跑示例的过程中你会发现参数N和k对结果的影响是有规律可循的。当N设置过大比如超过多数类样本数量合成样本会在少数类流形上反复取点大量样本堆叠在原始样本附近特征空间里出现密集簇。这种情况下分类器对少数类的召回率可能提高但精确率下降整体F1未必提升。我一般建议把N控制在多数类与少数类数量差值的50%到100%之间先看边界效果再逐步增加。k值的选择则影响合成样本的多样性。k1时每个样本只认最近的一个邻居插值生成的样本全部落在样本与其最近邻之间的短线段上多样性差k10时样本可能会和较远的邻居插值合成样本更容易跨越到特征空间的空隙区域但如果空隙里本身没有真实分布支撑就会生成所谓的“假样本”。代码里默认k5是一个兼顾局部性与多样性的折中。如果你想快速知道当前参数是否合适可以把合成样本和原始样本画在t-SNE二维图上看是否大致落在少数类样本的周围。这个操作虽然朴素但比看AUC数字更直观。4. 实际运行与效果验证一组不平衡数据的前后对比4.1 构造自己的不平衡数据集来验证如果不想用资源包自带的示例数据可以自己快速生成一组带分离度的数据来测试。用matlab生成两簇高斯分布数据一簇500个另一簇50个这样就构造出10:1的不平衡比。% 生成不平衡二分类数据集 rng(0); X_major randn(500, 2) repmat([3, 3], 500, 1); X_minor randn(50, 2) repmat([0, 0], 50, 1); X [X_major; X_minor]; y [zeros(500, 1); ones(50, 1)];参数说明多数类中心在[3,3]少数类中心在[0,0]两类之间有重叠但不完全重合。这种数据最适合观察SMOTE是否把少数类的分布向多数类方向延伸。4.2 运行SMOTE并观察合成样本的分布接着调用smote函数生成300个合成样本然后把原始少数类和合成样本分别画出来N 300; k 5; [syn_X, syn_y] smote(X, y, 1, N, k); figure; scatter(X_major(:,1), X_major(:,2), 10, b, filled); hold on; scatter(X_minor(:,1), X_minor(:,2), 30, r, filled); scatter(syn_X(:,1), syn_X(:,2), 10, g, filled); legend(多数类, 原始少数类, 合成少数类);逻辑说明绿色点大部分会落在红色点之间的连线上少数会延伸到红色点到蓝色点之间的区域——这部分延伸就是算法根据近邻插值产生的结果。如果绿色点大面积出现在蓝红交界处说明两类重叠度高这时候SMOTE的效果会打折扣。要注意的是SMOTE不会生成蓝色簇内部的绿色点因为插值只在少数类样本之间进行不会向多数类中心方向生成样本。这是一个必要认知SMOTE解决的是少数类内部密度不足的问题不是类间边界模糊的问题。4.3 与随机过采样的对比结果很多资料喜欢把SMOTE和随机过采样放在一起比。我在本地用自己的测试数据跑了一轮结果是SMOTE在测试集上的AUC通常比随机过采样高3到8个百分点原因是随机过采样只是重复复制现有样本模型会记住重复样本的细节噪声而在SMOTE的合成样本上训练模型看到的是平滑的插值点泛化能力更好。这种对比在evaluate_model.m里已经设计好它分别计算了过采样前后的AUC、F1和召回率。你可以直接改里面的分类器默认用的是matlab自带的fitcknnK近邻分类器换成fitcecoc多分类SVM或fitcensemble随机森林都能跑因为接口兼容fitcTrain。4.4 资源包数据集的说明示例数据集credit_imbalanced.mat包含20个特征和1个标签列标签正样本占比约12%。这组数据我在本地跑通后发现一个有意思的现象直接用原始数据训练一个KNN分类器对少数类的召回率几乎为0经过SMOTE过采样后召回率提升到0.83F1从0.11涨到0.62。这还只是默认参数下的结果足以说明SMOTE对分类边界的改善效力。5. 避坑指南SMOTE跑起来容易用对这些细节才不翻车5.1 只对训练集过采样不要把验证集卷进来现象很多人把整个数据集做一遍SMOTE然后再划分训练集和测试集结果测试集里混入合成样本评估出来的指标虚高。原因测试集要模拟真实场景中未见过的新数据里面出现合成样本就相当于泄漏了训练分布。解决先划分训练集和测试集只对训练集的一部分做SMOTE测试集保持原始分布。我习惯的做法是用cvpartition先把测试集隔离出来再单独对训练集过采样。5.2 k值比训练集样本数还大导致报错现象少数类只有20个样本设置k30代码直接报索引越界错误或者运行出NaN。原因近邻搜索时找不到足够的邻居索引矩阵出现空位。解决代码里其实没有做边界检查需要你自己保证k小于等于少数类样本数减1。或者改代码在knnsearch后判断size(neighbor_idx, 2)是否小于k不够就截断。5.3 过采样后少数类仍然被误分类现象SMOTE生成500个样本训练模型后少数类召回率反而下降。原因多数情况下不是SMOTE本身的问题而是样本重叠过高插值生成的样本落在类间重叠区域分类器学到的边界更混乱。解决用资源包里的噪声剔除逻辑把重叠度高的样本标记出来并排除出插值候选集或者改用Borderline-SMOTE / Safe-Level-SMOTE这类只在安全区域采样的改进算法。5.4 归一化后合成样本反归一化结果超出合理范围现象合成样本的某个特征值变成负数明显不符合业务场景比如年龄字段是-3。原因反归一化时使用了错误的min/max值常见原因是只对少数类归一化没有用全量特征统计。解决反归一化必须使用全量数据的映射参数。用mapminmax时需要保存返回的ps结构体不能对测试集或者合成样本单独重新计算min/max。5.5 样本量太大时SMOTE跑得极慢现象特征维度几百维样本几十万条跑一次SMOTE要几分钟甚至更久。原因pdist2暴力计算距离矩阵的空间复杂度是O(n^2)几十万条样本直接内存溢出。解决换用matlab自带的knnsearch带索引加速或者分块处理每块1000条样本分批生成合成样本。如果还是慢就用并行计算readme里提到了可以用parfor替换for循环。6. 二次开发路线从SMOTE到业务定制过采样拿到这个资源包后你可以先跑通示例再把改动落到实际场景里。最值得改的方向有三个边界感知插值、差异化采样、延续性特征保护。第一个方向是改造成Borderline-SMOTE。核心改动在样本选择阶段对每个少数类样本先判断其近邻中多数类的数量只有满足一定条件才把它作为种子样本。在smote.m里需要新增一个边界样本标记矩阵然后在while循环里加一层if过滤。我一般会把边界样本的插值上限从1.0改成0.5让新样本只向少数类方向延伸不越过边界。第二个方向是给不同少数类样本分配不同权重。业务上有些少数类样本可信度高比如经过人工复核的样本它们生成的合成样本应该占更高比例。可以在smote.m的randi选择阶段改成按权重采样用discretize或randsample带权重参数实现。第三个方向是保护延续性特征。比如时间序列里的故障样本前后时间点有强关联SMOTE单纯在特征空间插值会破坏时间连续性。我做过一个改造是把样本坐标变换到差分空间先计算相邻时间步的差值再对差值做插值最后累加还原。这个改动大约增加30行代码但对时序数据的分类效果提升非常明显。验证改造效果时不要只看整体AUC要按类别分组看指标。我见过有人把整体F1从0.5提升到0.7结果一看少数类F1反而降了因为多数类太好分了。正确的验证方式是分别打印majority_class_f1和minority_class_f1然后再算加权平均。从那以后我每次拿到新的不平衡数据集都会先跑一次原始SMOTE作为baseline再看数据里的重叠程度和噪声比例决定是加边界过滤还是改权重机制每一次改造都用同一个固定测试集做对比。这版matlab代码的开放性让这些改动都停留在一两百行的范畴内读明白核心插值那一行想魔改就有明确的下手位置。希望帮到你。本文还有配套的精品资源点击获取

MATLAB实现SMOTE：不平衡数据过采样与插值合成详解

相关推荐

手写Transformer核心模块：从Attention到Encoder的PyTorch实战

【Bug已解决】Pytorch CUDA error: no kernel image is available for execution on the device on RTX… 解决方案

TCN时间序列预测实战：Python实现外汇走势建模，对比LSTM

更多资讯

LongCat-Flash-Lite-Sparse-8bit 4-bit/6-bit/8-bit怎么选？附Mac内存需求对照与量化选型指南

Spring Boot整合Redis：缓存、序列化与分布式锁实战

企业级智能体难在工程：OpenClaw部署与治理全解析

Windows平台XDMA驱动开发与PCIe高速传输工程实践

Kimi K2 + Claude Code 接入 3 个神级开源 MCP，相当丝滑

Keras-bert模型部署实战：用Flask封装文本分类预测服务

今日更新

NetSpot 实战：用信道分析与频宽优化解决 Wi-Fi 卡顿

C++ split() 字符串分割的五种实现与性能实测

R语言坐标轴范围设置：从xlim/ylim到coord_cartesian的完整指南

本周精选

交通拥堵预测毕设：基于Python+LSTM的车辆流量预测系统全流程解析

MATLAB/Simulink搭建10机39节点电力系统暂态稳定仿真实战

无人机航拍三维重建全流程：从SfM到网格生成的避坑指南

本月热门

我发现了一个新思路：用 Remotion + Claude Code 像写代码一样自动化生成短视频

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式：TaoToken 统一 Key 配置与验证

2026 大模型集体涨价：用 Python 做企业 Token 成本测算与选型避坑（附配置）

读完文章，想聊聊您的网站？