尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
集成学习(ensemble learning)
目录什么是集成学习1.学习器相关的基本定义2 .集成学习的方法3 .并行计算 4 .串行计算 boosting实例给定如下表所示训练数据。假设个体学习器由x输入和y输出产生其阈值v判定正反例的分界线使该分类器在训练数据集上分类误差率最低。y1为正例y-1为反例reference:什么是集成学习集成学习ensemble learning通过构建并结合多个学习器来完成学习任务是一大类模型融合策略和方法的统称。1.学习器相关的基本定义弱学习器对于二分类而言弱分类器的准确率可能比较低例如60%65%等等但它们的最低要求是一定要大于50%即随机预测的准确率。强学习器…识别准确率很高并能在多项式时间内完成的学习算法同质集成 集成中包含同一类型的学习器基学习器对应的算法基学习算法异质集成继承中包含不同的类型的学习器组件学习器2 .集成学习的方法串行集成方法这种方法串行地生成基础模型如AdaBoost。串行集成的基本动机是利用基础模型之间的依赖。通过给错分样本一个较大的权重来提升性能。并行集成方法这种方法并行地生成基础模型如Random Forestbagging。并行集成的基本动机是利用基础模型的独立性因为通过平均能够较大地降低误差。3 .并行计算 1. 实例 bagging的基本过程A从原始样本集中抽取训练集。每轮从原始样本集中使用Bootstraping的方法抽取n个训练样本在训练集中有些样本可能被多次抽取到而有些样本可能一次都没有被抽中。共进行k轮抽取得到k个训练集。k个训练集之间是相互独立的B每次使用一个训练集得到一个模型k个训练集共得到k个模型。注这里并没有具体的分类算法或回归方法我们可以根据具体问题采用不同的分类或回归方法如决策树、感知器等C对分类问题将上步得到的k个模型采用投票的方式得到分类结果对回归问题计算上述模型的均值作为最后的结果。所有模型的重要性相同为了让更好地理解bagging方法这里提供一个例子X表示一维属性Y表示类标号1或-1测试条件当xk时y当xk时yk为最佳分裂点下表为属性x对应的唯一正确的y类别现在进行5轮随机抽样结果如下每一轮随机抽样后都生成一个分类器然后再将五轮分类融合:对比符号和实际类我们可以发现在该例子中Bagging使得准确率可达90%.2.随机森林随机森林:bagging 决策树(基学习器)随机森林随机主要体现在两个方面一个是样本抽取随机另一个是每棵树的M个特征的随机选取。森林多个决策树进程学习形成森林每棵树的按照如下规则生成1如果训练集大小为N总样本为MNM)对于每棵树而言随机且有放回地从训练集中的抽取N个训练样本这种采样方式称为bootstrap sample方法作为该树的训练集2如果每个样本的特征维度为M指定一个常数mM随机地从M个特征中选取m个特征子集每次树进行分裂时从这m个特征中选择最优的3每棵树都尽最大程度的生长并且没有剪枝过程。思考题为什么要随机抽样训练集如果不进行随机抽样每棵树的训练集都一样那么最终训练出的树分类结果也是完全一样的这样的话完全没有bagging的必要为什么要有放回地抽样有放回地抽样才能保证每次抽取时可能的概率时一样的即为了达到独立同分布可保证每一颗决策树都是相互独立的而随机森林最后分类取决于多棵树弱分类器的投票表决这种表决应该是求同因此使用完全不同的训练集来训练每棵树这样对最终分类结果是没有帮助的这样无异于是盲人摸象。随机的好处随机森林中的“随机”就是指的上述的两个随机性即二重随机性。两个随机性的引入对随机森林的分类性能至关重要。由于它们的引入使得随机森林不容易陷入过拟合并且具有很好得抗噪能力比如对缺省值不敏感。填空题Bagging属于______集成的基本动机是利用基础模型的(__独立性___)A串行B并行4 .串行计算 1.Boostingboosting是一族可将弱学习器提升为强学习器的算法这族算法的工作机制类似1先从初始训练集训练出一个基学习器2再根据基学习器的表现对训练样本分布进行调整使得先前基学习器做错的训练样本在后续受到更多关注3基于调整后的样本分布来训练下一个基学习器4重复进行上述步骤直至基学习器数目达到事先指定的值T最终将这T个基学习器进行加权结合。boosting实例给定如下表所示训练数据。假设个体学习器由x输入和y输出产生其阈值v判定正反例的分界线使该分类器在训练数据集上分类误差率最低。y1为正例y-1为反例具体过程可以看太长了懒~~~https://www.zhihu.com/collection/213299143思考题试述随即森林为什么比决策树Bagging集成的训练速度快首先理解决策树Bagging与随机森林的区别随机森林不仅会随机样本还会在所有样本属性中随机几种出来计算。这样每次生成分类器时都是对部分属性计算最优速度会比Bagging计算全属性要快。BaggingBoosting二者之间的区别1样本选择上Bagging训练集是在原始集中有放回选取的从原始集中选出的各轮训练集之间是独立的。Boosting每一轮的训练集不变只是训练集中每个样例在分类器中的权重发生变化。而权值是根 据上一轮的分类结果进行调整。2样例权重Bagging使用均匀取样每个样例的权重相等Boosting根据错误率不断调整样例的权值错误率越大则权重越大。3预测函数Bagging所有预测函数的权重相等。Boosting每个弱分类器都有相应的权重对于分类误差小的分类器会有更大的权重。4并行计算Bagging各个预测函数可以并行生成Boosting各个预测函数只能顺序生成因为后一个模型参数需要前一轮模型的结果Reference:https://www.cnblogs.com/zongfa/p/9304353.htmlhttps://www.zhihu.com/collection/213299143
RELATED

相关推荐

数据恢复终极指南:TestDisk免费开源工具拯救丢失文件的完整方法

数据恢复终极指南:TestDisk免费开源工具拯救丢失文件的完整方法

数据恢复终极指南:TestDisk免费开源工具拯救丢失文件的完整方法 【免费下载链接】testdisk TestDisk & PhotoRec 项目地址: https://gitcode.com/gh_mirrors/te/testdisk 在数字时代,数据丢失是每个人都会遇到的噩梦。想象一下:重…

📅 2026/9/18 6:21:04
Ruckig:机器人运动规划的三大挑战与突破性解决方案

Ruckig:机器人运动规划的三大挑战与突破性解决方案

Ruckig:机器人运动规划的三大挑战与突破性解决方案 【免费下载链接】ruckig Motion Generation for Robots and Machines. Real-time. Jerk-constrained. Time-optimal. 项目地址: https://gitcode.com/gh_mirrors/ru/ruckig 在机器人控制系统开发中&#xf…

📅 2026/9/10 1:51:04
AriaNg GUI终极指南:掌握高效多线程下载的免费图形界面工具

AriaNg GUI终极指南:掌握高效多线程下载的免费图形界面工具

AriaNg GUI终极指南:掌握高效多线程下载的免费图形界面工具 【免费下载链接】aria-ng-gui 一个 Aria2 图形界面客户端 | An Aria2 GUI for Windows & Linux & MacOS 项目地址: https://gitcode.com/gh_mirrors/ar/aria-ng-gui AriaNg GUI是一款基于a…

📅 2026/8/24 14:52:02
MORE NEWS

更多资讯

📰

离散粒子群算法在航天器在轨服务任务分配中的应用

简介:针对多航天器协同在轨服务中的任务分配问题,这份PDF论文提出了基于离散粒子群优化(DPSO)算法的求解策略。资源面向航天工程、智能优化算法研究者及相关专业学生,适合作为算法设计、数学建模与任务分配流程学习的参…

📰

书霸AI科研绘图怎么选:基础版还是专业版

www.shubaai.com写论文时,图表往往不是“最后顺手做一下”的装饰,而是帮助读者理解研究过程、实验结果和逻辑关系的重要证据。面对不同绘图工具,很多人真正纠结的并不是能不能生成图片,而是:自己的论文到底适合哪一种工…

📰

书霸AI:论文图表正从绘制走向表达

www.shubaai.com过去谈科研绘图,大家关注的是“图怎么画”;未来真正拉开论文质量差距的,却是“为什么画这张图,以及它能否支撑结论”。从书霸AI科研绘图工作台可以看到,AI写作工具正在由文字生成向数据表达延伸&#x…

📰

基于Spring Boot与Vue的土地资源管理子系统设计与实现

1. 从农村土地管理的真实痛点出发:这个子系统到底要做什么这两年我在后台收到不少私信,都在问同一个问题:毕设到底选什么题目才能既好过审、又好实现、还不容易烂大街?说句实在话,Spring Boot Vue 这类前后端分离的管…

📰

Maven多模块打包成一个可执行胖JAR实战指南

多模块项目在本地跑得好好的,一到打包环节就犯愁——mvn package一下,target目录里躺着七八个 JAR,common.jar、dao.jar、service.jar、web.jar各占一个坑。部署的时候你得挨个往服务器上拷,启动脚本里拼一长串classpath&#xff…

📰

研究论文调用智能体,TaoToken 消耗从哪看

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬