尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
集成学习(ensemble learning)
目录什么是集成学习1.学习器相关的基本定义2 .集成学习的方法3 .并行计算 4 .串行计算 boosting实例给定如下表所示训练数据。假设个体学习器由x输入和y输出产生其阈值v判定正反例的分界线使该分类器在训练数据集上分类误差率最低。y1为正例y-1为反例reference:什么是集成学习集成学习ensemble learning通过构建并结合多个学习器来完成学习任务是一大类模型融合策略和方法的统称。1.学习器相关的基本定义弱学习器对于二分类而言弱分类器的准确率可能比较低例如60%65%等等但它们的最低要求是一定要大于50%即随机预测的准确率。强学习器…识别准确率很高并能在多项式时间内完成的学习算法同质集成 集成中包含同一类型的学习器基学习器对应的算法基学习算法异质集成继承中包含不同的类型的学习器组件学习器2 .集成学习的方法串行集成方法这种方法串行地生成基础模型如AdaBoost。串行集成的基本动机是利用基础模型之间的依赖。通过给错分样本一个较大的权重来提升性能。并行集成方法这种方法并行地生成基础模型如Random Forestbagging。并行集成的基本动机是利用基础模型的独立性因为通过平均能够较大地降低误差。3 .并行计算 1. 实例 bagging的基本过程A从原始样本集中抽取训练集。每轮从原始样本集中使用Bootstraping的方法抽取n个训练样本在训练集中有些样本可能被多次抽取到而有些样本可能一次都没有被抽中。共进行k轮抽取得到k个训练集。k个训练集之间是相互独立的B每次使用一个训练集得到一个模型k个训练集共得到k个模型。注这里并没有具体的分类算法或回归方法我们可以根据具体问题采用不同的分类或回归方法如决策树、感知器等C对分类问题将上步得到的k个模型采用投票的方式得到分类结果对回归问题计算上述模型的均值作为最后的结果。所有模型的重要性相同为了让更好地理解bagging方法这里提供一个例子X表示一维属性Y表示类标号1或-1测试条件当xk时y当xk时yk为最佳分裂点下表为属性x对应的唯一正确的y类别现在进行5轮随机抽样结果如下每一轮随机抽样后都生成一个分类器然后再将五轮分类融合:对比符号和实际类我们可以发现在该例子中Bagging使得准确率可达90%.2.随机森林随机森林:bagging 决策树(基学习器)随机森林随机主要体现在两个方面一个是样本抽取随机另一个是每棵树的M个特征的随机选取。森林多个决策树进程学习形成森林每棵树的按照如下规则生成1如果训练集大小为N总样本为MNM)对于每棵树而言随机且有放回地从训练集中的抽取N个训练样本这种采样方式称为bootstrap sample方法作为该树的训练集2如果每个样本的特征维度为M指定一个常数mM随机地从M个特征中选取m个特征子集每次树进行分裂时从这m个特征中选择最优的3每棵树都尽最大程度的生长并且没有剪枝过程。思考题为什么要随机抽样训练集如果不进行随机抽样每棵树的训练集都一样那么最终训练出的树分类结果也是完全一样的这样的话完全没有bagging的必要为什么要有放回地抽样有放回地抽样才能保证每次抽取时可能的概率时一样的即为了达到独立同分布可保证每一颗决策树都是相互独立的而随机森林最后分类取决于多棵树弱分类器的投票表决这种表决应该是求同因此使用完全不同的训练集来训练每棵树这样对最终分类结果是没有帮助的这样无异于是盲人摸象。随机的好处随机森林中的“随机”就是指的上述的两个随机性即二重随机性。两个随机性的引入对随机森林的分类性能至关重要。由于它们的引入使得随机森林不容易陷入过拟合并且具有很好得抗噪能力比如对缺省值不敏感。填空题Bagging属于______集成的基本动机是利用基础模型的(__独立性___)A串行B并行4 .串行计算 1.Boostingboosting是一族可将弱学习器提升为强学习器的算法这族算法的工作机制类似1先从初始训练集训练出一个基学习器2再根据基学习器的表现对训练样本分布进行调整使得先前基学习器做错的训练样本在后续受到更多关注3基于调整后的样本分布来训练下一个基学习器4重复进行上述步骤直至基学习器数目达到事先指定的值T最终将这T个基学习器进行加权结合。boosting实例给定如下表所示训练数据。假设个体学习器由x输入和y输出产生其阈值v判定正反例的分界线使该分类器在训练数据集上分类误差率最低。y1为正例y-1为反例具体过程可以看太长了懒~~~https://www.zhihu.com/collection/213299143思考题试述随即森林为什么比决策树Bagging集成的训练速度快首先理解决策树Bagging与随机森林的区别随机森林不仅会随机样本还会在所有样本属性中随机几种出来计算。这样每次生成分类器时都是对部分属性计算最优速度会比Bagging计算全属性要快。BaggingBoosting二者之间的区别1样本选择上Bagging训练集是在原始集中有放回选取的从原始集中选出的各轮训练集之间是独立的。Boosting每一轮的训练集不变只是训练集中每个样例在分类器中的权重发生变化。而权值是根 据上一轮的分类结果进行调整。2样例权重Bagging使用均匀取样每个样例的权重相等Boosting根据错误率不断调整样例的权值错误率越大则权重越大。3预测函数Bagging所有预测函数的权重相等。Boosting每个弱分类器都有相应的权重对于分类误差小的分类器会有更大的权重。4并行计算Bagging各个预测函数可以并行生成Boosting各个预测函数只能顺序生成因为后一个模型参数需要前一轮模型的结果Reference:https://www.cnblogs.com/zongfa/p/9304353.htmlhttps://www.zhihu.com/collection/213299143
RELATED

相关推荐

数据恢复终极指南:TestDisk免费开源工具拯救丢失文件的完整方法

数据恢复终极指南:TestDisk免费开源工具拯救丢失文件的完整方法

数据恢复终极指南:TestDisk免费开源工具拯救丢失文件的完整方法 【免费下载链接】testdisk TestDisk & PhotoRec 项目地址: https://gitcode.com/gh_mirrors/te/testdisk 在数字时代,数据丢失是每个人都会遇到的噩梦。想象一下:重…

📅 2026/11/20 0:50:00
Ruckig:机器人运动规划的三大挑战与突破性解决方案

Ruckig:机器人运动规划的三大挑战与突破性解决方案

Ruckig:机器人运动规划的三大挑战与突破性解决方案 【免费下载链接】ruckig Motion Generation for Robots and Machines. Real-time. Jerk-constrained. Time-optimal. 项目地址: https://gitcode.com/gh_mirrors/ru/ruckig 在机器人控制系统开发中&#xf…

📅 2026/11/20 0:50:00
AriaNg GUI终极指南:掌握高效多线程下载的免费图形界面工具

AriaNg GUI终极指南:掌握高效多线程下载的免费图形界面工具

AriaNg GUI终极指南:掌握高效多线程下载的免费图形界面工具 【免费下载链接】aria-ng-gui 一个 Aria2 图形界面客户端 | An Aria2 GUI for Windows & Linux & MacOS 项目地址: https://gitcode.com/gh_mirrors/ar/aria-ng-gui AriaNg GUI是一款基于a…

📅 2026/10/6 0:08:42
MORE NEWS

更多资讯

📰

连平电工证年审换证多少钱?实操考试怎么准备不挂科

连平电工证年审换证多少钱?实操考试怎么准备不挂科 实操考试心里没底怕挂科?连平电工证年审换证多少钱?这是很多电工朋友在准备年审换证时最担心的问题。尤其是实操考试,操作不规范、流程不熟悉,稍有不慎就可能挂科,直接影响工作安排和证书的有效性。今…

📰

没有电工证抓到培训机构怎么选

你没电工证被抓到 怎么在这边【在哪考】补救 证书过期了不知道怎么复审延期,这事儿很多人真不是故意的,但一旦被查到,轻则被罚款,重则影响工作。你要是刚干电工这行,或者打算转行,没证被抓到就更尴尬了。很多人问:…

📰

高级电工证需要学历?内部消息教你避坑少走弯路

高级电工证需要学历?内部消息教你避坑少走弯路 怕考不过白交培训费?别急, 高级电工证需要学历 这事儿,我跟你说实话,现在很多人以为高级电工证门槛高,不是谁都能报,但其实关键不在于学历,而是你有没有选对路。 内部消息…

📰

高级电工证属于什么?2026河南最新政策怎么应对

高级电工证属于什么?2026河南最新政策怎么应对 你是不是也遇到过这种情况?不知道去哪报名怕被中介坑,看着网上一堆培训机构、考试机构,不知道哪个靠谱,一不小心就花了冤枉钱,还拿不到证?2026年河南最新政策对特种作业证的办理和管理又有了新的…

📰

电工证有什么题型怎么考,含金量高的考试内容你必须知道

电工证有什么题型怎么考,含金量高的考试内容你必须知道 怕考不过白交培训费?别慌,电工证考试题型虽然看起来复杂,但掌握好备考方法,含金量高的证书其实并不难拿下。尤其是周口地区的公路工程从业者,越来越多的人开始意识到,持有电工证不仅是上岗的门槛…

📰

贵阳水电工证过期了怎么办?全国通用证书复审指南来了

贵阳水电工证过期了怎么办?全国通用证书复审指南来了 证书过期了不知道怎么复审延期,这种情况在贵阳水电工圈并不少见。很多人在工作中忽视了证书的有效期,等到要用的时候才发现证书早已过期,甚至不知道该怎么处理。尤其是在贵阳地区,特种作业证的全国通…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬