尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
SGD梯度更新实战解析
根据黑板上的第二问要求我们需要使用SGD随机梯度下降来求解。1. 题目条件提取从图片中可以看到具体的设定初始参数$w_0 0$, $b_0 0$学习率$\alpha 0.1$ 图中写作 $\eta0.1$ 或 $\alpha0.1$目标计算第一次更新后的 $w$ 和 $b$。数据$x(1, 2, 3)$, $y(2, 4, 6)$样本数 $m3$。损失函数$J(w,b) \frac{1}{2m} \sum (y_i - \hat{y}_i)^2$2. 梯度公式推导基于给定的损失函数对 $w$ 和 $b$ 求偏导得到梯度注意系数 $\frac{1}{2m}$ 求导后变为 $\frac{1}{m}$且链式法则产生负号预测值$\hat{y}_i w x_i b$误差项$(\hat{y}_i - y_i)$梯度计算公式$$\frac{\partial J}{\partial w} \frac{1}{m} \sum_{i1}^{m} (\hat{y}_i - y_i) x_i$$$$\frac{\partial J}{\partial b} \frac{1}{m} \sum_{i1}^{m} (\hat{y}_i - y_i)$$(注黑板右侧的板书也印证了这一点虽然字迹较潦草但结构符合 $\frac{1}{m}\sum(\dots)$ 的形式)3. 具体计算步骤第一步计算初始状态下的预测值与误差由于初始 $w_00, b_00$对于所有样本 $i$预测值 $\hat{y}_i 0 \cdot x_i 0 0$真实值 $y (2, 4, 6)$误差 $(\hat{y}_i - y_i) (0-2, 0-4, 0-6) (-2, -4, -6)$第二步计算梯度计算 $w$ 的梯度 $\frac{\partial J}{\partial w}$$$\begin{aligned}\frac{\partial J}{\partial w} \frac{1}{3} [ (-2)\times 1 (-4)\times 2 (-6)\times 3 ] \ \frac{1}{3} [ -2 - 8 - 18 ] \ \frac{-28}{3} \approx -9.33\end{aligned}$$计算 $b$ 的梯度 $\frac{\partial J}{\partial b}$$$\begin{aligned}\frac{\partial J}{\partial b} \frac{1}{3} [ (-2) (-4) (-6) ] \ \frac{-12}{3} \ -4\end{aligned}$$第三步执行参数更新更新公式为$\theta_{new} \theta_{old} - \alpha \cdot \text{gradient}$更新 $w$$$\begin{aligned}w_1 w_0 - 0.1 \times \left( -\frac{28}{3} \right) \ 0 \frac{2.8}{3} \ \frac{28}{30} \frac{14}{15} \approx \mathbf{0.933}\end{aligned}$$更新 $b$$$\begin{aligned}b_1 b_0 - 0.1 \times (-4) \ 0 0.4 \ \mathbf{0.4}\end{aligned}$$4. 最终结论经过 SGD第一次迭代更新后参数结果为$w \approx 0.933$(精确值为 $14/15$)$b 0.4$此时的回归方程约为$y 0.933x 0.4$
RELATED

相关推荐

为什么现在大多 Code Agent 的主形态是 CLI/TUI?TaoToken 统一 Key 接入实测

为什么现在大多 Code Agent 的主形态是 CLI/TUI?TaoToken 统一 Key 接入实测

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📅 2026/11/5 9:42:58
基于S7-200与组态王的装卸料小车PLC自动控制系统设计

基于S7-200与组态王的装卸料小车PLC自动控制系统设计

1. 项目背景与需求梳理1.1 为什么需要一个“会自己跑”的装卸料小车港口码头的散货装卸作业里,有一种很常见的场景:皮带机把物料送到某个中转料斗,料斗下方的小车需要沿着轨道往复运动,把料斗里的物料均匀地卸到指定的堆场区域。以…

📅 2026/11/5 11:50:28
当Agent学会“自我进化”,你的算法底座还稳吗?TaoToken视角下的递归增强与算法优化

当Agent学会“自我进化”,你的算法底座还稳吗?TaoToken视角下的递归增强与算法优化

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📅 2026/11/5 11:50:20
MORE NEWS

更多资讯

📰

章丘区考电工证在哪 电工证多少钱 实操考试心里没底怕挂科

章丘区考电工证在哪 电工证多少钱 实操考试心里没底怕挂科 实操考试心里没底怕挂科,这几乎是所有想考电工证的人共同的烦恼。章丘区考电工证在哪?多少钱?怎么选靠谱的培训机构?这些问题看似简单,实则关乎你能否顺利拿到证书,甚至影响你的职业发展。下…

📰

苏州园区培训电工证内部消息:工地太忙根本没时间复习考试怎么办

苏州园区培训电工证内部消息:工地太忙根本没时间复习考试怎么办 工地太忙根本没时间复习考试,这几乎是每个电工在岗位上都会遇到的问题。尤其是苏州园区这类施工项目密集、节奏快的区域,电工不仅要负责日常的电力操作,还要应对突发的电路故障和安全排查。…

📰

阳春市哪考电工证怎么避开中介陷阱?考前押题资料全在这里

阳春市哪考电工证怎么避开中介陷阱?考前押题资料全在这里 你是不是也遇到过这种情况?拿着报名表不知道去哪交,一打听就被告知要找“熟人”“加钱”,最后还被坑了钱没拿到证?别急,本文就是帮你解决【阳春市哪考电工证】这个问题的干货,从报名渠道、考试…

📰

夏津电工证培训机构2026河南最新政策解读:电工证怎么考才能稳稳上岗

夏津电工证培训机构2026河南最新政策解读:电工证怎么考才能稳稳上岗 你是不是也这样,手里拿着电工证,却总觉得不够“硬核”?别急,2026年河南最新政策一出,电工证的含金量和报考要求都变了。特别是对刚毕业的商丘工程类学生来说,这张证不光是找…

📰

工地太忙根本没时间复习考试?成都电工证报名点帮你搞定上岗必备难题

工地太忙根本没时间复习考试?成都电工证报名点帮你搞定上岗必备难题 工地太忙根本没时间复习考试?别让手忙脚乱耽误了你的上岗必备机会。成都电工证报名点已经成了很多建筑工人和工程类应届生的“救星”,但很多人还是不清楚从哪儿入手,甚至误入“考证陷阱…

📰

灌云在哪里报考电工证怎么考?证书过期了不知道怎么复审延期

灌云在哪里报考电工证怎么考?证书过期了不知道怎么复审延期 证书过期了不知道怎么复审延期?你不是一个人。特别是在灌云这样的地方,很多人因为工作变动、政策调整、个人疏忽,导致特种作业证没及时复审,最后影响了工作和收入。别急,本文从你最关心的…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬