深度学习21:PyTorch:激活函数(Sigmoid,Tanh,ReLU,Softmax)-北京尧图网络

目录标题一、Sigmoid函数二、Tanh函数三、ReLU函数四、Softmax函数一、Sigmoid函数importtorchimportmatplotlib.pyplotasplt xtorch.linspace(-10,10,steps1000,requires_gradTrue)ytorch.sigmoid(x)# 画图fig,axplt.subplots(nrows1,ncols2,figsize(12,4))# 1. 原函数图像ax[0].plot(x.data,y.data,purple)ax[0].set_title(sigmoid(x))# 绘制参考线ax[0].axhline(y0.5,colorgray,alpha0.5,linewidth1)ax[0].axhline(y1,colorgray,alpha0.5,linewidth1)# 图的边框ax[0].spines[top].set_visible(False)ax[0].spines[right].set_visible(False)ax[0].spines[left].set_position(zero)ax[0].spines[bottom].set_position(zero)# 反向传播计算 x 的梯度y.sum().backward()# 2. 导数函数图像ax[1].plot(x.data,x.grad,purple)ax[1].set_title(sigmoid(x))# 图的边框ax[1].spines[top].set_visible(False)ax[1].spines[right].set_visible(False)ax[1].spines[left].set_position(zero)ax[1].spines[bottom].set_position(zero)# plt.show()plt.savefig(sigmoid_result.png)二、Tanh函数importtorchimportmatplotlib.pyplotasplt xtorch.linspace(-5,5,steps1000,requires_gradTrue)ytorch.tanh(x)# 画图fig,axplt.subplots(nrows1,ncols2,figsize(12,4))# 1. 原函数图像ax[0].plot(x.data,y.data,purple)ax[0].set_title(tanh(x))# 绘制参考线ax[0].axhline(y-1,colorgray,alpha0.5,linewidth1)ax[0].axhline(y1,colorgray,alpha0.5,linewidth1)# 图的边框ax[0].spines[top].set_visible(False)ax[0].spines[right].set_visible(False)ax[0].spines[left].set_position(zero)ax[0].spines[bottom].set_position(zero)# 反向传播计算 x 的梯度y.sum().backward()# 2. 导数函数图像ax[1].plot(x.data,x.grad,purple)ax[1].set_title(tanh(x))#图的边框ax[1].spines[top].set_visible(False)ax[1].spines[right].set_visible(False)ax[1].spines[left].set_position(zero)ax[1].spines[bottom].set_position(zero)# plt.show()plt.savefig(tanh_result.png)三、ReLU函数importtorchimportmatplotlib.pyplotasplt xtorch.linspace(-5,5,steps1000,requires_gradTrue)ytorch.relu(x)# 画图fig,axplt.subplots(nrows1,ncols2,figsize(12,4))# 1. 原函数图像ax[0].plot(x.data,y.data,purple)ax[0].set_title(relu(x))ax[0].spines[top].set_visible(False)ax[0].spines[right].set_visible(False)ax[0].spines[left].set_position(zero)ax[0].spines[bottom].set_position(zero)# 反向传播计算 x 的梯度y.sum().backward()# 2. 导数函数图像ax[1].plot(x.data,x.grad,purple)ax[1].set_title(relu(x))ax[1].spines[top].set_visible(False)ax[1].spines[right].set_visible(False)ax[1].spines[left].set_position(zero)ax[1].spines[bottom].set_position(zero)# plt.show()plt.savefig(relu_result.png)四、Softmax函数importtorch# n * m 3条样本5个特征项xtorch.randn(3,5)print(x)#指定是那个维度为分类概率(即一列是一条数据还是一行是一条数据)ytorch.softmax(x,dim1)print(y)

深度学习21:PyTorch:激活函数(Sigmoid,Tanh,ReLU,Softmax)

相关推荐

ARM TLB字段

工作总结PPT模板怎么用？以西北工业大学为例的全流程指南

AI 把技术笔记改成随笔后，怎样比较“更好读”而不伪造情绪分数

更多资讯

绿色便携软件实战指南：轻量、安全、跨环境的生产力方案

网络安全靶场选型与实战搭建指南

DuckDB与MySQL查询性能对比实测与分析

IDEA中使用Claude Code提升Java开发效率

面向对象编程高级特性与设计模式实战

目标检测技术演进与全局感知的突破

今日更新

微信个人号API开发案例：图片/语音/视频消息怎么下载解析存到本地？

Python股票自动交易系统源码解析：从行情获取到风控的完整链路

视酷酷信IM源码部署指南：Java 17+MySQL 8.0.33实战配置

本周精选

防幻觉智能体架构：电源硬件设计中的大模型编排与工具化实践

OpenGL面试核心考点：渲染管线、矩阵变换与性能排查全解析

全国计算机二级C语言真题PDF高效刷题指南

本月热门

我发现了一个新思路：用 Remotion + Claude Code 像写代码一样自动化生成短视频

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式：TaoToken 统一 Key 配置与验证

2026 大模型集体涨价：用 Python 做企业 Token 成本测算与选型避坑（附配置）

读完文章，想聊聊您的网站？