尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
【DW组队学】llm-algo-leetcode 05LLaMA3 Block 教程 + 00PyTorch 热身
这里写自定义目录标题纯粹的复健流程00. PyTorch 热身Part 1: 张量维度变换与 einopsPart 2: 嵌入层 (Embedding Layer) 的本质纯粹的复健流程很久没有摸过这些库现在重新拾起来有点困难。00. PyTorch 热身# 导入所有必需的库importtorchimporttorch.nnasnnimporttorch.nn.functionalasFimporteinopsPart 1: 张量维度变换与einopsdeftensor_warmup(x:torch.Tensor): 假设 x 是一批图像的特征 (例如在多模态大模型中)形状为 [batch_size, channels, height, width] 我们需要将其展平为序列 (Sequence)以输入给 Transformer。 目标形状: [batch_size, height * width, channels] # # TODO 1.1: 使用原生的 PyTorch 方法 (permute reshape/flatten) 完成变换# 提示: 先调整维度顺序再合并空间维度# # x_native ???x_nativex.permute(0,2,3,1)\.reshape(len(x),len(x[0][0][0])*len(x[0][0]),len(x[0]))[batch_size,channels,height,width]x.shape x_nativex.permute(0,2,3,1)\.reshape(batch_size,height*width,channels)# # TODO 1.2: 使用 einops.rearrange 优雅地完成完全相同的操作# 提示: 使用括号表示要合并的维度# # x_einops ???x_einopseinops.rearrange(x,b c h w - b (h w) c)returnx_native,x_einops# 来个单测看看tensor_atorch.randn(2,3,224,224)# print(tensor_a)print(tensor_a.shape)tensor_a_native,tensor_a_einopstensor_warmup(tensor_a)# print(tensor_a_native)print(tensor_a_native.shape)# print(tensor_a_einops)print(tensor_a_einops.shape)两个x_native的写法得到的结果都是一样的图片我就不贴两遍了但是显然可读性没有einops.rearrange()这种要好。Part 2: 嵌入层 (Embedding Layer) 的本质未完待续
RELATED

相关推荐

3分钟掌握Windows DLL注入:Xenos注入器完整指南

3分钟掌握Windows DLL注入:Xenos注入器完整指南

3分钟掌握Windows DLL注入:Xenos注入器完整指南 【免费下载链接】Xenos Windows dll injector 项目地址: https://gitcode.com/gh_mirrors/xe/Xenos Windows DLL注入是系统调试和软件扩展的核心技术,而Xenos注入器正是这一领域的专业工具。作为基…

📅 2026/8/24 2:28:34
AWS 注册页面打不开?跟着 NiceCloud 一步步排查

AWS 注册页面打不开?跟着 NiceCloud 一步步排查

不少人在注册 AWS 时,都会碰到 AWS 注册页面打不开 的情况。第一反应往往是:“是不是 AWS 官网出问题了?”或者“是不是我网络不行?”但从实际经验来看,AWS 注册不了、注册失败,通常并不是某一个单独原因导…

📅 2026/8/24 2:28:37
多对象图像生成技术:复杂场景构图与AI绘画实践指南

多对象图像生成技术:复杂场景构图与AI绘画实践指南

这次我们来看一个名为"这里站不下这么多龙"的项目,从标题来看这应该是一个与图像生成或AI绘画相关的技术项目,可能涉及多对象生成、场景构图或角色管理能力。这类项目通常关注的是在有限空间内如何合理安排多个元素,特别是当涉及复…

📅 2026/9/10 4:38:00
MORE NEWS

更多资讯

📰

WeChatMsg 完整教程:3 种格式免费导出微信聊天记录,还能生成年度报告

WeChatMsg 完整教程:3 种格式免费导出微信聊天记录,还能生成年度报告 【免费下载链接】WeChatMsg 提取微信聊天记录,将其导出成HTML、Word、CSV文档永久保存,对聊天记录进行分析生成年度聊天报告 项目地址: https://gitcode.com…

📰

OpenMontage 场景检测完全指南:从算法选型到阈值调优的实战手册

OpenMontage 场景检测完全指南:从算法选型到阈值调优的实战手册 【免费下载链接】OpenMontage Worlds first open-source, agentic video production system. 12 production pipelines, 100 tools, 700 agent skill and production-knowledge files. Turn your AI c…

📰

AI日报实操指南:面向工程师的每日技术信号解码

1. 这不是新闻简报,而是一份AI行业实操者的每日观测手记 “AI 日报(2026年9月3日)”——看到这个标题,别急着划走。它既不是媒体机构发布的通稿合集,也不是算法推送的热点拼盘,更不是某家大厂PR团队精心打…

📰

MuMu模拟器开麦变声原理与6款稳定变声器实测

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

嵌入式Linux下Modbus RTU工业通信实战:从串口配置到传感器数据落地

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

YooAsset深度解析:Unity工业级资源治理框架实战指南

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬