尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
【DW组队学】llm-algo-leetcode 05LLaMA3 Block 教程 + 00PyTorch 热身
这里写自定义目录标题纯粹的复健流程00. PyTorch 热身Part 1: 张量维度变换与 einopsPart 2: 嵌入层 (Embedding Layer) 的本质纯粹的复健流程很久没有摸过这些库现在重新拾起来有点困难。00. PyTorch 热身# 导入所有必需的库importtorchimporttorch.nnasnnimporttorch.nn.functionalasFimporteinopsPart 1: 张量维度变换与einopsdeftensor_warmup(x:torch.Tensor): 假设 x 是一批图像的特征 (例如在多模态大模型中)形状为 [batch_size, channels, height, width] 我们需要将其展平为序列 (Sequence)以输入给 Transformer。 目标形状: [batch_size, height * width, channels] # # TODO 1.1: 使用原生的 PyTorch 方法 (permute reshape/flatten) 完成变换# 提示: 先调整维度顺序再合并空间维度# # x_native ???x_nativex.permute(0,2,3,1)\.reshape(len(x),len(x[0][0][0])*len(x[0][0]),len(x[0]))[batch_size,channels,height,width]x.shape x_nativex.permute(0,2,3,1)\.reshape(batch_size,height*width,channels)# # TODO 1.2: 使用 einops.rearrange 优雅地完成完全相同的操作# 提示: 使用括号表示要合并的维度# # x_einops ???x_einopseinops.rearrange(x,b c h w - b (h w) c)returnx_native,x_einops# 来个单测看看tensor_atorch.randn(2,3,224,224)# print(tensor_a)print(tensor_a.shape)tensor_a_native,tensor_a_einopstensor_warmup(tensor_a)# print(tensor_a_native)print(tensor_a_native.shape)# print(tensor_a_einops)print(tensor_a_einops.shape)两个x_native的写法得到的结果都是一样的图片我就不贴两遍了但是显然可读性没有einops.rearrange()这种要好。Part 2: 嵌入层 (Embedding Layer) 的本质未完待续
RELATED

相关推荐

3分钟掌握Windows DLL注入:Xenos注入器完整指南

3分钟掌握Windows DLL注入:Xenos注入器完整指南

3分钟掌握Windows DLL注入:Xenos注入器完整指南 【免费下载链接】Xenos Windows dll injector 项目地址: https://gitcode.com/gh_mirrors/xe/Xenos Windows DLL注入是系统调试和软件扩展的核心技术,而Xenos注入器正是这一领域的专业工具。作为基…

📅 2026/9/17 0:53:19
AWS 注册页面打不开?跟着 NiceCloud 一步步排查

AWS 注册页面打不开?跟着 NiceCloud 一步步排查

不少人在注册 AWS 时,都会碰到 AWS 注册页面打不开 的情况。第一反应往往是:“是不是 AWS 官网出问题了?”或者“是不是我网络不行?”但从实际经验来看,AWS 注册不了、注册失败,通常并不是某一个单独原因导…

📅 2026/9/15 4:28:10
多对象图像生成技术:复杂场景构图与AI绘画实践指南

多对象图像生成技术:复杂场景构图与AI绘画实践指南

这次我们来看一个名为"这里站不下这么多龙"的项目,从标题来看这应该是一个与图像生成或AI绘画相关的技术项目,可能涉及多对象生成、场景构图或角色管理能力。这类项目通常关注的是在有限空间内如何合理安排多个元素,特别是当涉及复…

📅 2026/10/31 21:34:22
MORE NEWS

更多资讯

📰

vcpkg环境配置

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

【大模型应用开发极简入门】其他OpenAI API和功能:embedding(文本之间的向量相关性)、Moderation(内容审核模型)、Image generation

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

BFS-Best-Face-Swap快速入门:10分钟搭建你的第一个AI换脸工作流

BFS-Best-Face-Swap快速入门:10分钟搭建你的第一个AI换脸工作流 BFS(Best Face Swap)是基于Qwen Image Edit 2509/2511和Flux 2 Klein系列模型开发的AI换脸工具,通过LoRA技术实现高保真度的面部和头部替换,同时保持自然…

📰

【大模型应用开发极简入门】agent之前:Function Calling:将自然语言转换为API调用或数据库查询

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

【线性代数】第四章-n维向量:向量、向量组、线性表出、极大无关组与向量组的秩等

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

网络编程基础(二):TCP/IP协议基础:TCP信息头、TCP状态机与握手/挥手、TCP的粘包和粘包、SYN超时与SYN Flood攻击、TIME_WAIT

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬