尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
HTTP 分段下载的 5 个坑:Range、断点续传、并发写同一个文件
最近在折腾分段下载把踩过的坑整理一下给后来的人省点时间。### 一、Range 不是所有服务器都认普通请求是整包给GET /file.zip HTTP/1.1Host: example.com要分段就得带 RangeGET /file.zip HTTP/1.1Host: example.comRange: bytes1048576-服务器支持的话返回 206 Partial Content并且带 Content-Range 告诉你这段在文件里的位置和总长Content-Range: bytes 1048576-10485759/10485760探测只需要一个字节bashcurl -sI -H Range: bytes0-1023 https://example.com/file.zip | head -3# 支持 → HTTP/1.1 206 Partial Content# 不支持 → HTTP/1.1 200 OK返回 200 的站只能整包下别浪费时间。### 二、别信 Content-Length遇到过一台服务器头部写 9.4MB实际只发 9.1MB 就关连接。程序认为下载完成实际文件是截断的。所以每个分片下完都要比对实际字节数少了就重试**这一片**而不是整包重下javascriptconst expect part.to - part.from 1 - part.got;if (buf.length ! expect) {if (buf.length 0) {await fh.write(buf, 0, buf.length, part.from part.got);part.got buf.length;}throw new Error(short: buf.length / expect);}上层捕获到 short: 就把这片放回队列其它错误才退避重试。### 三、分片数 ≠ 并发数一开始按 4MB 切片20G 的文件切成 5000 片然后想开 5000 并发。结果 IP 被限流比单线程还慢。正确的做法是片切细决定并行粒度worker 数量固定决定同时开几条连接javascriptasync function runPool(parts, workers, worker) {let cursor 0;const runners Array.from({ length: workers }, async () {while (cursor parts.length) {const part parts[cursor];if (part.got part.to - part.from 1) continue;try { await worker(part); }catch (e) {if (!/^short:/.test(e.message)) {parts.push(part);await new Promise((r) setTimeout(r, 500));}}}});await Promise.all(runners);}8~16 个 worker 一般比较稳再多容易触发单 IP 限制。### 四、并行写文件千万别用 append这是我犯过最蠢的错。多个分片并行下载用 appendFile 写等于按到达顺序拼接 —— **文件大小对字节顺序全乱**。校验能过打开报错。正解是打开一次文件句柄每片带 position 写javascriptconst fh await open(tmpPath, r); // r 不能是 ww 会清空已下的内容await fh.write(buf, 0, buf.length, offset);### 五、进度状态要原子落盘直接 writeFileSync 覆盖进度文件断电就得到半个 JSONJSON.parse 抛错续传全废。用「临时文件 rename」javascriptawait writeFile(tmp, JSON.stringify(state), utf8);await rename(tmp, path); // 同分区是原子操作还有一步不能省**恢复时比对 ETag**。存的 ETag 和重新探测的不一致说明服务器上文件换了必须丢弃全部进度重下否则会得到「前半段旧文件 后半段新文件」这种垃圾。### 六、几个真实的服务器行为| 现象 | 原因 | 处理 ||---|---|---|| 返回 206 但内容是整包 | 服务器忽略 Range 仍回 206 | 比对 Content-Range 起点 || 下到一半卡死不动 | 连接空闲超时不报错不断开 | 加读超时超时重连同一片 || 开 64 条被拒 | 单 IP 并发限制 | 降到 8失败指数退避 || 只有 md5 没有 sha256 | 站点只给 md5 | 校验层支持多种没值就比字节数 |---不知道有没有人也遇到过「206 但其实给了整包」这种情况我遇到两三个站是这样一直没搞清是 CDN 的锅还是源站配置问题。有知道的可以说说。------【上面这些坑都是我真实踩过的写法各有取舍按你的场景选就行。】有坑直接评论区说我一条条看。
RELATED

相关推荐

结合之前对单元测试和集成测试的关注,从“优秀开源项目源码”这个角度切入,可以重点关注两类:一是测试实践本身很出色的项目,二是架构设计值得学习、适合用测试去理解的项目

结合之前对单元测试和集成测试的关注,从“优秀开源项目源码”这个角度切入,可以重点关注两类:一是测试实践本身很出色的项目,二是架构设计值得学习、适合用测试去理解的项目

结合之前对单元测试和集成测试的关注,从“优秀开源项目源码”这个角度切入,可以重点关注两类:一是测试实践本身很出色的项目,二是架构设计值得学习、适合用测试去理解的项目。 下面整理了一些在 C#/.NET 生态中公认度高、且对学习…

📅 2026/10/29 11:00:13
【赵渝强老师】高斯数据库(openGauss)的控制文件

【赵渝强老师】高斯数据库(openGauss)的控制文件

openGauss 数据库物理结构与控制文件说明 在 openGauss 数据库集群初始化时会创建数据目录,一般通过环境变量 $PGDATA 指向该目录。数据库初始化完成后,会在此目录下生成各类子目录与数据文件。 openGauss 存在对应的物理结构示意图(原文附图…

📅 2026/10/29 11:00:13
第7讲:HID 设备——做一个键盘或鼠标

第7讲:HID 设备——做一个键盘或鼠标

本讲目标 理解 HID 为什么通常可以使用系统通用驱动,认识 Report Descriptor,并了解键盘和鼠标的基本报告格式。 一、HID 为什么通常不需要专用驱动? HID 的全称是 Human Interface Device,即人机接口设备。 常见的 HID 设备包括键…

📅 2026/10/29 11:00:13
MORE NEWS

更多资讯

📰

ZLM WebRTC播放配置避坑与QoS调优实战

流媒体这块折腾久了,你会发现一个规律:点播跑得再顺,一到实时播放就原形毕露。ZLM 这套流媒体服务在安防、教育、直播回传这些场景里用得很多,HTTP-FLV、HLS 这些协议基本开箱即用,但一提到 WebRTC 播放,很…

📰

DeepSeekMoE:混合专家模型的专业化突破与实践

1. DeepSeekMoE论文核心价值解析 这篇名为《DeepSeekMoE: Towards Ultimate Expert Specialization in Mixture-of-Experts Language Models》的论文,本质上是在探索如何让混合专家模型(MoE)中的每个子专家网络达到极致的专业化程度。当前主流的大语言模型虽然采用了…

📰

BIP39 助记词生成原理:从熵、校验和到 2048 词表索引映射

简介:面向imToken及区块链钱包使用者的英文助记词查询校对文档,聚焦助记词备份、恢复与拼写核对场景,适合需要确认单词拼写、排查记录误差或整理易混词的用户参考。压缩包内共1个doc文件,约166KB,集中收录2048个英文助…

📰

AI智能体开发:系统化学习路线与核心技术栈解析

1. 为什么需要AI智能体学习路线? 去年我在帮一个创业团队搭建AI客服系统时,发现一个有趣现象:团队里有三位工程师同时开始学习AI智能体开发,但三个月后他们的学习效果天差地别。一位专注工具链的工程师很快做出了demo但无法解决实…

📰

SketchUp参数化坯子插件库:建筑构件的工程化建模中枢

1. 项目概述:为什么“坯子插件库”成了SketchUp建模者的隐形加速器你有没有过这样的经历:刚打开SketchUp,画完墙体、铺好地板,正准备加门窗,突然卡在窗框厚度怎么设才不穿模;或者做室内方案时,反…

📰

从词法分析到三地址码:小型编译器的链路与避坑

简介:面向计算机专业编译原理课程设计与实验环节的配套资料包,适合正在完成词法分析、语法分析及小型编译器实现的学生参考。内容围绕词法分析器、LL(1)文法分析简单语句(如 ii*i)、LR(0)与SLR(1)语法分析、四元式生成和汇编代码生…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬