API实践第2篇-2 细读超时与重试-北京尧图网络

第二篇超时和重试的细节AI接口超时和重试踩坑细节都在这了上一篇讲了三个基础配置这篇展开说超时和重试。一次请求涉及四种超时类型含义建议值连接超时 TCP TLS握手 5-10秒写入超时发送请求Body 10秒读取超时等待响应完成 60-300秒连接池超时等空闲连接 10秒最容易出问题的是读取超时。模型生成是逐Token的长回复需要几十秒。读超时小于生成时间客户端先断。重试的五个注意事项区分错误类型pythonRETRYABLE {429, 500, 502, 503, 504}if status in RETRYABLE:retry()else:raise # 400/401/403不重试2. 不要立即重试至少等1秒给上游恢复时间。设上限最多三次超过就放弃并记日志。注意重复计费对话接口不幂等。重试一次多扣一次费。所以429/503要退避——上游可能已经处理了请求只是响应丢了。加随机抖动pythonwait (2 ** attempt) random.uniform(0, 1)避免多个客户端同时重试造成二次冲击。完整实现pythonimport timeimport randomimport logginglogger logging.getLogger(name)class AIClient:RETRYABLE {429, 500, 502, 503, 504}MAX_RETRIES 3def __init__(self): self.client OpenAI( base_urlhttps://api.openstarry.com/v1, api_keysk-xxx, timeouthttpx.Timeout(connect10.0, read120.0) ) def chat(self, messages, modelglm-5.2): for attempt in range(self.MAX_RETRIES 1): try: return self.client.chat.completions.create( modelmodel, messagesmessages ) except Exception as e: status getattr(e, status_code, None) if status not in self.RETRYABLE or attempt self.MAX_RETRIES: raise wait (2 ** attempt) random.uniform(0, 1) logger.warning(f重试 {attempt1}/{self.MAX_RETRIES}等待{wait:.1f}s) time.sleep(wait)我用国内聚合服务OpenStarry兼容OpenAI格式API可以先把代码跑通。

API实践第2篇-2 细读超时与重试

相关推荐

中国商业航天2026中场战事：半年融资151亿、15家企业冲IPO

API实践第一篇：三个配置解决大部分调用问题无标题】

我的VB Coding之路 - AI编码实战演进

更多资讯

工地太忙根本没时间复习考试？德国电工证办理流程保姆级教程来了

高压电工作业的视频2026河南最新政策下怎么考更靠谱

电工证经贸委证怎么转异地郑州报考避坑指南

宁养俊电工证多久拿证？怕考不过白交培训费的看这篇

宁养俊电工证真实经历：实操考试心里没底怕挂科？过来人教你稳过

自贡哪里有办电工证多少钱低学历也能考的实操攻略

今日更新

高压电工证哪里可以挂多久拿证全攻略：实操考试心里没底怕挂科别慌

电工证的理论题目在哪考，外省证怎么转过来

工地太忙根本没时间复习考试，职业学校的电工证值不值得考？

本周精选

安监局电工证分数查询怎么查才能知道含金量高不高

新疆电工作业干活累吗良心建议助你避开考不过的坑

中牟县电工证怎么报名外省证能转吗

本月热门

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

基于DRV8818与STM32的双极步进电机驱动方案实战解析

DRV8818PWPR+PIC18F45K80双极步进电机控制方案实战

读完文章，想聊聊您的网站？