当前位置:首页 > 文章列表 > 科技周边 > 人工智能 > Go 接 Responses API background mode:轮询异步任务、状态与数据保留边界

Go 接 Responses API background mode:轮询异步任务、状态与数据保留边界

来源:17golang原创 2026-07-24 14:20:27 0浏览 收藏

线上报告生成这类接口最容易踩的坑,就是把动辄要跑好几分钟的模型请求当成普通短查询来处理:Go 服务这边一直占着连接不放,网关先一步超时断开了,后台模型任务反倒还在继续跑。Responses API 的 background mode 刚好适配这类长任务,把整个流程拆成「提交一次、拿到响应 ID、后续查询状态」的逻辑,但它本身不是消息队列,也不会自动帮你完成业务侧的重试、权限校验和结果落库。

要点速览

  • 提交请求时开启 background mode,接口会先返回一个可用于后续查询的 response ID。
  • 轮询过程要识别 queued、in_progress、completed、failed、cancelled 等全量状态,不能只通过 HTTP 200 就判断任务完成。
  • 任务状态标记为完成后再读取 output 字段,把 response ID、请求 ID 和业务任务号一起存入数据库。
  • 后台模式会为轮询临时暂存响应数据,涉及敏感内容时要先核对对应项目的数据保留规则。

先把“长请求”改成两段式流程

假设后台有个「根据本周工单自动生成复盘报告」的功能。用户点击生成按钮后,前端不用一直等到模型把全文写完,只要提示“任务已受理”,后续每隔几秒查询一次本地业务任务表就行。

这里要把两个 ID 区分开:业务侧的 task_id 负责让用户定位找回自己的任务,OpenAI 返回的 response_id 负责后续查询模型任务进度。不要直接把后者直接传给浏览器当业务凭证,也不要默认它是永久有效的。

提交 Responses API 后台任务,Go 服务拿到 response ID 并返回业务任务号的工程证据图

官方对 background mode 的定位就是处理耗时可能达到数分钟的复杂任务,调用方既可以轮询对象状态,也可以用流式事件同步任务进度。对绝大多数用 Go 写的后台管理系统来说,先从轮询方案入手更容易落地:接口逻辑简单,任务状态全链路可审计,就算中间网关超时也不会打断已经提交的模型任务。

Go 请求体只放必要的异步开关

下面用标准库 net/http 演示最小化提交代码。示例里特意把 API 密钥放在环境变量中,生产环境建议从密钥服务或者容器注入,不要直接硬编码写进配置文件。

type createResponseRequest struct {
    Model     string `json:"model"`
    Input     string `json:"input"`
    Background bool   `json:"background"`
    Store     bool   `json:"store"`
}

type responseObject struct {
    ID     string `json:"id"`
    Status string `json:"status"`
    Error  *struct {
        Message string `json:"message"`
    } `json:"error"`
}

func submitBackground(ctx context.Context, apiKey string) (responseObject, error) {
    body := createResponseRequest{
        Model: "o3",
        Input: "根据工单摘要生成一份内部复盘报告,保留事实和风险项。",
        Background: true,
        Store: true,
    }
    raw, err := json.Marshal(body)
    if err != nil {
        return responseObject{}, err
    }

    req, err := http.NewRequestWithContext(ctx, http.MethodPost,
        "https://api.openai.com/v1/responses", bytes.NewReader(raw))
    if err != nil {
        return responseObject{}, err
    }
    req.Header.Set("Authorization", "Bearer "+apiKey)
    req.Header.Set("Content-Type", "application/json")

    resp, err := http.DefaultClient.Do(req)
    if err != nil {
        return responseObject{}, err
    }
    defer resp.Body.Close()
    if resp.StatusCode = 300 {
        return responseObject{}, fmt.Errorf("submit status: %s", resp.Status)
    }

    var out responseObject
    if err := json.NewDecoder(resp.Body).Decode(&out); err != nil {
        return responseObject{}, err
    }
    if out.ID == "" {
        return responseObject{}, errors.New("missing response id")
    }
    return out, nil
}

这里的核心不是把请求体写得有多复杂,而是要第一时间存好返回的 id。提交接口返回成功只能代表异步任务对象创建成功,不能直接判定报告已经生成。如果提交返回 429、401 或者 5xx 这类错误,要结合响应头和业务幂等键做对应处理,不能用户多点一次按钮就无条件创建第二个重复任务。

轮询时先看状态,再读取输出

轮询接口全程用同一个 response ID 调用就行。建议给每个业务任务设置明确的超时截止时间,比如最多等8分钟;轮询间隔从2秒起步,逐步拉长到8秒,避免任务高峰期瞬间发起大量无意义的查询压到上游接口。

func waitForResponse(ctx context.Context, apiKey, responseID string) (responseObject, error) {
    delay := 2 * time.Second
    deadline := time.NewTimer(8 * time.Minute)
    defer deadline.Stop()

    for {
        current, err := getResponse(ctx, apiKey, responseID)
        if err != nil {
            return responseObject{}, err
        }
        switch current.Status {
        case "completed":
            return current, nil
        case "failed", "cancelled", "incomplete":
            if current.Error != nil {
                return responseObject{}, fmt.Errorf("response %s: %s", current.Status, current.Error.Message)
            }
            return responseObject{}, fmt.Errorf("response %s", current.Status)
        case "queued", "in_progress":
            // 继续等待;业务表中同步写入最近一次状态。
        default:
            return responseObject{}, fmt.Errorf("unknown response status: %s", current.Status)
        }

        timer := time.NewTimer(delay)
        select {
        case 

实际项目里的 getResponse 只需要做 GET 请求、鉴权和 JSON 解码逻辑,最好把服务端返回的 status 原样写入 ai_tasks.last_status。这样用户端展示的是“排队中”“处理中”还是“生成失败”都清晰明了,运维排查问题的时候也能直接看到任务卡在哪一步。

Go 轮询 Responses API 状态,从 queued 和 in_progress 到 completed 后读取结果的工程证据图

completed 之后还要核对结果和业务归属

状态变成 completed 之后,再去读取 output 字段的内容。读完输出不代表可以直接展示给用户,报告生成这类场景至少要做几层校验:response ID 是否归属于当前业务任务、输出内容是否为空、模型返回的拒答或者错误结构有没有被正常处理。

一套实用的落库字段参考如下:

task_id          varchar(64)   -- 业务任务号
response_id      varchar(128)  -- Responses API 返回的 ID
request_id       varchar(128)  -- 响应头中的请求追踪号
last_status      varchar(32)
result_text      mediumtext
fail_reason      varchar(255)
deadline_at      datetime
finished_at      datetime

消费最终结果的时候要用数据库条件更新逻辑,比如只允许 queued 或者 in_progress 状态的任务流转成 completed。这样定时补偿任务和用户手动刷新同时触发的时候,只有一个流程能把最终报告写入数据库,避免出现多份重复数据。

后台模式和数据保留不是一回事

background=true 解决的是连接时长和任务状态同步的问题,不直接等同于隐私合规策略。官方数据控制说明里提到,Responses API 的后台模式会把响应数据暂存一段时间支撑轮询,文档标注的时长大约是10分钟;这个临时存储和普通请求的存储设置、项目级的数据控制开关是互相独立的两套逻辑。

如果输入内容里包含客户工单、手机号或者内部故障细节,要先做内容最小化处理:删掉不需要的个人敏感字段,单独维护业务任务和模型响应的关联关系,确认组织是否已经开启 Zero Data Retention 策略,以及当前规则是否允许使用后台模式。不要仅凭 store=false 就给业务方承诺“完全不会留存任何内容”。

常见问题:超时、重复任务和状态误判

提交接口超时,任务到底有没有创建?

网络超时不能直接断定服务端没有收到请求。要给业务任务绑定独立的幂等键,记录本地提交时间,后续链路可查询时再根据 response ID 或者业务侧状态做补偿核对。没有做幂等设计的情况下,自动重试很容易生成两份完全重复的报告。

轮询拿到 200,为什么页面还是不能展示?

HTTP 200 只代表查询接口本身正常返回,真正决定任务结果的是返回 JSON 里的 status 字段。queued 和 in_progress 都属于还在等待的状态,failed 和 cancelled 要展示可重试或者引导人工处理的提示,只有 completed 状态下才能进入 output 解析流程。

超过截止时间要不要一直查?

不需要。到达预设的业务截止时间后,直接把任务标记为“待补偿”,停止前端侧的轮询;后台的补偿调度器可以用更长的间隔再试查一次。要是报告已经生成,补偿器负责把结果落库;如果多次查询还是失败,就保留错误原因和 request ID 留作后续排查。

小结:把模型调用当作可观测任务

Go 接入 Responses API background mode 的核心逻辑只有三步:提交请求时拿到 response ID,按状态机规则做轮询,任务完成后核对 output 结果再落库。真正决定线上系统稳定性的,是业务任务号、幂等键、截止时间、状态机逻辑和数据保留规则这些细节。把这些边界补全之后,模型长任务就不会再绑架用户的请求连接,也不会因为一次200响应就被误判为已经执行完成。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Go http.Client 重试 POST 时 Body 变空:GetBody 与请求体复用的正确姿势Go http.Client 重试 POST 时 Body 变空:GetBody 与请求体复用的正确姿势
上一篇
Go http.Client 重试 POST 时 Body 变空:GetBody 与请求体复用的正确姿势
Go clear 怎么用:map 和 slice 清空后的容量、引用与复用边界
下一篇
Go clear 怎么用:map 和 slice 清空后的容量、引用与复用边界
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • ljg-skills -
    ljg-skills
    ljg-skills 是李继刚开源的 AI 技能与提示词集合,面向大模型使用者整理了一批可复用的 prompt、角色设定和任务技能模板,适合用于学习提示词设计、搭建个人 AI 工作流和沉淀团队常用智能体能力。
    4665次使用
  • MELO音乐 - AI 音乐生成平台,支持多模态创作能力
    MELO音乐
    MELO音乐是一站式AI视频与音乐制作助手,对标suno, udio的高品质体验。提供伴奏生成、原创写词、无损导出、哼唱识曲、混音变声等全套音频与短视频编辑工具。无论是流行Kpop、电音说唱、民谣古风、摇滚儿歌还是商用轻音乐,MELO为你免费谱曲,轻松做同款!
    4274次使用
  • UniScribe - AI 免费在线音视频转文字平台
    UniScribe
    UniScribe 是一款 AI 音视频转文字与内容整理工具,支持上传音频、视频文件或粘贴 YouTube 链接,自动生成转写文本、摘要、思维导图和关键问题,并支持多格式导出,适合会议记录、课程学习、访谈整理和内容创作复盘。
    4231次使用
  • 剧云 - 免费 AI 智能中文剧本创作平台
    剧云
    剧云是专业中文剧本创作平台,安全稳定运行十余年,集成AI编剧、剧本医生审核、人物小传、剧情关系图、大纲编写、多人协作、Word导入导出、版权管控功能,数据安全防护,轻松高效创作剧本。
    4451次使用
  • 万象有声 - AI 一站式有声内容创作平台
    万象有声
    万象有声,一个专为有声创作者打造的新一代智能有声内容创作平台。平台提供专业的智能拆章、智能画本编辑、AI配音、AI生成音效、后期制作、智能对轨、智能审听等有声创作全流程工具,可以帮助创作者高效、低成本创作出引人入胜的有声作品。立即体验,让有声书制作更简单!
    4411次使用
查看更多
相关文章
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码