Retell 借助 OpenAI 模型支持每月 1 亿次通话

Retell AI⁠（在新窗口中打开） 是面向联络中心运营的语音 AI 平台，帮助企业构建智能体，用于解答问题、执行操作，并在需要时将来电者转接至人工客服。该平台目前服务于 4,000 多家企业，月通话量从 2026 年初的 3,000 万次增长至 9 月的 1 亿多次。

随着 Retell 服务的企业越来越多、工作流日趋复杂，它借助 OpenAI 模型保持高水平的通话质量和可靠性。如今，Retell 平台上 80% 的通话由 OpenAI 模型生成回复，客户的问题解决率超过 80%。Retell 在各款 OpenAI 模型上的 token 累计消耗量也已超过 1 万亿，体现了其应用规模。

Retell 的工程师在整个开发过程中使用 Codex，从研究不熟悉的代码到构建功能、调试问题，并使用 GPT‑6 Astra 测试前端界面。

即使对话不断变化，企业语音智能体也必须遵守公司政策，并始终在被赋予的职责范围内行事。Retell 构建了 vCX 基准测试，利用来自真实生产场景的高难度多轮对话，对数十款模型进行比较。

这项测试评估模型能否遵循指令、依据所提供的信息作答、调用正确的工具，并使用自然的对话语言。在 Retell 于 2026 年 10 月 13 日进行的基准测试中，GPT‑6 Astra 以 89.7% 的指令遵循率排名第一。

Retell 还分享了在 GPT‑6 Astra 模型发布前开展的评估。结果显示，启用推理后，GPT‑5.5 在无幻觉率（88.0%）和工具调用正确率（88.3%）两项指标上均排名第一，两项表现都优于 Gemini‑3.1‑Pro 和 Claude‑4.6。关闭推理后，它的无幻觉率依然领先。

Retell 表示，选择 OpenAI 模型的新客户都会继续使用这些模型。客户还可以通过 Realtime API 使用 OpenAI 实时模型，并将 OpenAI 文本转语音功能用作语音引擎。Retell 会在 OpenAI 新模型发布当天提供支持，并随着模型改进重新运行基准测试。

联络中心团队使用 Retell 设定智能体的业务背景、目标和规则。开发者还可以进一步配置工作流和集成。

通话期间，Retell 的执行框架会运行音频模型、跟踪对话，并控制智能体何时说话、倾听或应对打断。GPT‑6.1 Sol、GPT‑6 Astra 和 GPT‑5.5 等 OpenAI 模型会根据客户的指令和对话上下文生成回复，并发起工具调用请求。Retell 通过与客户系统的集成执行这些调用，并可将处理结果写回客户记录。

当需要人工判断时，语音智能体会向客服人员简要介绍相关背景，回答其追问，并在确认对方准备就绪后接通客户。通话结束后，Retell 使用 GPT‑5.6 Terra 分析转写文本，提取处理结果和其他数据。

Retell 表示，采用这一方式后，客户问题解决率超过了 80%。在电子产品公司 Anker，智能体负责美国和英国市场的一线售后支持，包括订单跟踪、保修查询和故障排查。Anker 报告的工单解决率为 80.4%，净推荐值（NPS）为 63。其团队还表示，智能体的语气、交流节奏和亲和力均达到了他们对人工客服的预期标准。

在 Pine Park Health，Retell 智能体负责预约提醒和主动预约安排，并将处理结果记入患者病历。该团队节省了相当于 2.1 个全职岗位的医疗助理工时，并将这些时间投入患者护理。在成功联系到患者的情况下，其预约智能体的预约成功率达到了 55.7%。

Retell 平台白天的流量可达到夜间低谷时段的 50 多倍。为帮助通话在需求高峰期也能保持及时响应，Retell 与 OpenAI 合作，使用由其客户共享的专用服务器。在 Retell 于 2026 年 10 月 13 日进行的基准测试中，GPT‑6 Astra 和 GPT‑6 Sol 的首句延迟中位数均为 883 毫秒，GPT‑5.6 Luna 则以 497 毫秒的成绩位居榜首。

OpenAI 的区域 API 端点允许开发者将流量路由至特定地理区域，帮助 Retell 缩短网络传输时间，并满足医疗保健、金融服务等行业客户的数据驻留要求。

Retell 还在服务的每一层都设置了冗余机制。除了运行自有的电话通信技术栈，Retell 还准备了可随时接管的备用技术栈，并为语音和模型服务配置了备份，以便在服务发生故障时帮助维持通话。

随着 Retell 的企业业务增长，定制工作流和集成的需求不断增多，其工程师经常需要处理代码库中不熟悉的部分。编写代码之前，他们会先向 Codex 提出总体需求。Codex 会梳理代码，结合实际数据进行核查，并说明需要做哪些修改。一位工程师表示，Codex 在这类研究工作上比他做得更好，速度也快得多。

工程师们表示，在实现过程中，Codex 经常能发现他们未曾考虑到的细节。调试时，Codex 会将日志、数据库记录与代码交叉比对，查明问题所在。在协助客户基于 OpenAI 模型开发应用时，Retell 的工程师也会使用 Codex 加快工作，例如编写指令，引导模型在客户应用中作出恰当的回复。

Retell 依靠 GPT‑6 Astra 的计算机使用能力来测试网页界面的改动。当工程师发起前端 pull request 时，GPT‑6 Astra 会打开界面，逐项点击操作，测试各个流程，尝试触发异常，并报告发现的问题。Retell 表示，早期模型无法可靠地完成这项工作。

Retell 仍在持续招聘，但工程团队已无需与业务保持同等的扩张速度。Retell 报告的人均年化营收达到 160 万美元。

每家企业都知道自己希望如何服务客户。Retell 的目标是让最熟悉这些工作的人直接运用自身经验：借助先进的语音 AI，以及支持构建、测试和改进自有智能体的平台，将经验付诸实践。接下来，Retell 计划拓展质量保障和仿真测试能力、支持更多语言，并开发知识库自动学习功能。

随着 OpenAI 模型不断进步，Retell 期待其客户能够按自己的方式，为数百万来电者提供世界一流的服务。

“没有谁比企业自身更了解它的客户。我们让企业能够将这些专业经验付诸实践，直接改进 AI 智能体。目标是让企业组建自己的内部工程师团队，在内部落地，全面负责和运营这套系统。”Bing 说道。