lithovas.
2026-08-14 · AI 资讯

OpenAI联手Cerebras推出Ultrafast模式,实现推理速度翻倍

OpenAI联手Cerebras推出Ultrafast模式,实现推理速度翻倍
OpenAI联手Cerebras推出Ultrafast模式,实现推理速度翻倍

OpenAI宣布与芯片厂商Cerebras深度合作,为其旗舰模型GPT-5.6Sol推出全新的“Ultrafast”(超快)运行模式。在该模式下,模型处理速度较标准版本提升了14倍,每秒输出标记数最高可达750个。

这一突破性进展有效缓解了企业在应用大型模型时面临的“响应延迟”困境。过去,实时响应场景往往被迫降级使用参数更小、智能水平较低的模型,而Ultrafast模式的出现,让GPT-5.6Sol能够无缝接入金融、客服及复杂工作流等对时效性要求极高的场景中。

目前该功能处于预览阶段,优先向特定企业客户开放。此次技术合作不仅体现了硬件算力与大模型算法的深度联动,也标志着行业正从过去的高延迟离线推理,向高吞吐量的实时交互形态迈进,将深刻改变企业级AI的落地与应用体验。