字节跳动与清华AIR联手推出CUDA Agent，优化大模型代码生成效率

字节跳动Seed团队与清华大学智能产业研究院（AIR）正式发布CUDA Agent，这是一套旨在通过强化学习提升大模型编写GPU内核性能的系统。该研究解决了AI在底层代码优化领域长期存在的“生成代码虽正确但运行效率低”的瓶颈问题。

在性能表现上，CUDA Agent通过在真实开发环境中进行深度训练，显著提升了代码的运行速度。据基准测试显示，该系统在250个任务中，有96.8%的生成内核运行速度超越了传统的torch.compile，整体通过率高达98.8%，实现了从“会写代码”到“写出高性能代码”的跨越。

目前，研究团队已开源了CUDA-Agent-Ops-6K数据集及相关技术规范。虽然模型权重尚未公开，但这一进展对于人工智能基础设施、大模型推理服务及自动驾驶等对延迟要求极高的行业具有重要意义，标志着AI在底层算力优化方面迈出了坚实的一步。