Together AI 博客·· 16 天前精选AI 评分78
Together AI 发布 Together Compiler,用智能体持续编译优化推理
Together Compiler: Continual Compilation for AI inference
AI 导读
Together AI 发布 Together Compiler(TKCC),用高吞吐智能体在不到 24 小时内为不同推理负载自动生成优化,在 Kimi K3、GLM 5.3、MiniMax M3.1-Flash、DeepSeek v4.1-Flash 上实现最高 2.6x 的 TPS 提升。
推荐理由
原文给出 TKCC 在多个前沿开源模型上的吞吐提升与基准结果,可了解推理编译自动化的实际收益。
来源:Together AI 博客 · together.ai