跳到正文
今天11月20日周五3 条
  1. InfoQ 中文55

    红帽谈企业 AI 落地难题:模型频繁换代、Token 成本与 Agent 权限治理

    红帽全球副总裁兼大中华区总裁曹衡康指出,企业刚把模型接入业务,市场上就出现表现更好的新模型,CIO 面临是否重搭环境的抉择。红帽以支持 20 多个开源模型、合计 700 多个版本的平台应对模型换代,并推进 vLLM 与 llm-d 分布式推理;llm-d 于 10 月 20 日发布 1.0 版本,补齐多租户资源管理、请求优先级调度与面向 Agent 工作流的会话感知路由。

11月19日周四
  1. 开源中国资讯78

    腾讯开源 Hy4 flash:220B 总参数、12B 激活,单任务成本降至 Hy4 的 1/20

    腾讯宣布开源 Hy4 flash,总参数 220B,每个 token 只激活 12B。混元团队称其为迄今最具成本效益的 Hy 模型,单任务平均成本只有 Hy4 的 1/20、DeepSeek-V4.1-Flash-1017 的 1/8。相比上一代 Hy4,该模型在结构上改了三处。

    推荐理由:腾讯开源 Hy4 flash,给出 220B 总参数、12B 激活和单任务成本对比,可据此判断稀疏模型的成本取舍。

  2. 量子位70

    范式智能发布 Phai-A1 与 Phai-M1 双模型,全链路基于华为昇腾训练

    范式智能(原第四范式)首次发布自研基座模型 Phai-A1 和 Phai-M1,两款模型全链路在华为昇腾平台上完成训练。Phai-A1 面向代码开发和智能助手场景,官方称同等质量下响应速度比同参数级别模型快约 8-10 倍,单张 RTX 3090 即可运行,并具备原生百万级上下文;Phai-M1 面向真人影视场景,音画同步,约 3 分钟生成 15 秒 720P 视频。

  3. 雷峰网58

    西湖大学于开丞谈世界模型:语言模型替代不了物理世界

    西湖大学助理教授于开丞在访谈中表示,通用语言模型无法直接替代世界模型,因为语言模型光推理就要两三秒,机器人实时控制等不起。他2023年从自动驾驶数据成本困境切入世界模型,走隐空间路线,团队40亿参数的通用世界模型Awomo-0.5在Physics-IQ、RoboTwin-c2r、MolmoSpaces、RoboDojo Sim等六个评测榜单登顶并开源代码权重。

11月18日周三
11月17日周二
11月16日周一
  1. Ollama 博客58

    Together AI 与 Ollama 解析开放模型如何支撑长程智能体负载

    Together AI 的 Parth Sareen 与 Zain Hasan 撰文解析长程智能体负载下的前缀缓存问题,指出智能体每轮输入长、输出短,缓存命中决定长会话的速度与成本。文章从 harness 与推理引擎两端给出做法,包括工具定义后置加载、系统提示词保持稳定、截断工具输出时说明范围、子智能体按需继承上下文,以及按前缀哈希路由请求、空闲时把缓存卸载到 CPU 内存。

11月14日周六
11月13日周五
11月4日周三
10月31日周六
  1. Interconnects40

    我对开源模型与网络安全风险的判断错了吗?

    作者复盘自己此前"开源权重模型不会造成灾难性网络安全风险"的判断,认为GLM-5.3才是真正跨过能力门槛的模型,其权重发布一个多月后公开证据显示影响有限。他援引Epoch AI用GLM-5.3在Firefox中发现可利用漏洞的案例,指出单点漏洞需多环节配合才能造成实际危害。作者仍基本维持原判断,但承认"fine"一词低估了即将到来的软件行业被迫升级的成本与难度。

10月28日周三
10月16日周五
  1. Ollama 博客82

    Reflection 首个开放权重模型 Beam 上线 Ollama,限时免费

    Reflection 的首个开放权重模型 Beam 于 10 月 16 日正式发布,Ollama 作为 day-zero 合作伙伴限时免费提供。Beam 是 MoE 模型,总参数约 501B、每 token 激活 23B,上下文窗口 100 万 token,面向软件工程、推理和长程智能体任务,采用 Apache 2.0 许可。

    推荐理由:Reflection 首个开放权重模型 Beam 的参数规模、上下文窗口和 Apache 2.0 许可,可供判断其面向编码与长程智能体任务的定位。

9月28日周一
  1. Mistral AI40

    Mistral 在慕尼黑开设德国中心,推进工业 AI 与 Physics AI

    Mistral 在慕尼黑开设德国中心,组建专注 Physics AI 与工业 AI 的研究团队,并直接服务企业客户。该中心与 BMW 合作碰撞仿真、与 Siemens Energy 合作工业 AI 应用,并与慕尼黑工业大学(TUM)共建汽车空气动力学数字孪生研究。Mistral 计划到 2030 年建成 1 吉瓦欧洲算力,其开放权重模型可部署在客户自有基础设施上。

9月16日周三