跳到正文
11月19日周四
11月17日周二
11月16日周一
  1. Ollama 博客58

    Together AI 与 Ollama 解析开放模型如何支撑长程智能体负载

    Together AI 的 Parth Sareen 与 Zain Hasan 撰文解析长程智能体负载下的前缀缓存问题,指出智能体每轮输入长、输出短,缓存命中决定长会话的速度与成本。文章从 harness 与推理引擎两端给出做法,包括工具定义后置加载、系统提示词保持稳定、截断工具输出时说明范围、子智能体按需继承上下文,以及按前缀哈希路由请求、空闲时把缓存卸载到 CPU 内存。

11月4日周三
10月16日周五
  1. Ollama 博客82

    Reflection 首个开放权重模型 Beam 上线 Ollama,限时免费

    Reflection 的首个开放权重模型 Beam 于 10 月 16 日正式发布,Ollama 作为 day-zero 合作伙伴限时免费提供。Beam 是 MoE 模型,总参数约 501B、每 token 激活 23B,上下文窗口 100 万 token,面向软件工程、推理和长程智能体任务,采用 Apache 2.0 许可。

    推荐理由:Reflection 首个开放权重模型 Beam 的参数规模、上下文窗口和 Apache 2.0 许可,可供判断其面向编码与长程智能体任务的定位。

9月28日周一
  1. Mistral AI40

    Mistral 在慕尼黑开设德国中心,推进工业 AI 与 Physics AI

    Mistral 在慕尼黑开设德国中心,组建专注 Physics AI 与工业 AI 的研究团队,并直接服务企业客户。该中心与 BMW 合作碰撞仿真、与 Siemens Energy 合作工业 AI 应用,并与慕尼黑工业大学(TUM)共建汽车空气动力学数字孪生研究。Mistral 计划到 2030 年建成 1 吉瓦欧洲算力,其开放权重模型可部署在客户自有基础设施上。

9月16日周三