跳到正文
今天11月20日周五2 条
  1. InfoQ 中文55

    红帽谈企业 AI 落地难题:模型频繁换代、Token 成本与 Agent 权限治理

    红帽全球副总裁兼大中华区总裁曹衡康指出,企业刚把模型接入业务,市场上就出现表现更好的新模型,CIO 面临是否重搭环境的抉择。红帽以支持 20 多个开源模型、合计 700 多个版本的平台应对模型换代,并推进 vLLM 与 llm-d 分布式推理;llm-d 于 10 月 20 日发布 1.0 版本,补齐多租户资源管理、请求优先级调度与面向 Agent 工作流的会话感知路由。

11月19日周四
  1. 雷峰网62

    黄仁勋去留未定,中国GPU采购商不敢下单期货

    黄仁勋辞任与复职传闻反复之际,深圳GPU采购商表示已不敢订期货,国内英伟达高端GPU渠道持续收窄。报道称单台B300国内现货价已炒至约2200万元,海外转运与租算力两条路分别受海关查扣和1200万TPP许可门槛限制。受访者认为国产GPU短期难接住需求,训练端仍依赖英伟达,推理端则受HBM成本制约。

  2. 爱范儿62

    即梦 Seedance 2.5 推出 4K 版本,支持 30 秒单次生成与六种画幅

    即梦 Seedance 2.5 推出 4K 版本,把最长 30 秒单次生成、全模态参考、视频编辑与延长等能力提升到 4K 画质规格。4K 模式支持 10bit BT.709 色彩格式和六种画幅输出,作者在品牌 TVC、电商素材、影视预演和线下大屏四类场景中做了实测。文章还提到 Seedream 5.5、Seedance 2.5 Flash 以及面向企业团队的即梦企业解决方案。

  3. InfoQ 中文50

    腾讯轻量云 LoopForge 如何让 AI 从“能写代码”走向“能交付”

    腾讯轻量云专家江露在 AICon 北京站分享中介绍了 LoopForge 的云端 Loop 实践:用 DAG 定义的可执行 SOP 约束多 Agent 协作,由程序负责状态流转与交接,Agent 只在节点内完成分析、设计和实现。团队将评审与测试角色同实现角色隔离,并建立五道质量门禁,强调“独立的预期 + 可复现的运行事实”。她认为只有合入并通过验收才算真正完成交付。

  4. InfoQ 中文76

    腾讯混元 Hy4 flash 发布,上线首日登顶 OpenRouter 日榜

    腾讯混元发布轻量模型 Hy4 flash,上线首日 Token 调用量突破 50 万亿,登顶 OpenRouter LLM 日排行榜。该模型总参数 224B、激活参数 12B,支持多模态和 1M 上下文,每百万 Token 输入 0.5 元、输出 2 元,单任务成本 0.26 元。

    推荐理由:从价格、参数到架构与推理优化,原文给出了 Hy4 flash 压低单任务成本的完整路径,可对照理解轻量模型的降本方式。

  5. AWS Machine Learning Blog58

    Amazon SageMaker 推出 AI 数据准备能力,覆盖自动标注与合成数据生成

    Amazon SageMaker AI 新增 AI 数据准备能力,可通过 Python SDK API 和 AWS AI-ML agent skill 生成合成数据、评估并改进数据集,并把专家反馈纳入流程。能力包括自动标注、人工审核、合成数据生成、数据质量评估和数据转换,可单独使用或串联成从原始数据到训练的流程。这些能力已在美国东部(弗吉尼亚北部)和美国西部(俄勒冈)区域正式可用。

  6. AWS Machine Learning Blog43

    如何降低生成式 AI 成本:用代码处理规则,用模型处理判断

    AWS 提出按步骤判断生成式 AI 工作流是否需要调用模型:能用格式、schema、关键词或范围规则校验的步骤改用确定性代码,只有开放式任务才交给 Amazon Bedrock 上合适规模的模型。固定选项的路由与分类可用结构化输出的小模型或嵌入向量相似度完成,并对不确定结果做置信度升级。文章称多余模型调用会推高成本、叠加数百毫秒延迟并带来输出波动。

  7. 少数派58

    浅评 macOS 27.3 新版权限控制机制

    macOS 27.3 Beta 2 调整隐私授权,完全磁盘访问权限新增仅授权特定受保护文件夹的选项,设备控制和数据访问拆分为辅助功能与绕过系统及应用保护两项。使用后者控制其他应用时,菜单栏会常驻蓝色透明度指示器,用户可限定具体目标程序并设为每次询问或随时允许。文章认为新机制给了用户更大权限收放余地,但确认流程繁琐、指示器功能有限,测试版中与 Safari 及 WebKit 交互等场景仍有问题。

  8. AWS Machine Learning Blog58

    Airbnb 如何用每次任务成本在 Amazon Bedrock 上运营编码智能体

    Airbnb 分享了在 Amazon Bedrock 上运营编码智能体的方法:上线前用自有任务评测每个模型的得分和每次任务成本,据此设定默认模型与推理强度上限,上线后用 CloudWatch 指标和网关用量记录对比生产表现。文中提到一个评测得分领先的模型上线后,用户周均花费是上一模型的数倍,原因是缓存上下文被反复读取且用户发起了更长的自主会话;换到新模型后该群体主模型花费降至约七分之一。

  9. LangChain 博客40

    LangSmith 上线 Alerts 告警功能,实时监控 LLM 应用故障

    LangSmith 推出 Alerts 功能,可基于错误率、运行延迟和反馈分数等指标设置告警,帮助在故障影响用户前发现 LLM 应用与智能体的问题。用户可对每类指标配置过滤器、5 或 15 分钟聚合窗口和阈值,并通过 PagerDuty 或自定义 webhook(如推送至 Slack)接收通知。已向 LangSmith 发送生产 trace 的用户即可配置首个告警。

  10. LangChain 博客60

    LangSmith 为编码智能体推出按产出追踪花费功能

    LangSmith 推出面向编码智能体的花费追踪功能,把每次 trace 的花费自动归因到智能体贡献的 pull request 上,并汇总到统一的编码智能体总览页。

    推荐理由:原文把编码智能体的花费与合并 PR 挂钩,并给出按模型、技能和线程长度拆解成本的具体视图。

11月18日周三
  1. LangChain 博客40

    如何为 AI 智能体选择合适的沙箱

    LangChain 博客发布指南,讲解如何为运行 AI 生成代码的智能体选择沙箱方案。文章提出评估沙箱的五项要点:隔离文件系统、受限网络访问、资源限制、可控复用性,以及与宿主机内核级隔离。文中还引用 Simon Willison 的“致命三要素”和 Meta 的“Agents Rule of Two”,指出沙箱可降低提示词注入带来的数据泄露风险。

11月17日周二
  1. NVIDIA Blog72

    NVIDIA Vera Rubin 首次亮相 MLPerf,横扫训练基准并在 Endpoints 领先

    NVIDIA Vera Rubin 平台首次参加 MLPerf 基准测试,在 MLPerf Training v6.1 的全部基准上均有结果,是本轮唯一覆盖所有基准的平台,其 NVL72 系统每 GPU 性能最高达 GB300 NVL72 的 2 倍。

    推荐理由:原文给出 Vera Rubin 在 MLPerf Training 与 Endpoints 的具体成绩和对比基线,可据此判断新一代平台的性能提升幅度。