跳到正文
11月19日周四
  1. AWS Machine Learning Blog58

    Airbnb 如何用每次任务成本在 Amazon Bedrock 上运营编码智能体

    Airbnb 分享了在 Amazon Bedrock 上运营编码智能体的方法:上线前用自有任务评测每个模型的得分和每次任务成本,据此设定默认模型与推理强度上限,上线后用 CloudWatch 指标和网关用量记录对比生产表现。文中提到一个评测得分领先的模型上线后,用户周均花费是上一模型的数倍,原因是缓存上下文被反复读取且用户发起了更长的自主会话;换到新模型后该群体主模型花费降至约七分之一。

  2. LangChain 博客60

    LangSmith 为编码智能体推出按产出追踪花费功能

    LangSmith 推出面向编码智能体的花费追踪功能,把每次 trace 的花费自动归因到智能体贡献的 pull request 上,并汇总到统一的编码智能体总览页。

    推荐理由:原文把编码智能体的花费与合并 PR 挂钩,并给出按模型、技能和线程长度拆解成本的具体视图。

11月18日周三
10月13日周二