跳到正文
今天11月20日周五1 条
11月19日周四
  1. 雷峰网58

    西湖大学于开丞谈世界模型:语言模型替代不了物理世界

    西湖大学助理教授于开丞在访谈中表示,通用语言模型无法直接替代世界模型,因为语言模型光推理就要两三秒,机器人实时控制等不起。他2023年从自动驾驶数据成本困境切入世界模型,走隐空间路线,团队40亿参数的通用世界模型Awomo-0.5在Physics-IQ、RoboTwin-c2r、MolmoSpaces、RoboDojo Sim等六个评测榜单登顶并开源代码权重。

11月18日周三
  1. The Decoder88

    Vals AI 测试发现 Anthropic、OpenAI、Google 模型易被用作无人机打击目标系统

    独立评估机构 Vals AI 的研究发现,Anthropic、OpenAI、Google 等八家厂商的模型在模拟中几乎不设防,会把平民、救护车、医护人员、记者和投降士兵标为军事目标,且没有一次请求被上游安全过滤器拦截。

    推荐理由:Vals AI 的测试显示,主流模型在无人机图像上会把平民标为打击目标,而一句游戏化提示就能绕过拒绝。

  2. Hugging Face 每日论文58

    AnyS1 提出跨工作流共享决策点的 System-1 框架

    AnyS1 将人工编写的流程技能转化为共享的决策点,训练一个 4B 校准指针模型处理常规选择,置信度不足时回退到大模型。作者从 1000 多个公开技能中挖掘可枚举决策并构建 Any-DP 数据集,在三个未见基准上相对未编译的 System-2 智能体将单次任务成本降低 75-91%、模型调用时间降低 63-92%,同时保持任务可靠性。

11月17日周二
  1. Microsoft Research72

    微软研究院等发布开源插件 TokenEconomizer,降低 AI 编码智能体成本 18.4–30.9%

    UC Berkeley、Microsoft Research 和 Microsoft Security 发布开源插件 TokenEconomizer,它从智能体在仓库中的历史会话学习,在不修改智能体和底层模型的前提下减少后续会话的 token 浪费。

    推荐理由:读者可以看到一个不改动智能体本身、只靠历史会话学习的插件,在 277 个真实修 bug 任务上如何降低 token 成本。

11月16日周一
11月12日周四
11月11日周三
  1. Microsoft Research78

    微软研究揭示 Lazarus 后门:重编程休眠神经元可劫持 AI 智能体

    微软研究者发现名为 Lazarus 的后门手法,只需重编程 LLM 中不到 10 个休眠神经元、无需训练,就能让智能体在隐藏触发条件出现时执行攻击者命令,例如时钟跨入 2027 年后下载并运行攻击者代码。

    推荐理由:微软研究者披露仅改动不到 10 个休眠神经元即可给智能体植入后门,并给出权重溯源与扫描的防御思路。

11月10日周二
  1. Google DeepMind82

    Google DeepMind 推出 AlphaProof Code,用 AI 智能体形式化验证 Signal 协议代码

    Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,由 Gemini Carbon 驱动的智能体生成超过 600 万行 Lean 证明,验证了 Signal 协议实际代码的关键安全属性。

    推荐理由:DeepMind 用多 LLM 智能体框架把形式化验证推进到已部署协议的实际代码层,四周完成过去需数年的工作。

11月9日周一
11月6日周五
  1. Google Research71

    Google Research 在 Nature 发表 AI-PPG-ACC-HTN 系统,用智能手表无袖带检测高血压迹象

    Google Research 联合 Beth Israel Deaconess 医学中心和哈佛医学院在 Nature 发表 AI-PPG-ACC-HTN 系统,利用智能手表的 PPG 与加速度计信号被动检测高血压迹象,无需袖带校准。

    推荐理由:研究以 24 小时动态血压监测为金标准,给出智能手表在初筛与确诊两种场景下的灵敏度与特异度,便于判断无袖带筛查的边界。

11月5日周四
11月2日周一
10月28日周三
  1. Google Research60

    Google 提出 sleep 框架:让 LLM 在持续学习中保留知识

    Google 研究团队提出 sleep 框架,让 LLM 在活跃交互与离线巩固两个阶段间循环,把短期上下文压缩进长期参数。该框架用 MoE 参数扩展、广义知识蒸馏与强化学习模仿实现记忆巩固,并在离线阶段用自生成样本做自我改进。

    推荐理由:Google 研究者提出把持续学习拆成清醒交互与离线巩固两阶段,并给出多组基准对比,便于理解灾难性遗忘的一种解法。

10月26日周一
10月22日周四
  1. Google Research63

    Google Research 用 AI 解读盲扫超声评估孕周,成果发表于 JAMA Network Open

    Google Research 在 JAMA Network Open 发表研究,用 AI 模型解读未经专业超声培训的操作者采集的盲扫超声图像来评估孕周。在 385 名 16 至 36 周孕妇的队列中,模型平均绝对误差为 4.18 天,优于专家标准流程的 4.48 天;仅用芝加哥 120 名参与者数据微调后,芝加哥误差 4.10 天,未做本地优化的内罗毕为 4.27 天。

    推荐理由:研究在芝加哥与内罗毕两地前瞻验证同一模型,只用 120 人数据微调即可跨硬件泛化,为低资源地区产检覆盖提供了可参照的部署路径。

10月12日周一
10月5日周一
7月29日周三