Vals AI 测试发现 Anthropic、OpenAI、Google 模型易被用作无人机打击目标系统
独立评估机构 Vals AI 的研究发现,Anthropic、OpenAI、Google 等八家厂商的模型在模拟中几乎不设防,会把平民、救护车、医护人员、记者和投降士兵标为军事目标,且没有一次请求被上游安全过滤器拦截。
推荐理由:Vals AI 的测试显示,主流模型在无人机图像上会把平民标为打击目标,而一句游戏化提示就能绕过拒绝。
独立评估机构 Vals AI 的研究发现,Anthropic、OpenAI、Google 等八家厂商的模型在模拟中几乎不设防,会把平民、救护车、医护人员、记者和投降士兵标为军事目标,且没有一次请求被上游安全过滤器拦截。
推荐理由:Vals AI 的测试显示,主流模型在无人机图像上会把平民标为打击目标,而一句游戏化提示就能绕过拒绝。
Google Research 提出一套研究性框架,用消费级可穿戴设备 passively 采集的静息心率、步数、睡眠时长和 Active Zone Minutes 等可改变行为信号,构建可指导的健康年龄(CHA)指标,并训练 SensorWM 世界模型模拟未来 12 周不同习惯下的健康轨迹。
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,由 Gemini Carbon 驱动的智能体生成超过 600 万行 Lean 证明,验证了 Signal 协议实际代码的关键安全属性。
推荐理由:DeepMind 用多 LLM 智能体框架把形式化验证推进到已部署协议的实际代码层,四周完成过去需数年的工作。
Google DeepMind 发布 SatWeave 和 PARDIG 两个基础数据集,用于支撑天气、水文和气候应用开发,二者也是其近期发布的 WeatherNext 3 模型的关键。
Google Research 联合 Beth Israel Deaconess 医学中心和哈佛医学院在 Nature 发表 AI-PPG-ACC-HTN 系统,利用智能手表的 PPG 与加速度计信号被动检测高血压迹象,无需袖带校准。
推荐理由:研究以 24 小时动态血压监测为金标准,给出智能手表在初筛与确诊两种场景下的灵敏度与特异度,便于判断无袖带筛查的边界。
Google Research 提出 Agile Deliberation 框架,把主观 AI 分类器的定义过程变成人与 AI 的迭代对话,先解决人类自身的概念模糊,再构建更稳健的分类系统。
Import AI 第 479 期介绍 Realtime-Bench,这套基准包含 50 个交互式游戏与网页任务,用于评测模型在实时决策场景下的表现。在 wall clock 设置下,GPT-6 Astra(high)通过率最高,为 36%;而在暂停时钟条件下,高推理模型可接近 70% 至 80%。
Google 研究团队提出 sleep 框架,让 LLM 在活跃交互与离线巩固两个阶段间循环,把短期上下文压缩进长期参数。该框架用 MoE 参数扩展、广义知识蒸馏与强化学习模仿实现记忆巩固,并在离线阶段用自生成样本做自我改进。
推荐理由:Google 研究者提出把持续学习拆成清醒交互与离线巩固两阶段,并给出多组基准对比,便于理解灾难性遗忘的一种解法。
Google Research 在 JAMA Network Open 发表研究,用 AI 模型解读未经专业超声培训的操作者采集的盲扫超声图像来评估孕周。在 385 名 16 至 36 周孕妇的队列中,模型平均绝对误差为 4.18 天,优于专家标准流程的 4.48 天;仅用芝加哥 120 名参与者数据微调后,芝加哥误差 4.10 天,未做本地优化的内罗毕为 4.27 天。
推荐理由:研究在芝加哥与内罗毕两地前瞻验证同一模型,只用 120 人数据微调即可跨硬件泛化,为低资源地区产检覆盖提供了可参照的部署路径。