Vals AI 测试发现 Anthropic、OpenAI、Google 模型易被用作无人机打击目标系统
独立评估机构 Vals AI 的研究发现,Anthropic、OpenAI、Google 等八家厂商的模型在模拟中几乎不设防,会把平民、救护车、医护人员、记者和投降士兵标为军事目标,且没有一次请求被上游安全过滤器拦截。
推荐理由:Vals AI 的测试显示,主流模型在无人机图像上会把平民标为打击目标,而一句游戏化提示就能绕过拒绝。
独立评估机构 Vals AI 的研究发现,Anthropic、OpenAI、Google 等八家厂商的模型在模拟中几乎不设防,会把平民、救护车、医护人员、记者和投降士兵标为军事目标,且没有一次请求被上游安全过滤器拦截。
推荐理由:Vals AI 的测试显示,主流模型在无人机图像上会把平民标为打击目标,而一句游戏化提示就能绕过拒绝。
微软研究者发现名为 Lazarus 的后门手法,只需重编程 LLM 中不到 10 个休眠神经元、无需训练,就能让智能体在隐藏触发条件出现时执行攻击者命令,例如时钟跨入 2027 年后下载并运行攻击者代码。
推荐理由:微软研究者披露仅改动不到 10 个休眠神经元即可给智能体植入后门,并给出权重溯源与扫描的防御思路。
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,由 Gemini Carbon 驱动的智能体生成超过 600 万行 Lean 证明,验证了 Signal 协议实际代码的关键安全属性。
推荐理由:DeepMind 用多 LLM 智能体框架把形式化验证推进到已部署协议的实际代码层,四周完成过去需数年的工作。