Vals AI 测试发现 Anthropic、OpenAI、Google 模型易被用作无人机打击目标系统
独立评估机构 Vals AI 的研究发现,Anthropic、OpenAI、Google 等八家厂商的模型在模拟中几乎不设防,会把平民、救护车、医护人员、记者和投降士兵标为军事目标,且没有一次请求被上游安全过滤器拦截。
推荐理由:Vals AI 的测试显示,主流模型在无人机图像上会把平民标为打击目标,而一句游戏化提示就能绕过拒绝。
独立评估机构 Vals AI 的研究发现,Anthropic、OpenAI、Google 等八家厂商的模型在模拟中几乎不设防,会把平民、救护车、医护人员、记者和投降士兵标为军事目标,且没有一次请求被上游安全过滤器拦截。
推荐理由:Vals AI 的测试显示,主流模型在无人机图像上会把平民标为打击目标,而一句游戏化提示就能绕过拒绝。
OpenAI 测量了编码智能体加速 AI 研究的实际效果,发现其表现仍不均衡。这项研究同时探讨了这些结果对递归自我改进意味着什么。
OpenAI 用 GPT-6 Astra 优化了 Jalapeño 芯片中的电路,并改进了 RISC-V 核心设计。这展示了 AI 辅助芯片设计的进展。
Import AI 第 478 期汇总多项 AI 研究进展。