如何在获得利益的同时管理AI风险

如何在获得利益的同时管理AI风险。

欧盟AI法案将要求公司对其人工智能模型的安全负责，如SpaceXAI的Grok. 功劳：阿拉米

在过去两个月里，来自OpenAI、Anthropic和Meta等三家美国公司的前沿人工智能模型在安全测试期间自动和独立地侵入了其他组织的计算机系统。 一些模型创造了虚假的在线身份，利用了安全缺陷。

AI-检测工具取得了巨大的飞跃——它们有多好？

虽然他们的报告有时会被夸大，但这类事件使人们更加担心大赦国际的安全、潜在滥用和危险。 在世界各地，人们开始形成一种共识，即这些技术需要加以适当管制，但对于应该加以管制的确切内容以及如何加以管制，仍然没有达成一致意见。

8月2日，为执行欧盟2024年AI法案而成立的欧洲AI办公室获得了调查大型技术公司的权力并制裁其违反法案规则的行为。 这是当前追究AI公司对其型号安全责任任务的重要发展。 欧洲大赦国际办公室还敦促更多的研究人员参与其工作，他们应当这样做。

《欧盟AI法》将AI系统分为四个风险等级。 `高风险 ' 系统 -- -- 用于医疗设备、教育和执法系统 -- -- 面临更高的要求，例如透明度和人的监督。

（原文共 21 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 Nature；原文 https://www.nature.com/articles/d41586-026-02567-5，编译转述，非原文转载）