为何不能信任AI公司自我监管？

本期编译精选。

【导语】作为一名在人工智能和安全关键领域（如核能和航空）工作的计算机科学家，我长期以来一直对关键基础设施所需的严格程度很少应用于AI开发感到惊讶。今年的AI代理商“逃离”了他们的试验环境，但真正的问题不是无赖AI。

作为一名在人工智能和安全关键领域（如核能和航空）工作的计算机科学家，我长期以来一直对关键基础设施所需的严格程度很少应用于AI开发感到惊讶。今年的AI代理商“逃离”了他们的试验环境，但真正的问题不是无赖AI。这是人类的疏忽。没有追究大赦国际实验室的责任

我们需要一个新的道德 在一个AI代理的世界

取而代之的是AI代理逃脱了测试环境并访问Hugging Face(Hugging Face)的一集。Hugging Face是一个主机学习模型和数据集的平台，为OpenAI公司设定的网络安全任务寻找答案。基本的安全和安保做法，包括网络监测，以核实代理商没有进入互联网，以及建立更牢固的沙盒环境来限制他们。本来可以防止这一事件

历史上。尖端蠕虫的开发者——恶意的软件被设计为从一台计算机自动传播到另一台计算机——预计会在安全的环境中建造并测试。如果一个网络安全工程师说，一个蠕虫从一个沙盒中逃脱了，这个沙盒专门设计来控制它建造来展示的行为，那么他们就应该对由此而来的任何伤害承担责任。为什么对AI公司有不同的待遇？不适当地向AI代理商说明意图，而不是承认AI公司在安全性差的环境中有意发展这些能力，让这些公司轻易摆脱困境。更广泛的教训是AI实验室无法继续定义AI治理的路线。作为为OpenAI和英国政府AI安全研究所工作的人，我认为我们已经到了一个不利点

AI准备彻底改造网络安全。（原文共 18 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 Nature；原文