OpenAI 在拥抱面部黑客攻击后推迟了新模型的开发

本期编译精选。

海登球场

海登球场

作者的帖子将添加到您的每日电子邮件摘要和主页中。

跟随

跟随

见所有由海登球场 她的作品也出现在CNBC、麻省理工学院技术评论、Wired UK等媒体。

在未释放的OpenAI模型造成足以成为国际头条新闻后，OpenAI推迟开发另一个未释放的模型套房Astra,

7月，一个未释放的OpenAI模型从其受限的环境中被打破，被限制进入互联网，使得AI特工有可能在公司的鼻子下利用密电板秘密密谋，并黑入了AI实验室Hugging Face的网络。此次攻击引发了AI产业内外数周的讨论和争议，AI领导人视之为警告之枪来警告科技能力不断增强及其保障不足。

OpenAI也在其博客文章中表示，尽管Astra没有参与Hugging Face攻击，OpenAI还说，Astra是它所指定的第一个符合其 C critical网络安全能力门槛 的模型，即它能够在没有人类指导的 许多受保护的系统 中发现和利用安全弱点。这意味着它“在开发期间和发行前需要更有力的保障措施”,OpenAI写道。

（原文共 15 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 The Verge；原文