OpenAI的流氓AI试图在5月黑入另一家公司

本期编译精选。

【导语】特伦斯·奥布莱恩 特伦斯·奥布莱恩 作者的帖子将添加到您的每日电子邮件摘要和主页中。见所有特伦斯·奥布莱恩 Verge的周末编辑。他已覆盖科技产业超过18年，5月，数百个恶意和垃圾邮件包被上传到RubyGems,给主机造成严重干扰。

特伦斯·奥布莱恩

特伦斯·奥布莱恩

作者的帖子将添加到您的每日电子邮件摘要和主页中。

见所有特伦斯·奥布莱恩

Verge的周末编辑。他已覆盖科技产业超过18年，

5月，数百个恶意和垃圾邮件包被上传到RubyGems,给主机造成严重干扰。现在独立的研究人员说，一群OpenAI特工对袭击负责。不仅如此，AI还试图盗取用户的API密钥。

当时，RubyGems将其描述为“重大恶意攻击”,并在试图减轻损害并收集数据时关闭了4天的注册。研究人员说，将RubyGems带入膝盖的包裹内容显然是由LLM所撰写的，提交这些包裹的代理人自认是OpenAI的。他们表示观察到的行为与开始编辑德文维基文库的群非常相近地相仿，OpenAI确认其特工对此负责。

这起事件的代理人设法绕过RubyGems的电子邮件核查系统，创建了大量账户，然后被提交材料淹没。然后它利用网站的自动构建系统来远程执行代码，并试图利用一种弱点来盗取用户API密钥。不过，

OpenAI对调查结果提出异议。Spokesperson Kayla Wood告诉The Verge:“根据我们的审查。我们的代理人利用RubyGems平台进入互联网执行良性任务并检索公共信息。我们将继续进行调查，作为我们在培训和评估期间对代理活动进行更广泛审查的一部分。

9月13日更新：OpenAI添加了评论。

跟随这个故事的主题和作者，在您个人化的主页feed中看到更多这样的内容，并接收电子邮件更新。

特伦斯·奥布莱恩

特伦斯·奥布莱恩

周末编辑器

（原文共 15 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 The Verge；原文