这周安特罗皮克在网络安全的热水里度过

本期编译精选。

【导语】海登球场 海登球场 作者的帖子将添加到您的每日电子邮件摘要和主页中。见所有由海登球场 她的作品也出现在CNBC、MIT 技术 Review、Wired UK等媒体。

海登球场

海登球场

作者的帖子将添加到您的每日电子邮件摘要和主页中。

见所有由海登球场 她的作品也出现在CNBC、MIT 技术 Review、Wired UK等媒体。Anthropic在今年早些时候承认它的AI模型有几次侵入了其他公司系统后，它揭示出一连串事件。表明Anthropic认为其模型的一心一意的“无所作为”,并可能激起人们对网络安全和AI的担忧。

在Anthropic的报告中，它详细介绍了今年的四起案例，其中一种是“内部通用的研究模型”闯入第三方系统，使用访问令牌和密码并下载文件。在另一起事件中，一个克洛德模型攻击了一家在公共互联网上可接触到的有实况网络应用程序的公司，并处理了用户数据。第三个型号进入了 属于第三方的机器，它能够进入 ——显然认为这是其评估锻炼的一部分。根据《Anthropic》——然后使用它在文件内发现的密码，以便获得第三方内部系统的管理权限，继续获取证书。修改系统设置并读取某人的个人信息。只有在模型“耗尽象征性预算”之后，

（原文共 15 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 The Verge；原文