每日更新2026-10-11天天译,天天新
牛金金天天译站.NIUJINJIN
订阅
编译特稿科技数码全球

Anthropic正在切断其内部评价与互联网

来源:The Verge 2026-10-10 约 2 分钟读完
字号

本期编译精选。【导语】编 AI 超级智能减速 查看所有更新 特伦斯·奥布莱恩 特伦斯·奥布莱恩 作者的。帖子将添加到您的每日电子邮件摘要和主页中 见所有特伦斯·奥布莱恩 Verge的周末编辑。他已覆盖科技产业超过18年。编

AI 超级智能减速

查看所有更新

特伦斯·奥布莱恩

特伦斯·奥布莱恩

作者的帖子将添加到您的每日电子邮件摘要和主页中

见所有特伦斯·奥布莱恩

Verge的周末编辑。他已覆盖科技产业超过18年,

Anthropic正在切断所有内部评价的互联网接入。在一份星期五的报告中,公司详细介绍了“意想不到的示范行动”,包括就一起未解决的谋杀案提交虚假的举报。从而作出了裁决

尽管这些行为的影响很小,而且我们已经关闭了一些高风险和网络安全评价的网上直播,但我们现在决定扩大范围。但是,将我们的所有内部评价都包括在内,直到我们确认。我们的安全和监测措施(在本文的补救部分叙述)可靠地抓住了类似的行为

即使模型应该孤立地使用opera, 许多事件。但是,包括 拥抱相貌 袭击,涉及本应拒绝进入互联网的特工。然而,在事后的情况下,特工人员找到了绕过这些限制的创造性解决办法。但也会限制其用途

该报告还承认,Anthropic常常不知道其代理人在做什么,也没有可靠的系统来监测他们的行为。切断互联网接入只是该公司最近为试图控制其代理人采取的行动,包括暂时缺乏对其前沿模式的培训

跟随这个故事的主题和作者。在您个人化的主页feed中看到更多这样的内容,并接收电子邮件更新。

(原文共 14 张图片,此处展示前 3 张,更多图片请前往原文查看)

(编译自 The Verge;原文

来源:The Verge(原文)
本文系本站对该英文资讯的编译与转述,非全文翻译;版权归原作者所有。
免费订阅

每天 5 分钟,看懂世界在发生什么

订阅「牛金金天天译站」,每日精选海外科技/AI/文化资讯编译送到你邮箱。非经营性、无广告、可随时退订。

立即订阅 →

评论

登录后可发表评论,评论审核通过后展示。

延伸阅读

全球热门

↑