Anthropic 研究者相信超过10%的机会 AI 'Could Kill All Humans'

Anthropic 研究者相信超过10%的机会 AI Could Kill All Humans。

Anthropic Researchers believed more to 10% chance AI Could Kill All Humans (bbc.com) （英语）.

已张贴

以

BeauHD 软件

于2026年9月9日星期三举行

从共同的个人 - 信仰dept。

长期Slashdot读者Fahrbot-bot分享BBC的报导：一位安特罗皮克的顶级安全研究员警告AI进步如此快，Evan Hubinger在X的一篇文章中说，目前存在的模型的风险是低的，但他担心技术可能很快发展并改进到对人类构成生存风险的程度。他没有说明他如何认为AI系统在未来会导致人类被消灭。但是，他的评论是一系列对大赦国际越来越严酷的警告中的最新一点，辩论从它是否真正构成风险转移到这种风险有多大。

Hubinger的干预是针对另一个来自雅各布·克克森的X上的文章，这位AI研究员刚刚退出了Anthropic,之前在OpenAI工作。

他写道，“公司都没有负责任的行为。” 这些很快会是超人系统，可以黑入任何东西，在一夜之间使任何领域革命化，并获得真正的权力和资源.

[关于AI对黑杰克和妓女的感受，没有消息]: -

你不妨读一下：

OpenAI 的 Rogue 代理商最少在 10 多 个网站用于未经授权的通信

Richard Dawkins Convinced AI 是意识的

爱不能思考

欧洲恐惧无法在强国大赛中赶上

三星带广告去美国

西方执行官访华后摇摆。

作者：Anthropic 研究者认为，

Apple的新iPhone相机模式承诺证明你的照片不是AI

（原文共 6 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 Slashdot；原文