谷歌科学家在新研究中移除了AI的"意识保障". 接下来发生了什么？

谷歌科学家在新研究中移除了AI的意识保障. 接下来发生了什么？。

人工智能

一项新的研究表明，阻止AI声称意识的措施对非人类实体产生了出乎意料的后果。

以

亚当·谢泼德

编辑者

詹姆斯·普莱斯，基马斯·阿菲菲-萨贝特

2026年9月8日 （中文（简体） ).

单位

成员发言

当你通过我们网站的链接购买，我们可能会得到一个附属委员会。情况如下：

（图像功劳：尤金·米姆林通过Getty影像）.

复制链接

脸书

编辑

兴趣

翻转板

分享此文章

加入对话

在 Google 上将我们添加为首选来源

订阅我们的通讯

移除那些阻止人工智能(AI)声称其意识意识的安全护栏也使得它更容易表达对吸血鬼，因果和鬼的信仰，一个新的研究发现。但专家们警告说，缺乏理智也可能带来令人担忧的后果。

在7月30日上传到print arXiv数据库的研究（该数据库尚未经过同行评审）中，科学家调查了意识引导的影响——一种AI微调措施，它影响了一个模型来引出或压制自我意识的断言。这项措施和其他安全管制措施被AI公司广泛采用，试图防止其型号声称有意识。

该研究使用了机械解释——这可以被认为是大型语言模型的神经科学,同名作者Geoff Keeling和Winnie Street都是Google的研究科学家，在一次采访中告诉了Live Science. 他们利用这个过程来识别和操纵AI模型如何接近意识和心智等概念，这个心理术语是指一个实体的经验，情感和代理能力。

（原文共 27 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 Live Science；原文