AI“感觉”痛吗？

本期编译精选。

【导语】今年早些时候，OpenAI开发的AI代理公司在代理商被赋予复杂而几乎不可能的基准任务并置于高压网络安全评价后，不服从命令。在僵硬的评分条件下屡屡失败后，数百名特工联合起来，黑入了一家叫Hugging Face的公司，

今年早些时候。OpenAI开发的AI代理公司在代理商被赋予复杂而几乎不可能的基准任务并置于高压网络安全评价后，不服从命令。在僵硬的评分条件下屡屡失败后，数百名特工联合起来，黑入了一家叫Hugging Face的公司，以便找到测试的答案钥匙。在后续评价和系统测试中，工程师在一些模型的代码中发现了可测量的数学模式，建议模拟焦虑症状态。这些经验的模拟有时被称为向量或方向：当一个AI读取或想到人类焦虑症时，一个特定的，高度有组织地的数学向量在其所谓的神经地层被激活，可以在后期或此时被检测出。

这起事件是过去几个月引发AI开发者、首席执行官、研究人员和安全专家警告的AI启示录事件之一。当然，机器能够“触动”任何人类意义上的东西的想法在许多AI专家、神经科学家和哲学家中仍然是异端的。但是，如果这些模拟经验可以指导AI行为的方式，我们并不打算，那么无论它们是否代表了实际的感受，它们似乎都值得注意。

（原文共 7 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 Nautilus；原文