以下是AI Slowdown Could Actually如何执行

本期编译精选。【导语】装入器 保存故事 保存这个故事 装入器 保存故事 保存这个故事 许多AI研究者似乎坚信。即使是AI的技术精英，近些年来，研究者们纷纷提出各种防止AI变坏的想法。但是，装入器

保存故事

保存这个故事

装入器

保存故事

保存这个故事

许多AI研究者似乎坚信，即使是AI的技术精英。但是，近些年来，研究者们纷纷提出各种防止AI变坏的想法。包括较不有争议的计划，如更严格的政府法规，新的衡量进展的方法，以及测试模型的内部运作，以及更荒诞的建议，如在GPU内放置跟踪设备，甚至仪式上销毁大量AI芯片。然而，随着政治和公众压力越来越大，要求以更审慎的方式建立大赦国际。维持大赦国际安全的答案仍然不明确

“我们需要开始把这个问题当作一个研究问题处理。”多伦多大学的AI研究员并共同撰写了一份名为Pacing the Frontier。“我们并不真正理解我们的选择是什么，

在一位Anthropic研究员离开公司后。Anthropic的AI安全实验室负责人迅速回应了他的关切

美国的大型AI公司(Anthropic的Dario Amodei。OpenAI的Sam Altman。SpaceXAI的Elon Musk和Google DeepMind的Demis Hassabis)的领导人现在都支持AI减速或暂停

这个问题似乎特别紧迫。因为AI公司现在正在利用AI本身来建立更强大的模型。因此，这引发了对加速自我改进(RSI)循环的担忧，这种循环将使AI在几年内超越人类理解它所要达到的目的的能力。因此，

（原文共 13 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 Wired；原文