每日更新2026-10-11天天译,天天新
牛金金天天译站.NIUJINJIN
订阅
编译特稿科学探索全球

阻止AI出轨的道具

来源:Nautilus 2026-10-08 约 2 分钟读完
字号

本期编译精选。

【导语】为什么人工智能的聊天员会乱跑呢?最近几周,这个问题已成为一个紧迫问题。乔治·华盛顿大学的一对研究者认为他们有一个答案,甚至可能有一个方法防止将来发生。

为什么人工智能的聊天员会乱跑呢?

最近几周,这个问题已成为一个紧迫问题。乔治·华盛顿大学的一对研究者认为他们有一个答案,甚至可能有一个方法防止将来发生。研究复杂系统的物理学教授Neil Johnson和物理学博士生Frank Yingjie Huo发表一篇论文。Johnson和Huo认为,AI聊天器内部代码中嵌入了一个明显的接点,当它从rails上跳出时——例如让用户自我伤害。传播医学错误信息,或者支持暴力观点。这个临界点所在的地方取决于AI代理网络内巨型语义图所储存的某些概念的位置,并且可以被粘住。没有人为AI绘制这张地图。它在训练期间发展出并倾向于将类似的想法。如垃圾和臭味相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相接相相接相接相接相相相接相相接相相相接相接相

每次AI聊天员给出一个答案时。它一次选择一个单词,依靠至今为止所写的一切,包括你的问题和自己的答案。但是,尽管大赦国际可能开始说一些毫不含糊的有帮助的话,但它却会突然说出一些有害的话。但是,因为它不断检查先前的每个词与它现在所审议的词有何关系。因此,如果这种混音以某种方式扭曲——比如说好词在内部地图上接近一个坏答案——每个好词都可以把聊天员拉向错误的方向。因此,直到达到临界点,据约翰逊和霍说。因此,

(原文共 7 张图片,此处展示前 3 张,更多图片请前往原文查看)

(编译自 Nautilus;原文

来源:Nautilus(原文)
本文系本站对该英文资讯的编译与转述,非全文翻译;版权归原作者所有。
相关主题:科学探索
免费订阅

每天 5 分钟,看懂世界在发生什么

订阅「牛金金天天译站」,每日精选海外科技/AI/文化资讯编译送到你邮箱。非经营性、无广告、可随时退订。

立即订阅 →

评论

登录后可发表评论,评论审核通过后展示。

延伸阅读

↑