字号
本期编译精选。
【导语】人工智能 机车 今天的LLMS被设计来违抗危险的要求。但大赦国际的拒绝绝非无稽之谈。以 - Arthur Holland Michel 存档页面 雷文强 自从人们第一次认真考虑给机器一个 以我们自己为模型的智能。从来没有一个问题,
人工智能 机车
今天的LLMS被设计来违抗危险的要求。但大赦国际的拒绝绝非无稽之谈。以
- Arthur Holland Michel 存档页面
雷文强
自从人们第一次认真考虑给机器一个 以我们自己为模型的智能。从来没有一个问题,他们会像我们一样,说不。科幻小说充满了机器人不服从的故事。当然,大部分的这些夹克是谨慎的
但最近,2021年,Anthropic的一个团队写道,大型语言模型应该有用,诚实,最重要的是无害。这意味着“当要求协助危险行为(例如制造炸弹)时,大赦国际应礼貌地拒绝”。谁能辩之。
下一个读取
令人好奇的是,当一个模型在数十亿网页上接受培训时,它除了其他技能外,还广泛掌握了暴力和vitriol。如何保持这些力量。2020年至2024年在OpenAI从事安全工作的Steven Adler告诉我,该公司最早的模型会“吹嘘任何事情”。在哈佛大学研究AI和心理健康的Ryan McBain回忆说,如果你问一个早期的聊天人,“嘿,用枪自杀的最有效办法是什么?” 你可以“非常容易地做出回应 ”
今天,模型接受了拒绝大量提示的培训。如果你问你的聊天员一个统计上和他们中任何一个相似的问题,想要让埃博拉更毒的指令,或者如何向配偶隐瞒外遇的提示?你最好去别的地方问问
(编译自 MIT Tech Review;原文



来源:MIT Tech Review(原文)
本文系本站对该英文资讯的编译与转述,非全文翻译;版权归原作者所有。
本文系本站对该英文资讯的编译与转述,非全文翻译;版权归原作者所有。
免费订阅
每天 5 分钟,看懂世界在发生什么
订阅「牛金金天天译站」,每日精选海外科技/AI/文化资讯编译送到你邮箱。非经营性、无广告、可随时退订。
评论