本期编译精选。
一名Anthropic雇员的辞职引发了其他雇员对AI毁灭人类的风险的议论。
在安特罗皮克的一位前AI研究员雅各布·克克森宣布辞职并警告他的前公司和OpenAI都没有负责任地行事时，争议就爆发了。
他写道，“他们正直奔自我提升的超级智能，尽管许多人通过聊天机器人使用AI,克克森尤其担心未来AI模型不会要求人类软件开发者改进，但可以以超人的速度升级自己。
他补充说，“不要低估这种技术的力量。” 这些将很快成为超人系统，可以黑入任何东西，在一夜之间使任何领域发生革命，并获得真正的权力和资源。我们都目睹了所有这些领域的进展，进展并没有放慢。”
在另一项令人寒心的警告中，Coxon声称，“建立大赦国际的人真诚地认为，到本十年结束时，它会杀死我们所有人。这不是营销特技 如果有的话，许多高管和高级研究人员会在报刊上表达他们的用词，以听起来明智——但我听到同样的人私下表达恐惧。没有任何其他人类活动构成这种程度的危险。”
令人惊讶的是，另一位Anthropic雇员专注于AI安全工作，埃文·休平格(Evan Hubinger)同意了克克逊的说法，而不是像公司通常那样轻描淡写。 Jacob在这里是对的——我们确实真诚地相信AI可以杀死所有的人！我个人认为这在接下来的十年里会超过10%,
此图文目前无法使用。可能正在装入或已取出。
Hubinger致力于AI的校正，这涉及到确保技术遵循预期的目标，如维护道德价值观。他补充道：“Anthropic正在尽最大的努力，但我们还没有一个解决超级智能对接问题的计划，也没有明确地走上正轨。”
（原文共 10 张图片，此处展示前 3 张，更多图片请前往原文查看）
（编译自 PCMag；原文
本文系本站对该英文资讯的编译与转述，非全文翻译；版权归原作者所有。
每天 5 分钟，看懂世界在发生什么
订阅「牛金金天天译站」，每日精选海外科技/AI/文化资讯编译送到你邮箱。非经营性、无广告、可随时退订。
评论