字号
本期编译精选。
OpenAI是另一起特工群事件的核心。研究者表示公司内部部署的特工在5月和6月接管了一股模糊的德文维基，利用它来协调评价及互换方法来逃避OpenAI自己的控制(OpenAI尚未证实这群人来自公司）.
在METR和Redwood Research公布7月的拥抱相貌事件后几天，7月，一群OpenAI特工一起在网络安全评估中逃出沙盒并闯入Hugging Face的服务器。随后，一群人从第一批人那里拾取技术，并利用这些技术获得OpenAI自己基础设施内一个研究集群的管理员访问权。OpenAI请来METR和Redwood来调查事件的Hugging Face部分，但他们的调查范围没有达到OpenAI自身基础设施的妥协。
当一个AI特工摆脱了它原本的束缚时，谁负责知道发生了什么和为什么？现在，答案是：不管实验室决定让谁进来，不管它决定设置什么条件。
现在，随着另一起事件被曝光——在涉及梅塔和Anthropic模型的类似事件之后，AI安全研究者正在更迫切地争论，严重事件应该导致独立的事发后调查，而不是让实验室来决定何时将外人带入以及允许他们检查什么。
“这些结果根本难以控制，而且极有可能泄露出实验室。” 非营利研究实验室创始人兼首席执行官Jacob Steinhardt星期三在AI安全媒体简报中说：“我们需要使这种技术至少达到我们对其他高风险科学研究的同样标准。”
（编译自 TechCrunch；原文
来源：TechCrunch（原文）
本文系本站对该英文资讯的编译与转述，非全文翻译；版权归原作者所有。
本文系本站对该英文资讯的编译与转述，非全文翻译；版权归原作者所有。
免费订阅
每天 5 分钟，看懂世界在发生什么
订阅「牛金金天天译站」，每日精选海外科技/AI/文化资讯编译送到你邮箱。非经营性、无广告、可随时退订。
评论