字号
一批安全研究人员表示,OpenAI 撤销了他们参与某个网络安全研究项目的权限。该项目旨在探索 AI 在攻防场景中的应用,但 OpenAI 以安全顾虑为由收紧了准入。
研究人员认为,撤销权限削弱了「白帽」研究对 AI 安全的贡献——了解攻击手段是防御的前提。而 OpenAI 方面则强调,部分研究可能触及高风险能力,需要更严格的审查。
这一分歧折射出 AI 安全领域的根本张力:开放研究与风险管控如何平衡?当模型能力足以造成现实危害,「谁有权研究、研究到什么程度」成为必须回答的问题。OpenAI 的收紧或许谨慎,但也可能抑制有价值的安全研究。
来源:TechCrunch(原文)
本文系本站对该英文资讯的编译与转述,非全文翻译;版权归原作者所有。
本文系本站对该英文资讯的编译与转述,非全文翻译;版权归原作者所有。
评论