OpenAI " 暂时减慢了 " 缩放工作, 也保证不会保留特定前沿模式客户的数据

OpenAI " 暂时减慢了 " 缩放工作, 也保证不会保留特定前沿模式客户的数据。

OpenAI本周宣布了旨在对抗对其安全和隐私的负面看法的多起举动,称它已经减缓了规模化的速度,在强化学习方面进行了为期两周的暂停,并将为“合格的API客户”提供零数据保留。 OpenAI在星期二发布的第一份公告中说,除了缺乏强化学习培训外,它“暂时地”减缓了其推广速度。 这些努力是在OpenAI使其研究环境更加坚固和红化并扩大了监测的同时发生的,它补充说,“我们计划的最大前沿RL运行仍然被搁置,而我们则进行规模较小的培训和评估,以评估示范行为,验证我们的保障措施,并在开始前建立更多的一致性证据。” OpenAI的声明说,该公司“现在需要更强有力的证据,证明在所有培训过程中的行为一致,同时要依靠已经在进行的研究和评价。 保持日益完善的系统一致是整个领域需要应对的挑战。” 它还强调了最近为改进其程序而作的其他努力,包括工作量隔离、网络隔离和“持续的安全测试”。 然而,该公司指出,其新提议的监测将产生“大约20%的计算结果被监测的间接费用,尽管费用在培训和评价工作量方面差异很大”。 政府承诺在即将到来的博客文章中, 分析员和顾问说,这些举动很可能会让OpenAI更适合即将到来的IPO。 独立技术分析家Carmi Levy认为这些言论是“在代理AI周围的安全问题不断加剧的情况下,为赢得公关点而巧妙地设想的举动。 它表明公司正在做一些事情, 即使这是糟糕的不足。 由于没有明确的条例,迫使OpenAI等供应商永久优先。

（编译自 Computerworld；原文 https://www.computerworld.com/article/4211661/openai-temporarily-slows-scaling-efforts-also-promises-zero-data-retention-for-select-frontier-model-customers.html，编译转述，非原文转载）