OpenAI 添加了一个AI安全层,用于检测误用而不保留企业数据

OpenAI 添加了一个AI安全层,用于检测误用而不保留企业数据。

OpenAI正在增加一种新的安全能力,使企业能够在不保留提示或反应的情况下,在多种互动中发现其AI系统被滥用的情况,从而能够在保持其零数据保留承诺的同时进行风险监测。 公司在博客文章中描述其ZDR方法。 这个称为“私人安全处理”的新系统“旨在查明各种相关互动的模式,而不让OpenAI人员接触基本内容。” 该能力正在与符合条件的企业和API客户进行测试,旨在解决现有安全控制中的一个局限性,即单独评估相互作用,从而更难发现随时间推移而出现的风险。 据OpenAI称,私营安全处理的目的是通过将活动相互关联,而不是孤立地分析每起事件,扩大现有的安全系统。 根据OpenAI的说法,在模型下,自动系统分析相互作用并生成“一个狭义的信号,表明所涉活动的类型”,而不是暴露基本的提示或响应。 该公司说,无论客户数据留在企业控制的基础设施内,还是由OpenAI用客户控制的加密密钥存储,该系统都可以运行. “在这两种情况下,自动化系统都能够识别潜在的误用,并返回有限的安全信号,而不暴露OpenAI人员的基本提示或反应。” OpenAI说,为什么现有的安全控制没有达到OpenAI的要求,新的能力旨在解决识别AI风险方面的差距。 该公司说,“最严重的AI安全风险并非总能在单一的相互作用中显现出来,”该公司指出,有害的意图只有在将多种相互作用结合起来看待时才会变得明确。 此类风险包括重复。

（编译自 Computerworld；原文 https://www.computerworld.com/article/4212412/openai-adds-an-ai-safety-layer-to-detect-misuse-without-retaining-enterprise-data-2.html，编译转述，非原文转载）