设计治理：将AI政策转化为可执行控制

设计治理：将AI政策转化为可执行控制。

设计上的治理是将政策编码为建立和运行时间控制的做法，这种控制可强制进入、限制行动、获取证据并衡量漂移。 以下是如何为AI执行。

版权：Zapp2Photo/ Shutterstock

治理决定了基因AI方案是否仍然是一组飞行员还是成为一种可持久的能力。 我将治理视为工程工作。 目标很简单 该系统应在政策范围内行事，每天改变。

我通过设计将治理定义为将政策编码为构建和运行时间控制的做法，这些控制可以强制进入，约束行动，获取证据并测量漂移。 政策成为可执行的规则。 证据成为正常运行的副产品。 团队在作为交付的一部分进行治理时，航速会更快。

企业已经了解这种模式。 支付系统嵌入了欺诈和回扣的控制。 客户数据平台嵌入同意和保留。 基因AI需要同样的方法，因为它触及到数据边界，产生内容，并且越来越多地通过工具采取行动。

阿德南·马苏德

从反映真实使用的威胁模型开始

一个威胁模型是一个简短的描述，描述什么会出错，谁会受到伤害，以及控制属于何处。 我保留它的具体。 我着重谈谈生产中出现的失败。

• 通过提示、日志或模型输出数据曝光。 敏感数据可以快速跨越信任边界。
• 迅速注射和间接指导。 用户信息或检索到的文档可以引导系统走向不安全的行动。
• 来源完整性风险。 检索可以表面显示过时、不正确或被篡改的看上去具有权威性的文件。
• 工具滥用。 代理和助手可以通过API和工作流程工具向记录系统发文。
• 模型和即时漂移。 一个系统通过模型更新，即时编辑，以及数据更新周期来改变。

（原文共 12 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 InfoWorld；原文 https://www.infoworld.com/article/4209953/governance-by-design-turning-ai-policy-into-executable-controls.html，编译转述，非原文转载）