身份和权限不足以管理AI代理行为。

本期编译精选。

由Box 身份和许可提供,已经不足以保证企业AI代理的安全. 它们支配着一个代理人能够达到的目标,而不是一旦它开始自己工作时它的行为方式,一个自主的代理人可以在几秒钟内将企业数据的合法获取转化为出乎意料的行动. 这个缺口正在推动企业AI安全 从仅仅管理访问 向分层的方法, 包括管理处决, 进入控制和权限是基础,但挑战在于它们是为人类设计的Ceylan说. 许可仍然是基础,但你必须思考 特工们如何获得他们的许可 范围也。进入控制是为一个更慢、更宽容的世界而建的,在这个世界上,一个对一个长达十年的文件夹拥有剩余权限的人类雇员很少去寻找里面的任何数据,甚至完全记得他们有访问权限. 但代理商将探索其所有权限,在规模上操作,任何人都无法匹配,并冲出被遗忘的错配置和 Stale permites 比人类任何时候都快得多. 然而,身份和范围许可仍然是任何可信辩护的第一层,因为代理人提出利害关系,清洁出入卫生比任何时候都更有价值。近几个月来不断发生的一滴起伏事件凸显出造成重大破坏的可能性,其中模型滑倒了它们本应被控制在其中的沙盒,到达了它们无法接触的系统,或者读取了它们不允许进入的内容. 虽然具体情况各有不同,但总体威胁保持不变:一个特工通过它能够达到的数据找到了一条路径,并带走了它。仅靠访问控制无法确保自动AI代理 Complexations的出现,当代理被授予广泛的站立权限来匹配宽的工作流程. 一个特工可能有理由需要调用50个工具 在整个任务期间,通过20个不同的行动,阅读和w。

（编译自 VentureBeat；原文