控制人工智能成本的五个重要工具

本期编译精选。

大型语言模型是神奇的工具，直到成本像一辆城市公交车一样击中你。幸运的是，我们有一些很好的杠杆控制开支。

过去10年里，我们建造了整个Finops部门，以破解云帐上所说的。就在我们想出如何停止让闲置的计算程序运行的时候，基因AI引入了无限的更不透明，更快速地移动的开支层。

AI法案冲击像缓慢移动的飓风横行全行业。除了大型语言模型(LLM)成本的飙升外，更深层次的建筑问题在于归属：钱具体流向何处，它给企业带来什么价值？

当API的电话被层层的自动代理和即时模板包裹后，你的应用程序会变成一个黑匣子，消耗资本来产出指使。如果一个特性引擎在每月燃烧上千美元，只是为了有LLM输出的快感或处理低值数据，建筑成熟意味着像对待其他受约束的资源一样对待活物。

幸运的是，有几把很好的杠杆 我们可以控制AI的开支。这是驯服野兽的五个关键工具。

模式路线

如果缩图足够的话，

最新克洛德·奥普斯等最强大的模型是一些有史以来最先进的软件系统。他们能够处理极其复杂和微妙的使用案件。在计算消费（因此也是美元）时，它们也是贪婪的野兽。他们往往过度杀戮。

我们自然从最强大的模型开始，当我们建立和勾画API和要求时。因为我们处于“工作”模式，但对于生产来说，拨打我们所能使用的最不强大的模型是绝对必要的。

（原文共 8 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 InfoWorld；原文