AI推论:成功应用AI的五项最佳做法

AI推论:成功应用AI的五项最佳做法。

虽然有些组织仍在着手实施其人工智能战略,但另一些组织则处于试验炼狱中,很少有实验或概念证明能够产生。 根据企业部的AI状况,只有25%的组织将其40%或更多的AI实验转入生产。 我们在LinkedIn Live上讨论, POCs出乎意料的一个关键原因是, 还有两个问题: 员工没有参与开发过程。 但也有一个重要的技术问题: 用于训练AI模型和开发AI代理的架构可能与AI推论的架构大相径庭,运行一个经过训练的模型来产生出出产. 训练与推断的性能、可伸缩性、合规性和安全性要求大相径庭, 美国OVHcloud公司的资深副总裁Pascal Jaillon表示:「产业焦点正在迅速从培训前沿模式转向优化对生产环境的AI推论。 “企业认识到,AI的长期成功并不取决于原始模型的规模,而更多地取决于在分布式环境中平衡耐久性、可扩展性、安全性和基础设施经济学。 随着推论工作量的扩大,各组织正在越来越多地评价传统的超标器战略的替代办法,以提高成本效益、数据主权和业务灵活性。” 优化AI推断环境还必须考虑到操作条件、合规要求和成本取舍。 “对于CIOs来说, 本地化推论是一个刻意的建筑选择 r。

（编译自 InfoWorld；原文 https://www.infoworld.com/article/4210689/ai-inference-5-best-practices.html，编译转述，非原文转载）