AI时代的建筑记忆和存储

本期编译精选。

人工智能

随着AI推论推动企业的工作量，各组织必须重新思考每瓦的速度、效率、可伸缩性和性能等基础设施，以释放AI的现实世界潜力。

以

• 麻省理工学院技术评论 Insights 存档页面

与Micron合作

AI推断的时代已经到来。想象一个医疗系统 实时分析数百万个数据点 以加速救生医疗研究 或者一个智能助手 立刻解决成千上万复杂的客户需求 这些现实世界的突破依赖于先进的基础设施作为连续智能的引擎，为实时服务提供动力，同时也支持IOT和消费设备日益智能化的边缘。然而，在这种推论驱动的地貌中，任何拖延、瓶颈或浪费的瓦特都直接影响到人类的结果和运行成本。

这种转变改变了基础设施必须提供的服务。性能，耐久性，内存带宽，存储吞吐量，和联网不能被优化于仓房。推论工作量是连续的，地理分布分明，对反应时间高度敏感，需要从一开始就设计出规模、复原力和效率的系统。

“我们倾向于把大赦国际视为单一的工作量，Trias Research的创始人兼主要分析师Jim McGregor说，AI推论将优化问题从原始计算问题转变为协调的基础设施——记忆、储存和联网。

对商界领袖来说，优先事项是明确的：大赦国际的基础设施决定必须兼顾成本、灵活性和未来的准备状态。获奖者将是在限制增长之前提高每瓦的性能，减少环境足迹并去除记忆和存储瓶颈的组织。

AI推断需要一种新的建筑方法

（编译自 MIT Tech Review；原文