如何在自己的电脑上运行聊天机器人

如何在自己的电脑上运行聊天机器人。

装入器

保存故事

保存这个故事

装入器

保存故事

保存这个故事

说ChatGPT等AI bots和双子座正在改变世界的大型语言模型是毫不夸张的。 我们许多人现在依靠它们来编码、写作、总结和搜索网络。 无论AI未来几年的方向如何，LLMs都将是未来的一部分。

如果你使用ChatGPT,克洛德，迷惑等任何AI平台，那么你就使用LLM. 不太常见的是 这些LLMS可以在当地运行， 在自己的计算机上。 关键的好处是离线访问和更大的隐私，因为你不会把任何东西寄给云去让其他人分析或审查。

你也没有给任何AI公司每月的订阅费 或任何使用费。 许多LLM可以免费下载，包括从Meta和Google等大名下载。 虽然它们往往不像应用软件里面的LLMs那样先进或快，但是它们足够日常使用，你可以根据需要来选择它们。

这里还有更多的维护， 你失去了一些方便 来加载ChatGPT的应用程序。 （例如你需要处理更新） 然而，你得到一个更个性化和私有的AI系统，全靠自己，开始并不难。

你需要开始什么

您可以在 Windows, macOS 和 Linux 上运行本地的 LLMS, 尽管 macOS 倾向于成为大多数AI 爱好者的首选平台。 所有的东西在Macs上都更加统一一致——与Windows PC不同，只有一家公司制造它们——苹果硅芯片结合了CPU,GPU,和RAM,AI模型都喜欢。

（原文共 16 张图片，此处展示前 3 张，更多图片请前往原文查看）

（编译自 Wired；原文 https://www.wired.com/story/how-to-run-your-own-local-llm/，编译转述，非原文转载）