我建立了我自己的本地人工智能 并且可以从手机上控制它。
PCWorld用MSI的迷你PC,框架桌面和Telegram搭建了自办的AI系统——使得本地AI代理几乎从任何地方都可以访问。
信用:创始人
有许多理由可以避免与“AI”服务互动。 它们很昂贵,很具有破坏性,它们是一个隐私噩梦,在道德上是可疑的,它们常常被一些人控制,这些人。.....应该说,他们的行动对其他人的影响是无关紧要的。
但是,如果你决定滚动自己的LLM,很多这些问题是可以解决的。 PCWorld的Adam Patrick Murray决定尝试一下。
当MSI向亚当提供Cubi NUC,配有能运行更小,局部AI模型的Core 9处理器和NPU时,他决定给它一试。 (Cubi NUC所在的影片是赞助的, 亚当联系了Level1Techs的温德尔·威尔逊(Wendell Wilson)就设置问题提出了一些建议,这立即变得有些复杂。
迷你PC作为基于Hermes的AI代理机的主机,它控制了AI服务器中比较牛肉的硬件。 这正在运行在更强大的框架桌面及其Ryzen AI Max硬件上(这基本上是为这类东西而设计的)。 在LM工作室和Ubuntu内部使用Quinn模型。
最后一个谜题是亚当用来访问这一切的设备:他的手机。 事实证明,你可以通过Telegram消息app来控制赫尔墨斯,这使它成为用户的超级轻松的前端。 这使得AI代理和服务器运行在亚当的家庭网络上,
亚当用这些干什么? 基本上为他的播客收集并阅读新闻, 在设置服务器、代理和接入点等大量工作之后,他仍在尝试如何使其实用。 请务必在YouTube上订阅PCWorld。
(编译自 PCWorld;原文 https://www.pcworld.com/article/3221159/we-built-our-own-personal-ai-with-a-mini-pc-server-and-phone.html,编译转述,非原文转载)


本文系本站对该英文资讯的编译与转述,非全文翻译;版权归原作者所有。
每天 5 分钟,看懂世界在发生什么
订阅「牛金金天天译站」,每日精选海外科技/AI/文化资讯编译送到你邮箱。非经营性、无广告、可随时退订。
评论