The Verge · AI· Antonio G. Di Benedetto·· 4 天前AI 评分22
在本地跑 AI 有多折腾:我用 M5 Ultra Mac Studio 装 Hermes Agent 和 Qwen 3.8 Flash Next 的实测
Learning to use local AI is exciting, overwhelming, and frustrating
AI 导读
为躲避云端隐私风险,作者在 256GB 统一内存的 M5 Ultra Mac Studio 上安装开源自我托管 AI 智能体桌面应用 Hermes Agent,并选用 125B 参数、约 105GB 的 Qwen 3.8 Flash Next 模型,全程使用本地 LLM 免费,还通过 Telegram bot 远程操控。
来源:The Verge · AI · theverge.com