The Verge · AI· Antonio G. Di Benedetto·· 2 天前AI 评分24
在本地跑 AI 有多折腾:用 M5 Ultra Mac Studio 和 Hermes Agent 实测本地 LLM
Learning to use local AI is exciting, overwhelming, and frustrating
AI 导读
一名非 AI 专家在 256GB 统一内存的 M5 Ultra Mac Studio 上安装开源桌面智能体 Hermes Agent,并选用 125B 参数、约 105GB 的 Qwen 3.8 Flash Next 本地模型,尝试用 Telegram bot 远程操控。
来源:The Verge · AI · theverge.com