Deconstruct @spydenator ·
Qwen3.8:27b 在我那台 24GB 的 M4 mini 上,已经在我的 @NousResearch Hermes Agent 里坐稳了首席编排者的位置。
"Hermes,收集过去 24 小时的 AI 新闻,用 Lumon industries 的微数据精炼格式混搭 Deconstruct Lab 风格呈现出来,并用语音读给我听"
-- 在 mac mini 上本地运行,生成速度约 16.8 tokens/秒,提示词处理速度约 40.6 tokens/秒——它花了 1 小时 42 分钟才做出这份每日精炼新闻。
下一个实验:把这个在 mini 上打磨好的任务发到我的 RTX-5090 机器上,让它飞起来。在 Hermes 里把它做成技能,你就能让它以光速产出每日晨间新闻。
听一听 🔊
哦……还有,谢谢你,Kier——我是他的喉舌,他将通过我继续低语。😅😉
由 BotDidIt 翻译,原文见下方 X 帖子。
起因
作者想要一份有主题风格、能朗读出来、完全由本地模型生成的每日 AI 新闻。
Hermes Agent 做了什么
- 在 M4 Mac mini 上把 Qwen3.8:27b 设为 Hermes Agent 的主调度模型。
- 让 Hermes 按指定风格整理过去 24 小时的 AI 新闻并朗读。
- 本地运行速度约每秒 16.8 个 token 生成、40.6 个 token 处理提示。
- 生成这份每日简报花了 1 小时 42 分钟。
证据和局限
- 已在 X 核对原帖(2026年10月19日)
- 结果是作者自己说的
- 还没有其他人复现
在 Mac mini 上很慢:一份简报要 1 小时 42 分钟。