GoForum › 🌐 V2EX
请教下跑 openclaw 对接本地大模型的时候, 又没用过 omlx 进行加速?
Hermitist ·
2026-03-28 07:34 ·
0 次点赞 · 1 条回复
https://github.com/jundot/omlx
有人说这个可以加速 3 倍, 特别是对首字节, 希望有人试下并反馈.
为什么我自己不试呢, 因为我的笔记本太垃圾了, 我还特意买了 32G 内存的, 现在跑了个千问 3.5-9B 的, 内存已经爆表了.
1 条回复
添加回复
你还需要 登录
后发表回复
这个是针对 macos 的吧