GoForum🌐 V2EX

请教下跑 openclaw 对接本地大模型的时候, 又没用过 omlx 进行加速?

Hermitist · 2026-03-28 07:34 · 0 次点赞 · 1 条回复

https://github.com/jundot/omlx

有人说这个可以加速 3 倍, 特别是对首字节, 希望有人试下并反馈.

为什么我自己不试呢, 因为我的笔记本太垃圾了, 我还特意买了 32G 内存的, 现在跑了个千问 3.5-9B 的, 内存已经爆表了.

1 条回复
testboy · 2026-03-28 09:09
#1

这个是针对 macos 的吧

添加回复
你还需要 登录 后发表回复

登录后可发帖和回复

登录 注册
主题信息
作者: Hermitist
发布: 2026-03-28
点赞: 0
回复: 0