推荐一个开源 LLM 网关： Bifrost，支持负载均衡和故障切换

Golang 开发的，低占用、高性能。主要特点是可以聚合多家 AI 大模型统一调用，且支持负载均衡和故障切换，避免免费大模型出现 429 的尴尬。

Github 开源地址： https://github.com/maximhq/bifrost

写了一篇文章介绍如何部署和配置：https://blog.xiaoz.org/archives/22835