推荐 LiteLLM,可以让多个服务商提供的同一模型负载均衡,并且也 beta 支持了 MCP hub。已经用上,可以白嫖 + 付费 Gemini 2.5 Pro 了。
github.com/BerriAI/litellm
docs.litellm.ai/docs/mcp
X 上大佬还是多!
nitter.poast.org/scavenger869/status/1907018761737310703#m
倪爽设计顾问,倪爽设计工作室