LiteLLM
特定情境推薦專注 LLM 的 API Gateway 與 provider translation layer,讓應用用一致介面存取 LM Studio、OpenRouter 與其他 AI model API。
安裝 uv tool install 'litellm[proxy]'
最後審閱:2026/7/15
Tag
Home Gateway 以 HAProxy 承接公開流量,api.yihua.app 交由 APISIX 治理,再把 LLM API 轉給 LiteLLM 與 LM Studio、OpenRouter。