| Provider | LLM | Text Embedding | Rerank | Speech to text | TTS |
|---|---|---|---|---|---|
| OpenAI | โ๏ธ(๐ ๏ธ)(๐) | โ๏ธ | โ๏ธ | โ๏ธ | |
| Anthropic | โ๏ธ(๐ ๏ธ) | ||||
| Azure OpenAI | โ๏ธ(๐ ๏ธ)(๐) | โ๏ธ | โ๏ธ | โ๏ธ | |
| Gemini | โ๏ธ | ||||
| Google Cloud | โ๏ธ(๐) | โ๏ธ | |||
| Nvidia API Catalog | โ๏ธ | โ๏ธ | โ๏ธ | ||
| Nvidia NIM | โ๏ธ | ||||
| Nvidia Triton Inference Server | โ๏ธ | ||||
| AWS Bedrock | โ๏ธ | โ๏ธ | |||
| OpenRouter | โ๏ธ | ||||
| Cohere | โ๏ธ | โ๏ธ | โ๏ธ | ||
| together.ai | โ๏ธ | ||||
| Ollama | โ๏ธ | โ๏ธ | |||
| Mistral AI | โ๏ธ | ||||
| groqcloud | โ๏ธ | ||||
| Replicate | โ๏ธ | โ๏ธ | |||
| Hugging Face | โ๏ธ | โ๏ธ | |||
| Xorbits inference | โ๏ธ | โ๏ธ | โ๏ธ | โ๏ธ | โ๏ธ |
| Zhipu AI | โ๏ธ(๐ ๏ธ)(๐) | โ๏ธ | |||
| Baichuan | โ๏ธ | โ๏ธ | |||
| Spark | โ๏ธ | ||||
| Minimax | โ๏ธ(๐ ๏ธ) | โ๏ธ | |||
| Tongyi | โ๏ธ | โ๏ธ | โ๏ธ | ||
| Wenxin | โ๏ธ | โ๏ธ | |||
| Moonshot AI | โ๏ธ(๐ ๏ธ) | ||||
| Tencent Cloud | โ๏ธ | ||||
| Stepfun | โ๏ธ(๐ ๏ธ)(๐) | ||||
| VolcanoEngine | โ๏ธ | โ๏ธ | |||
| 01.AI | โ๏ธ | ||||
| 360 Zhinao | โ๏ธ | ||||
| Azure AI Studio | โ๏ธ | โ๏ธ | |||
| deepseek | โ๏ธ(๐ ๏ธ) | ||||
| Tencent Hunyuan | โ๏ธ | ||||
| SILICONFLOW | โ๏ธ | โ๏ธ | |||
| Jina AI | โ๏ธ | โ๏ธ | |||
| ChatGLM | โ๏ธ | ||||
| Xinference | โ๏ธ(๐ ๏ธ)(๐) | โ๏ธ | โ๏ธ | ||
| OpenLLM | โ๏ธ | โ๏ธ | |||
| LocalAI | โ๏ธ | โ๏ธ | โ๏ธ | โ๏ธ | |
| OpenAI API-Compatible | โ๏ธ | โ๏ธ | โ๏ธ | ||
| PerfXCloud | โ๏ธ | โ๏ธ | |||
| Lepton AI | โ๏ธ | ||||
| novita.ai | โ๏ธ | ||||
| Amazon Sagemaker | โ๏ธ | โ๏ธ | โ๏ธ | ||
| Text Embedding Inference | โ๏ธ | โ๏ธ | |||
| GPUStack | โ๏ธ(๐ ๏ธ)(๐) | โ๏ธ | โ๏ธ | ||
| GPUStack | โ๏ธ(๐ง๏ธ)(๐) | โ๏ธ | โ๏ธ | โ๏ธ | โ๏ธ |
This table is continuously updated. We also keep track of model providers requested by community members here. If youโd like to see a model provider not listed above, please consider contributing by making a PR. To learn more, check out our contribution.md Guide.
Edit this page | Report an issue