RunPod

Hugging Face

最大的开源模型与数据集社区，可在线试用与部署。

Replicate

用 API 调用各类开源模型，按用量计费，无需自建。

OpenRouter

一个接口访问上百个大模型，方便比价与切换。

ModelScope

阿里的开源模型社区，中文模型与数据集丰富。

Together AI

开源模型推理与微调平台，速度与价格有优势。

Groq

推理速度极快的托管平台，适合对延迟敏感的场景。

Ollama

一条命令在本地跑开源模型，隐私敏感场景的首选。

LM Studio

本地大模型的图形界面，不用命令行也能用。

SiliconFlow

国内的模型 API 平台，常用开源模型都有，价格低。

主打低延迟推理，适合对响应速度敏感的线上应用。

按需拉起 GPU 跑 Python 任务，适合批量推理和训练。