Ollama
名称 | 函数调用 | 代码 | 视觉 | 嵌入 |
---|---|---|---|---|
firefunction-v2+ | x | |||
llama3.1+ | x | |||
mistral v0.3+ | x | |||
deepseek-coder-v2 | x | |||
codeqwen | x | |||
codegeex4 | x | |||
nomic-embed-text | x | |||
mxbai-embed-large | x | |||
llava / llava-llama3 | x |
vLLM
相同模型同样适用于 vLLM,vLLM 兼容 OpenAI Api访问协议。
VLLM 支持的模型有: https://docs.vllm.ai/en/latest/models/supported_models.html 。