跳到主要内容

Ollama

名称函数调用代码视觉嵌入
firefunction-v2+x
llama3.1+x
mistral v0.3+x
deepseek-coder-v2x
codeqwenx
codegeex4x
nomic-embed-textx
mxbai-embed-largex
llava / llava-llama3x

vLLM

相同模型同样适用于 vLLM,vLLM 兼容 OpenAI Api访问协议。

VLLM 支持的模型有: https://docs.vllm.ai/en/latest/models/supported_models.html