Docker

@docker

Models

QWQ

Phi 4

Smollm 2

Qwen 2.5

Mxbai Embed Large

Mistral

Mistral Nemo

Llama 3.3

Llama 3.2

Llama 3.1

Gemma 3

Deepseek R 1 Distill Llama

Mistral 12B F4

Llama 3.2 3B F4

Llama 3.2 1B

Llama 3.1 8B F4

Llama 3.1 70B F4

Gemma 3 Qat 4B F4

Gemma 3 Qat 27B F4

Gemma 3 Qat 1B F4

Gemma 3 Qat 12B F4

Gemma 3 4B F4

Smollm 2

Qwq 5B F16

Qwen 2.5 61B F16

Phi 4 14B F16

Llama 3.2 3B F16

Llama 3.2 1B F16

Llama 3.1 8B F16

Gemma 3 4B F16

Smollm 2

Qwq 5B F4

Qwen 2.5 61B F4

Phi 4 14B F4