smart_toy
WebLLM Chat
选择模型:
Llama-3.2-1B q4f16_1 (879MB VRAM)
Llama-3.2-1B q4f32_1 (1.1GB VRAM)
Llama-3.2-3B q4f16_1 (2.3GB VRAM)
Llama-3.2-3B q4f32_1 (3GB VRAM)
Llama-3.1-8B q4f16_1 (5GB VRAM)
Llama-3.1-8B q4f32_1 (6.1GB VRAM)
Llama-3.1-8B q4f16_1-1k (4.6GB VRAM)
Llama-3.1-8B q4f32_1-1k (5.3GB VRAM)
DeepSeek-R1-Qwen-7B q4f16_1 (5.1GB VRAM)
DeepSeek-R1-Qwen-7B q4f32_1 (5.9GB VRAM)
DeepSeek-R1-Llama-8B q4f16_1 (5GB VRAM)
DeepSeek-R1-Llama-8B q4f32_1 (6.1GB VRAM)
Hermes-3-Llama-3.2-3B q4f16_1 (2.3GB VRAM)
Hermes-3-Llama-3.2-3B q4f32_1 (3GB VRAM)
Hermes-3-Llama-3.1-8B q4f16_1 (4.9GB VRAM)
Hermes-3-Llama-3.1-8B q4f32_1 (5.8GB VRAM)
Phi-3.5-mini q4f16_1 (3.7GB VRAM)
Phi-3.5-mini q4f32_1 (5.5GB VRAM)
Phi-3.5-mini q4f16_1-1k (2.5GB VRAM)
Phi-3.5-mini q4f32_1-1k (3.2GB VRAM)
Hermes-2-Pro-Mistral-7B q4f16_1 (4GB VRAM)
Phi-3.5-vision q4f16_1 (4GB VRAM)
Phi-3.5-vision q4f32_1 (5.9GB VRAM)
download
加载模型
send
发送