EN // ENGLISH
R1-REASONING // Mô hình Suy luận Chuỗi (CoT)

Cấu Hình VPS Chạy DeepSeek-R1 Trên Ollama (Bản 7B, 14B, 32B & 70B Distill) — VRAMForge

VRAMForge Blueprint: DeepSeek-R1 sinh chuỗi suy luận <think> rất dài (2.000–8.000 token mỗi câu trả lời), đòi hỏi bộ nhớ đệm KV-cache rộng và băng thông RAM DDR5/VRAM cao hơn hẳn các LLM chat thông thường. Chúng tôi đối chiếu trọng số nén và KV-cache dưới đây theo biểu phí nhà cung cấp ngày 2026-11-12.

Nạp R1-REASONING vào Bàn Tính VRAMForge →

Bảng Định Cỡ Trọng Số & KV-Cache R1-REASONING Trên VRAMForge

Biến Thể Cấu Hình Trọng Số / Cốt Lõi Đệm KV / Phụ Trợ Phân Khúc Khuyên Dùng Tốc Độ Ước Tính
DeepSeek-R1-Distill-Qwen-7B (Q4_K_M) 4.7 GB 2.1 GB 16 GB RAM (Hostinger KVM 4) 17–22 tok/s CPU • 95 tok/s GPU
DeepSeek-R1-Distill-Qwen-14B (Q4_K_M) 9.0 GB 3.2 GB 16–32 GB RAM (Hostinger KVM 8) 10–13 tok/s CPU • 64 tok/s GPU
DeepSeek-R1-Distill-Qwen-32B (Q4_K_M) 19.9 GB 4.5 GB 32–64 GB VDS (UltaHost 64GB) 6–8 tok/s VDS • 42 tok/s L40S
DeepSeek-R1-Distill-Llama-70B (Q4_K_M) 42.8 GB 6.2 GB 64GB VDS / Vultr A100 80GB 3.4 tok/s VDS • 28 tok/s A100

Lệnh Khởi Chạy CLI & Tinh Chỉnh R1-REASONING Trên VRAMForge

# Production Ollama tuning for DeepSeek-R1 long <think> reasoning chains
curl -fsSL https://ollama.com/install.sh | sh
mkdir -p /etc/systemd/system/ollama.service.d
cat <<'EOF' >/etc/systemd/system/ollama.service.d/override.conf
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_FLASH_ATTENTION=1"
Environment="OLLAMA_KV_CACHE_TYPE=q8_0"
Environment="OLLAMA_NUM_PARALLEL=2"
EOF
systemctl daemon-reload && systemctl restart ollama
ollama run deepseek-r1:14b

Hạ Tầng Khớp Dung Lượng Cho R1-REASONING (Giá Công Khai 2026-11-12) — VRAMForge

ALT TIER // NVIDIA-GPU

Vultr Cloud GPU (NVIDIA A16 / L40S / A100 / H100) & High Frequency — VRAMForge

Thuê GPU NVIDIA (16GB–80GB VRAM) theo giờ tại cụm Singapore & Tokyo • Tốc độ 45–110 tok/s (2026-11-12)

Triển khai Vultr ($24+/tháng) qua VRAMForge →

Câu Hỏi Kỹ Thuật Về R1-REASONING Trên VRAMForge