EN // ENGLISH
LLAMA-WEBUI // Cổng ChatGPT Nội Bộ Doanh Nghiệp

Triển Khai Llama 3.1 / 3.3 + Open WebUI Làm Cổng ChatGPT Riêng Cho Công Ty — VRAMForge

VRAMForge Blueprint: Thay thế chi phí $25/nhân sự/tháng của ChatGPT Team bằng cổng Open WebUI tự vận hành, hỗ trợ tải tài liệu PDF/DOCX và phân quyền phòng ban. Chúng tôi đối chiếu trọng số nén và KV-cache dưới đây theo biểu phí nhà cung cấp ngày 2026-11-12.

Nạp LLAMA-WEBUI vào Bàn Tính VRAMForge →

Bảng Định Cỡ Trọng Số & KV-Cache LLAMA-WEBUI Trên VRAMForge

Biến Thể Cấu Hình Trọng Số / Cốt Lõi Đệm KV / Phụ Trợ Phân Khúc Khuyên Dùng Tốc Độ Ước Tính
Llama-3.1-8B + Open WebUI (1–4 Users) 4.9 GB 2.0 GB 16 GB RAM (Hostinger KVM 4) 16–20 tok/s DDR5
Llama-3.1-8B + Hybrid RAG (8 Users) 4.9 GB 4.2 GB 32 GB RAM (Hostinger KVM 8) 12–15 tok/s DDR5
Llama-3.3-70B Q4_K_M + WebUI (Team) 42.8 GB 6.8 GB 64 GB VDS (UltaHost) / A100 GPU 3.6 tok/s VDS • 31 tok/s A100

Lệnh Khởi Chạy CLI & Tinh Chỉnh LLAMA-WEBUI Trên VRAMForge

# Docker Compose: Ollama + Open WebUI with persistent volumes
docker network create ai-private
docker run -d --network ai-private -v ollama:/root/.ollama --name ollama ollama/ollama:latest
docker run -d --network ai-private -p 3000:8080 \
  -e OLLAMA_BASE_URL=http://ollama:11434 \
  -e WEBUI_AUTH=True \
  -v open-webui:/app/backend/data \
  --name open-webui ghcr.io/open-webui/open-webui:main
docker exec -it ollama ollama pull llama3.1:8b

Hạ Tầng Khớp Dung Lượng Cho LLAMA-WEBUI (Giá Công Khai 2026-11-12) — VRAMForge

ALT TIER // NVIDIA-GPU

Vultr Cloud GPU (NVIDIA A16 / L40S / A100 / H100) & High Frequency — VRAMForge

Thuê GPU NVIDIA (16GB–80GB VRAM) theo giờ tại cụm Singapore & Tokyo • Tốc độ 45–110 tok/s (2026-11-12)

Triển khai Vultr ($24+/tháng) qua VRAMForge →

Câu Hỏi Kỹ Thuật Về LLAMA-WEBUI Trên VRAMForge