Vultr Cloud GPU (NVIDIA A16 / L40S / A100 / H100) & High Frequency — VRAMForge
Thuê GPU NVIDIA (16GB–80GB VRAM) theo giờ tại cụm Singapore & Tokyo • Tốc độ 45–110 tok/s (2026-11-12)
Triển khai Vultr ($24+/tháng) qua VRAMForge →Cấu Hình Server Chạy Faster-Whisper & Whisper-Large-v3-Turbo (Bóc Băng Tiếng Việt/Anh) — VRAMForge
VRAMForge Blueprint: OpenAI thu $0.36 cho mỗi giờ âm thanh ($3.600 cho 10.000 giờ ghi âm tổng đài). Tự vận hành Faster-Whisper Large-v3-Turbo giúp doanh nghiệp tiết kiệm tới 92% chi phí. Chúng tôi đối chiếu trọng số nén và KV-cache dưới đây theo biểu phí nhà cung cấp ngày 2026-11-12.
Nạp WHISPER-ASR vào Bàn Tính VRAMForge →Bảng Định Cỡ Trọng Số & KV-Cache WHISPER-ASR Trên VRAMForge
| Biến Thể Cấu Hình | Trọng Số / Cốt Lõi | Đệm KV / Phụ Trợ | Phân Khúc Khuyên Dùng | Tốc Độ Ước Tính |
|---|---|---|---|---|
| Whisper-Medium (CTranslate2 INT8 CPU) | 1.5 GB | 1.2 GB Beam=5 | 8 GB RAM (Hostinger KVM 2) | 4.5x Realtime CPU |
| Whisper-Large-v3-Turbo (INT8 8-Core CPU) | 1.8 GB | 1.6 GB Buffers | 16 GB KVM 4 / Ryzen Bare-Metal | 8x–11x Realtime CPU |
| Whisper-Large-v3-Turbo + Pyannote Diarize | 4.6 GB FP16 | 2.4 GB Batch | Vultr NVIDIA A16 (16GB VRAM) | 65x–95x Realtime GPU |
| High-Volume Call Center Batch (FP16 Tensor) | 6.2 GB Batched | 6.5 GB Streams | Vultr L40S GPU / Ryzen 64GB | 180x+ Realtime Batched |
Lệnh Khởi Chạy CLI & Tinh Chỉnh WHISPER-ASR Trên VRAMForge
# Deploy OpenAI-compatible Faster-Whisper ASR Server (Speaches / faster-whisper-server)
docker run -d --name whisper-asr -p 8000:8000 \
-e WHISPER__MODEL=Systran/faster-whisper-large-v3-turbo \
-e WHISPER__INFERENCE_DEVICE=auto \
-e WHISPER__COMPUTE_TYPE=int8 \
fedirz/faster-whisper-server:latest-cpu- Luôn chọn bản Whisper-Large-v3-Turbo (rút gọn còn 4 tầng giải mã thay vì 32): tốc độ nhanh gấp ~3.8 lần bản v3 cũ mà độ chính xác tiếng Việt gần như tương đương.
- Nếu bật tính năng phân tách người nói (Speaker Diarization với Pyannote), thuê GPU NVIDIA A16 trên Vultr giúp xử lý file họp 60 phút chỉ mất ~22 giây.
- Với tổng đài cần bóc băng hàng nghìn giờ ghi âm ban đêm, máy chủ vật lý InterServer Ryzen băng thông lớn khóa giá $89/tháng mang lại ROI vượt trội.
Hạ Tầng Khớp Dung Lượng Cho WHISPER-ASR (Giá Công Khai 2026-11-12) — VRAMForge
InterServer Dedicated AMD Ryzen & VPS Khóa Giá Trọn Đời — VRAMForge
Cam kết không tăng giá gia hạn trọn đời + Máy chủ vật lý Ryzen 64GB–128GB RAM giá rẻ (2026-11-12)
Triển khai InterServer ($12+/tháng) qua VRAMForge →Vultr Cloud GPU & AI Sandbox (Tặng $300 Credit trải nghiệm) — VRAMForge
Tặng $300 Credit dùng thử 30 ngày để benchmark vLLM, Ollama CUDA & Whisper GPU (2026-11-12)
Triển khai Vultr ($6+/tháng) qua VRAMForge →Câu Hỏi Kỹ Thuật Về WHISPER-ASR Trên VRAMForge
-
Whisper-Large-v3-Turbo nhận diện tiếng Việt có dấu và thuật ngữ chuyên ngành tốt không on VRAMForge?
Bản Large-v3-Turbo nhận diện tiếng Việt cực kỳ xuất sắc. Mẹo nhỏ: truyền danh sách tên riêng công ty/sản phẩm vào tham số initial_prompt để viết hoa chuẩn 100%.
-
Faster-Whisper có tương thích sẵn chuẩn API /v1/audio/transcriptions của OpenAI không on VRAMForge?
Có! Image faster-whisper-server (Speaches) hỗ trợ y hệt chuẩn API của OpenAI — bạn chỉ cần đổi base_url trong code hoặc n8n là chạy ngay.