⚔️ LineageW Auto Tool

Bài viết - Thư viện - Hướng dẫn

Tối ưu AI nhận diện với CUDA

Tận dụng GPU NVIDIA để tăng tốc độ nhận diện AI trong L2 Auto Key — giảm độ trễ, ổn định hơn khi chạy dài.

Tại sao nên dùng CUDA?

~5–10×
Tốc độ inference nhanh hơn CPU đơn thuần
CPU nhẹ hơn
Tải AI chuyển sang GPU, CPU xử lý việc khác
Ổn định hơn
Giảm giật lag khi chạy bot dài giờ

Yêu cầu

  • GPU NVIDIA (GTX 900 series trở lên khuyến nghị)
  • Windows 10/11 64-bit
  • Driver NVIDIA phiên bản 520.0+
  • Dung lượng trống khoảng 3–4 GB để cài CUDA Toolkit
  • L2 Auto Key chạy từ source code (bản .venv)

Bước 1 – Kiểm tra GPU của bạn

Mở Task Manager → Performance → GPU hoặc chạy lệnh sau trong CMD:

nvidia-smi

Nếu thấy tên GPU NVIDIA (GTX / RTX / Quadro…) và thông tin CUDA Version hiện ra → GPU của bạn đủ điều kiện.

⚠️ Chỉ hỗ trợ GPU NVIDIA. AMD / Intel chỉ dùng được DirectML (tốc độ thấp hơn CUDA).

Bước 2 – Cài CUDA Toolkit

Truy cập trang tải NVIDIA: developer.nvidia.com/cuda-downloads

  • Chọn: Windows → x86_64 → 11 → exe (local)
  • Tải và cài bản CUDA 12.x (khuyến nghị 12.4 trở lên)
  • Sau khi cài xong, mở CMD và kiểm tra:
nvcc --version

Nếu hiện Cuda compilation tools, release 12.x là thành công.

Bước 3 – Cài onnxruntime-gpu

Mở CMD hoặc PowerShell trong thư mục bot-app, kích hoạt venv rồi chạy lần lượt:

.venv\Scripts\activate
pip uninstall onnxruntime -y
pip install onnxruntime-gpu
💡 onnxruntime (CPU) và onnxruntime-gpu không cài đồng thời được — phải gỡ bản cũ trước.

Bước 4 – Kiểm tra kết quả

Chạy lệnh sau để xác nhận CUDA đã được nhận diện:

.venv\Scripts\python.exe -c "import onnxruntime as ort; print(ort.get_available_providers())"

Kết quả mong đợi:

['CUDAExecutionProvider', 'CPUExecutionProvider']

Khởi động lại L2 Auto Key. Phần mềm sẽ tự động dùng CUDA nếu có, fallback về CPU nếu không có — không cần thay đổi thêm gì.

Lưu ý – Tự động fallback

L2 Auto Key phiên bản mới đã tích hợp cơ chế tự chọn provider theo thứ tự ưu tiên:

  1. CUDA — GPU NVIDIA có cài CUDA Toolkit
  2. DirectML — GPU bất kỳ trên Windows (NVIDIA/AMD/Intel, không cần CUDA)
  3. CPU — fallback cuối, hoạt động trên mọi máy

Không cần cấu hình thêm — phần mềm tự nhận GPU phù hợp khi khởi động.

Câu hỏi thường gặp

GPU AMD hoặc Intel có dùng được không?

Được, nhưng dùng DirectML thay vì CUDA. Cài onnxruntime-directml thay cho onnxruntime-gpu. Tốc độ cải thiện nhưng không bằng CUDA trên NVIDIA.

Bản .exe có hỗ trợ CUDA không?

Bản .exe đóng gói sẵn thư viện CPU. Để dùng CUDA cần chạy từ source code với venv đã cài onnxruntime-gpu.

Lỗi CUDA_ERROR_NO_DEVICE khi chạy?

Kiểm tra lại driver NVIDIA, thử cài lại CUDA Toolkit. Nếu vẫn lỗi, phần mềm sẽ tự fallback về CPU.