GPU Nvidia GeForce cũ được mở khóa sức mạnh AI, benchmark tăng tới 80%

Một số dự án mã nguồn mở đang tìm cách khai thác lỗ hổng firmware trên GPU Nvidia GeForce RTX 20, 30 và 40 series để mở khóa hiệu năng tính toán AI. Kết quả thử nghiệm cho thấy một số phép tính ma trận có thể tăng tốc tới 80%, thậm chí hiệu năng Tensor lý thuyết trên RTX 4090 gần như tăng gấp đôi. Tuy nhiên, lợi ích thực tế còn phụ thuộc vào ứng dụng, trong khi việc can thiệp firmware tiềm ẩn nhiều rủi ro.

Khai thác lỗ hổng firmware để mở khóa hiệu năng GPU Nvidia

Theo Tom’s Hardware, các nhà phát triển cộng đồng đã tìm ra phương pháp thay đổi cách một số GPU Nvidia GeForce xử lý những phép tính AI sử dụng định dạng FP16 và BF16 với kết quả tích lũy FP32.

FP16 và BF16 là hai định dạng số thường được sử dụng trong các tác vụ trí tuệ nhân tạo nhờ khả năng tăng tốc tính toán và giảm yêu cầu tài nguyên so với những định dạng có độ chính xác cao hơn. Trong khi đó, việc tích lũy kết quả bằng FP32 có thể giúp duy trì độ chính xác số học trong quá trình xử lý.

Trên một số GPU Nvidia GeForce bị ảnh hưởng, tốc độ thực hiện những phép tính này bị giới hạn so với chế độ tích lũy FP16. Đáng chú ý, giới hạn tương tự không xuất hiện trên một số dòng GPU chuyên nghiệp.

Để giải quyết vấn đề, cộng đồng phát triển các công cụ như gpu-unlock cho RTX 30 series, gpu-unlock-ada cho RTX 40 series và turing-unlock cho một số GPU RTX 20 series.

Các công cụ này không bổ sung nhân xử lý hay đơn thuần ép xung GPU Nvidia. Thay vào đó, chúng khai thác lỗi tràn bộ đệm trong firmware SEC2 Booter để thay đổi hai thanh ghi điều khiển tốc độ xử lý bên trong GPU. Sau đó, card đồ họa được khởi động lại trước khi trình điều khiển Nvidia được nạp.

Phiên bản dành cho Linux hoạt động dưới dạng mô-đun nhân hệ điều hành, không yêu cầu chỉnh sửa trực tiếp trình điều khiển Nvidia hoặc ghi đè vĩnh viễn VBIOS. Dù vậy, phương pháp này vẫn đòi hỏi can thiệp sâu vào quá trình khởi động hệ thống, không phù hợp với người dùng phổ thông nếu chưa hiểu rõ các rủi ro kỹ thuật.

RTX 4090 gần gấp đôi hiệu năng Tensor lý thuyết

Kết quả thử nghiệm được công bố từ dự án gpu-unlock-ada cho thấy RTX 4090 có mức cải thiện đáng kể về thông lượng tính toán Tensor FP16 và BF16.

Cụ thể, hiệu năng FP16 tăng từ 165,6 TFLOPS lên 331,6 TFLOPS, trong khi BF16 tăng từ 165,5 TFLOPS lên 330,6 TFLOPS. Như vậy, thông lượng tính toán lý thuyết của GPU Nvidia gần như tăng gấp đôi sau khi áp dụng phương pháp mở khóa.

Tuy nhiên, con số TFLOPS lý thuyết không đồng nghĩa mọi ứng dụng AI đều chạy nhanh gấp đôi. Trong thử nghiệm nhân ma trận thực tế bằng thư viện cuBLAS, mức cải thiện FP16 trên RTX 4090 chỉ đạt khoảng 12–34%, còn BF16 tăng tối đa khoảng 20%.

Sự khác biệt này cho thấy hiệu năng thực tế còn phụ thuộc vào cách phần mềm triển khai phép tính, kích thước ma trận, khả năng tận dụng phần cứng và giới hạn công suất của GPU Nvidia. Kết quả từ một hệ thống thử nghiệm cũng chưa đủ để đại diện cho toàn bộ cấu hình máy tính.

Không chỉ RTX 4090, một số GPU GeForce thế hệ trước cũng được ghi nhận cải thiện hiệu năng sau khi mở khóa.

Theo các kết quả được cộng đồng chia sẻ, RTX 3090 Ti tăng khoảng 35% với FP16, 80% với BF16 và 94% với TF32. RTX 3090 được ghi nhận tăng khoảng 25–67%, RTX 3080 10 GB tăng 70–73%, RTX 3070 tăng 73–81%, còn RTX 3060 12 GB tăng khoảng 80% trong một số bài kiểm tra BF16.

Các mức tăng này không thể so sánh trực tiếp vì được đo trên những hệ thống, điều kiện vận hành và kích thước ma trận khác nhau. Khi GPU chạm giới hạn điện năng, hiệu quả thực tế cũng có thể thấp hơn đáng kể.

Với RTX 40 series, RTX 4090 hiện là mẫu có kết quả thử nghiệm rõ ràng nhất. RTX 4090 D, RTX 4070 Ti Super và RTX 4060 Ti 16 GB vẫn đang trong giai đoạn thử nghiệm. Các GPU Nvidia RTX 50 series chưa được hỗ trợ theo thông tin được công bố.

AI xử lý nhanh hơn, nhưng tốc độ sinh token gần như không đổi

Hiệu quả của phương pháp mở khóa phụ thuộc đáng kể vào loại tác vụ AI. Những công việc sử dụng nhiều phép nhân ma trận có khả năng hưởng lợi rõ rệt hơn so với các tác vụ bị giới hạn bởi những yếu tố khác.

Chẳng hạn, giai đoạn prefill của mô hình ngôn ngữ lớn (LLM), tức quá trình xử lý dữ liệu đầu vào trước khi bắt đầu sinh câu trả lời, được ghi nhận tăng tốc khoảng 14–36% trên một số GPU Nvidia kiến trúc Ampere.

Một số tác vụ tạo ảnh bằng AI và kỹ thuật FlashAttention cũng được báo cáo có cải thiện hiệu năng. Đây là những kết quả đáng chú ý đối với người dùng tận dụng GPU GeForce cũ để chạy mô hình AI cục bộ, bởi khả năng tính toán ma trận có ảnh hưởng lớn đến thời gian xử lý.

Ngược lại, tốc độ sinh từng token của LLM gần như không thay đổi. Nguyên nhân là giai đoạn này thường chịu ảnh hưởng đáng kể từ băng thông bộ nhớ, thay vì chỉ phụ thuộc vào thông lượng tính toán Tensor.

Các tác vụ sử dụng INT8 cũng không được hưởng lợi nhiều từ phương pháp trên. Đáng chú ý, hiện chưa có kết quả thử nghiệm độc lập đủ cơ sở để khẳng định việc mở khóa giúp tăng FPS trong game.

Do đó, không nên hiểu rằng một chiếc RTX 3070 hoặc RTX 3090 sau khi chỉnh sửa sẽ trở thành GPU Nvidia mạnh hơn tương ứng 70–80% trong mọi công việc. Mức tăng chủ yếu xuất hiện ở những phép tính và ứng dụng phù hợp với giới hạn được gỡ bỏ.

Rủi ro lớn với người dùng muốn tận dụng GPU Nvidia cũ chạy AI

Dù mang lại kết quả đáng chú ý, các dự án mở khóa vẫn đang ở giai đoạn thử nghiệm và chưa phải giải pháp ổn định dành cho người dùng GPU Nvidia phổ thông.

Việc can thiệp vào firmware và quá trình khởi động có thể khiến hệ thống treo, không thể khởi động hoặc phát sinh lỗi trong quá trình vận hành. Những sự cố này còn có nguy cơ dẫn đến mất dữ liệu. Nhà phát triển cũng cảnh báo về khả năng gây hư hại phần cứng, dù mức độ rủi ro cụ thể còn phụ thuộc vào phương pháp thực hiện và từng hệ thống.

Vì vậy, người dùng GPU Nvidia không nên áp dụng trên máy tính đang phục vụ công việc quan trọng hoặc chứa dữ liệu chưa được sao lưu. Việc thử nghiệm chỉ nên được cân nhắc khi đã hiểu rõ quy trình khôi phục hệ thống và chấp nhận những rủi ro đi kèm.

Nvidia chưa đưa ra phản hồi về các công cụ nói trên theo thông tin được cung cấp. Vì vậy, hiện chưa đủ cơ sở để kết luận hãng cố tình giới hạn hiệu năng nhằm thúc đẩy người dùng chuyển sang GPU chuyên nghiệp.

Đối với người đang sở hữu GPU Nvidia GeForce cũ và muốn chạy AI tại chỗ, phát hiện này mở ra một hướng thử nghiệm đáng chú ý. Tuy nhiên, mức tăng benchmark không đồng nghĩa hiệu năng tổng thể tăng tương ứng. Trước khi cân nhắc can thiệp firmware, người dùng cần đánh giá kỹ lợi ích thực tế, khả năng tương thích và nguy cơ ảnh hưởng đến hệ thống.