Chip AI Trung Quốc Axera AX8860 thách thức NVIDIA DGX Spark, tuyên bố nhanh hơn 30% với giá gần một nửa

Axera AX8860 được thiết kế để chạy mô hình ngôn ngữ lớn và tác nhân AI, sở hữu NPU tối đa 256 TOPS, hỗ trợ bộ nhớ LPDDR5X lên đến 128 GB. Theo thử nghiệm do Sipeed công bố, thiết bị sử dụng chip này có thể xử lý nhanh hơn NVIDIA DGX Spark tới 30% ở một số tác vụ, trong khi giá bán dự kiến thấp hơn đáng kể.

Thị trường phần cứng AI đang xuất hiện thêm một đối thủ đến từ Trung Quốc. Axera vừa giới thiệu AX8860, dòng chip hướng đến các hệ thống chạy mô hình ngôn ngữ lớn (LLM) và tác nhân AI ngay trên thiết bị, thay vì phụ thuộc hoàn toàn vào máy chủ đám mây.

Theo Sipeed, đơn vị phát triển các thiết bị sử dụng chip Axera, hệ thống AX8860 khi chạy mô hình Qwen 27B đạt tốc độ xử lý đầu vào nhanh hơn 25% và tốc độ sinh kết quả nhanh hơn 30% so với NVIDIA DGX Spark. Công ty cũng cho biết mức giá của thiết bị có thể chỉ bằng gần một nửa đối thủ.

Tuy nhiên, đây hiện là các số liệu do phía nhà sản xuất công bố, chưa có kết quả kiểm chứng độc lập. Hiệu năng thực tế còn phụ thuộc vào cấu hình thử nghiệm, phiên bản mô hình, phương pháp lượng tử hóa và phần mềm được sử dụng.

AX8860 có NPU 256 TOPS, bộ nhớ LPDDR5X 128 GB

Axera AX8860 được sản xuất trên tiến trình 6 nm, tích hợp CPU Arm Cortex-A55 16 nhân cùng bộ xử lý thần kinh (NPU) có hiệu năng tối đa 256 TOPS. Theo thông số được công bố, mức hiệu năng này được tính ở định dạng FP4, không sử dụng kỹ thuật khai thác độ thưa của dữ liệu.

Chip hỗ trợ giao tiếp PCIe 5.0 và bộ điều khiển bộ nhớ LPDDR5/LPDDR5X với giao tiếp 256 bit. Cấu hình có thể sử dụng tối đa 128 GB LPDDR5X, đạt băng thông bộ nhớ 273 GB/giây.

Dung lượng bộ nhớ lớn là yếu tố quan trọng khi triển khai các mô hình ngôn ngữ lớn. Nếu bộ nhớ không đủ để chứa trọng số mô hình và các dữ liệu trung gian cần thiết, hệ thống có thể phải chia mô hình sang nhiều thiết bị hoặc chuyển dữ liệu qua các cấp bộ nhớ khác, gây thêm độ trễ.

Trong khi đó, băng thông bộ nhớ ảnh hưởng trực tiếp đến tốc độ cung cấp dữ liệu cho bộ xử lý. AX8860 có băng thông được công bố tương đương NVIDIA DGX Spark và nền tảng Ryzen AI Halo của AMD, tạo cơ sở để sản phẩm cạnh tranh trong phân khúc máy tính AI cục bộ.

Dù vậy, cần phân biệt giữa dung lượng bộ nhớ, băng thông và hiệu năng tính toán. NPU đạt 256 TOPS không có nghĩa mọi mô hình đều chạy ở tốc độ tương ứng. Kết quả còn phụ thuộc vào khả năng tối ưu phần mềm, mức độ hỗ trợ các phép toán và hiệu quả sử dụng tài nguyên của từng mô hình.

Ghép nhiều chip để mở rộng sức mạnh xử lý AI

Một điểm đáng chú ý khác của AX8860 là khả năng kết nối nhiều thiết bị thành cụm xử lý. Theo công bố từ nhà sản xuất, hệ thống hỗ trợ kết nối mạng 256 Gbps, cao hơn mức 200 Gbps được nêu cho NVIDIA DGX Spark.

Về lý thuyết, khả năng kết nối tốc độ cao giúp các thiết bị trao đổi dữ liệu khi cùng xử lý một mô hình AI. Điều này có ý nghĩa với những mô hình vượt quá dung lượng bộ nhớ của một thiết bị hoặc cần phân phối khối lượng tính toán trên nhiều bộ xử lý.

Axera đưa ra các mức hiệu năng tổng hợp gồm 512 TOPS khi ghép hai chip và 1.024 TOPS khi ghép bốn chip. Với cấu hình bốn chip, hãng công bố hiệu suất mở rộng đạt 80%.

Tuy nhiên, hiệu suất mở rộng không chỉ phụ thuộc vào tổng năng lực tính toán. Khi mô hình được phân chia giữa nhiều chip, hệ thống còn phải xử lý dữ liệu trao đổi, đồng bộ hóa và phân phối công việc. Vì vậy, mức hiệu suất do nhà sản xuất công bố cần được kiểm chứng bằng các bài thử nghiệm thực tế trên nhiều mô hình và cấu hình khác nhau.

Nhiều dạng thiết bị, từ mô-đun 40 W đến card bốn chip

Theo thông tin từ Sipeed, AX8860 và AX8860P sẽ được triển khai trên nhiều dạng phần cứng, phục vụ các nhu cầu từ hệ thống nhỏ gọn đến thiết bị tăng tốc AI chuyên dụng.

Phiên bản cơ bản là mô-đun có công suất khoảng 40 W. Ngoài ra, sản phẩm còn có dạng card PCIe một khe cắm, sử dụng kết nối PCIe Gen5 x4, tích hợp cổng mạng, cổng xuất hình và quạt làm mát.

Cấu hình cao hơn là card bốn chip trong thiết kế một khe cắm, với hệ thống tản nhiệt gồm bốn quạt và đầu cấp nguồn 8 chân tiêu chuẩn. Axera cũng đang phát triển các thiết bị hoàn chỉnh như máy tính mini và máy tính bỏ túi sử dụng nền tảng này.

Nếu được triển khai hiệu quả, cách tiếp cận trên có thể giúp AX8860 xuất hiện trong nhiều môi trường, từ phòng thí nghiệm AI, máy tính cá nhân phục vụ phát triển mô hình đến các hệ thống suy luận chuyên dụng. Tuy nhiên, công suất tiêu thụ, nhiệt độ vận hành và hiệu năng trên mỗi watt vẫn là những yếu tố cần được đánh giá khi sản phẩm thương mại xuất hiện.

Hỗ trợ vLLM, SGLang và PyTorch, lộ trình còn AX8950 và AX8970

Ngoài phần cứng, hệ sinh thái phần mềm sẽ quyết định khả năng tiếp cận người dùng của chip AI AX8860. Sipeed cho biết nền tảng hỗ trợ các công cụ như vLLM, SGLang và PyTorch, vốn được sử dụng trong quá trình phát triển, tối ưu và triển khai mô hình AI.

Dù vậy, việc công bố hỗ trợ các công cụ phổ biến không đồng nghĩa mọi tính năng đều hoạt động đầy đủ như trên nền tảng NVIDIA. Khả năng tương thích với từng mô hình, toán tử, thư viện tăng tốc và quy trình triển khai vẫn cần được kiểm tra cụ thể.

Về kế hoạch thương mại hóa, Sipeed cho biết các trang đặt trước thiết bị như MaixStation sẽ mở trong thời gian ngắn và sản phẩm dự kiến có mặt trong năm 2026. Lộ trình của Axera cũng đề cập đến AX8950 với hiệu năng tối đa 500 TOPS và AX8970 vượt 700 TOPS. Đây là các mục tiêu được công bố, chưa phải kết quả đã được xác minh trên sản phẩm thương mại.

Liệu AX8860 có thực sự thay thế được NVIDIA DGX Spark?

Điểm hấp dẫn nhất của AX8860 là sự kết hợp giữa dung lượng bộ nhớ lớn, khả năng ghép cụm và mức giá được quảng bá là thấp hơn đáng kể so với NVIDIA DGX Spark. Nếu các thông số được xác nhận trong thử nghiệm độc lập, đây có thể là lựa chọn đáng chú ý cho người dùng muốn chạy mô hình AI cục bộ mà không cần đầu tư hệ thống quá đắt đỏ.

Tuy nhiên, tuyên bố nhanh hơn 25–30% cần được xem xét trong đúng điều kiện thử nghiệm. Tốc độ xử lý đầu vào (prefill) phản ánh khả năng xử lý lượng văn bản đưa vào mô hình, trong khi tốc độ sinh kết quả (decode) liên quan đến quá trình tạo từng token đầu ra. Một thiết bị có thể vượt trội ở một công đoạn nhưng không nhất thiết nhanh hơn trong mọi tình huống sử dụng.

Giá bán của AX8860 cũng chưa đủ rõ ràng để đưa ra so sánh chính xác. Mức giá “gần một nửa” chưa xác định được đối chiếu với phiên bản NVIDIA DGX Spark dung lượng 128 GB hay cấu hình 64 GB. Ngoài giá mua ban đầu, người dùng còn cần tính đến chi phí hệ thống, điện năng, khả năng tương thích phần mềm và công sức tối ưu mô hình.

Ở thời điểm hiện tại, AX8860 là một nền tảng đáng chú ý trên giấy tờ, nhưng chưa thể kết luận đây là đối thủ thay thế trực tiếp NVIDIA DGX Spark. Những bài đánh giá độc lập, có cùng mô hình và điều kiện thử nghiệm, sẽ là cơ sở quan trọng để xác định hiệu năng thực tế và giá trị mà chip AI của Axera mang lại.