Máy chủ mới của Nvidia giúp các mô hình AI tăng hiệu suất 10 lần

Biểu tượng của Tập đoàn Nvidia. Ảnh: REUTERS/TTXVN

Đáng chú ý, hiệu suất này được ghi nhận với cả các mô hình AI từ Trung Quốc như DeepSeek và Moonshoot AI.

Cụ thể, Nvidia cho biết máy chủ AI mới nhất được tích hợp 72 chip hàng đầu trong một máy tính duy nhất với các liên kết tốc độ cao. Chúng đã giúp cải thiện hiệu suất của mô hình Kimi K2 Thinking do Moonshot AI phát triển lên gấp 10 lần so với thế hệ máy chủ Nvidia trước đó.

Mức tăng hiệu suất tương tự cũng được ghi nhận với các mô hình của DeepSeek. Theo Nvidia, lợi thế này chủ yếu đến từ số lượng lớn chip mà hãng có thể tích hợp vào một máy chủ duy nhất cùng với các liên kết tốc độ cao giữa chúng. Đây là lĩnh vực mà Nvidia vẫn giữ được ưu thế so với các đối thủ.

Dữ liệu của Nvidia tập trung vào các mô hình AI theo kiến trúc "hỗn hợp chuyên gia". Kỹ thuật này giúp các mô hình AI hoạt động hiệu quả hơn bằng cách chia nhỏ câu hỏi và giao cho các "chuyên gia" bên trong mô hình xử lý.

Kiến trúc này trở nên phổ biến sau khi công ty DeepSeek của Trung Quốc gây chấn động với một mô hình mã nguồn mở hiệu suất cao mà không cần đào tạo nhiều trên chip Nvidia vào đầu năm 2025. Kể từ đó, cách tiếp cận đó đã được áp dụng rộng rãi bởi OpenAI (nhà phát triển ChatGPT), Mistral của Pháp và Moonshoot AI của Trung Quốc – công ty cũng đã ra mắt một mô hình mã nguồn mở được đánh giá cao vào tháng Bảy.

Nvidia đang muốn chứng minh rằng mặc dù các mô hình này có thể yêu cầu ít thời gian huấn luyện hơn trên chip của hãng, nhưng phần cứng của Nvidia vẫn là lựa chọn tối ưu để triển khai chúng đến người dùng cuối.

Hiện tại, đối thủ của Nvidia là AMD cũng đang phát triển một máy chủ tương tự, tích hợp nhiều chip mạnh mẽ và dự kiến sẽ ra mắt thị trường vào năm tới.

Thông tin trên xuất hiện trong bối cảnh thế giới AI đang chuyển trọng tâm từ việc đào tạo các mô hình AI sang việc triển khai chúng cho hàng triệu người dùng. Trong khi Nvidia đang thống trị lĩnh vực đào tạo AI, công ty lại phải đối mặt với sự cạnh tranh gay gắt hơn từ các đối thủ như Advanced Micro Devices và Cerebras trong mảng triển khai ứng dụng thực tế.