Meta dự kiến nhận được các lô chip cao cấp của Nvidia vào cuối năm nay

Nvidia, nhà thiết kế hàng đầu về chip xử lý đồ họa (GPU), đã công bố loại chip mới mang tên Blackwell B200 tại hội nghị nhà phát triển thường niên diễn ra ngày 18/3.

Nvidia cho biết, B200 nhanh hơn 30 lần trong các tác vụ như đưa ra câu trả lời từ chatbot, mặc dù họ không cung cấp thông tin chi tiết cụ thể về hiệu quả hoạt động của nó khi xử lý lượng dữ liệu khổng lồ để đào tạo các chatbot đó.

Giám đốc tài chính của Nvidia, Colette Kress, dự kiến loại chip trên được sẽ tung ra thị trường vào cuối năm nay, nhưng cũng cho biết số lượng xuất xưởng GPU mới sẽ không tăng cho đến năm 2025.

“Gã khổng lồ” trong lĩnh vực truyền thông xã hội Meta là một trong những khách hàng lớn nhất của Nvidia, sau khi mua hàng trăm nghìn thế hệ chip trước đây của hãng để hỗ trợ đẩy mạnh hệ thống đề xuất nội dung nâng cao và các sản phẩm AI tạo sinh.

Giám đốc điều hành Meta Mark Zuckerberg hồi tháng Một cho hay doanh nghiệp này đã lên kế hoạch đưa khoảng 350.000 con chip H100  hiện hành vào kho dự trữ vào cuối năm nay. Ông nói thêm, khi kết hợp với các GPU khác, Meta sẽ có tương đương khoảng 600.000 H100.

Trong một tuyên bố, ông Zuckerberg cho biết Meta có kế hoạch sử dụng Blackwell để đào tạo các mô hình ngôn ngữ lớn Llama. Công ty hiện đang đào tạo thế hệ thứ ba của mô hình trên hai cụm GPU, mỗi cụm chứa khoảng 24.000 GPU H100.

Người phát ngôn của Meta cho biết, Meta đã lên kế hoạch tiếp tục sử dụng các cụm trên để huấn luyện Llama đời thứ ba và sẽ sử dụng Blackwell cho các thế hệ mô hình tương lai.