Chip AI đầu tiên trên thế giới xử lý mô hình ngôn ngữ lớn với mức tiêu thụ năng lượng thấp
Một nhóm nghiên cứu tại Viện Khoa học và Công nghệ tiên tiến Hàn Quốc (KAIST) đã phát triển chip bán dẫn trí tuệ nhân tạo (AI) đầu tiên trên thế giới có khả năng xử lý mô hình ngôn ngữ lớn (LLM) với mức tiêu thụ năng lượng cực thấp.
Theo hãng tin Yonhap, Bộ Khoa học và Công nghệ thông tin Hàn Quốc ngày 6/3 cho biết nhóm nghiên cứu, do Giáo sư Yoo Hoi-jun tại Trung tâm nghiên cứu chất bán dẫn KAIST PIM làm trưởng nhóm, đã phát triển chip AI có khả năng xử lý mô hình ngôn ngữ GPT-2 của công ty OpenAI (Mỹ) với mức tiêu thụ điện năng cực thấp - chỉ 400 miliwatt - và tốc độ cao 0,4 giây.
Con chip vuông 4,5 mm, được phát triển theo quy trình 28 nanomet của Tập đoàn Samsung Electronics, có mức tiêu thụ điện năng ít hơn 625 lần so với con chip GPU A-100 của "gã khổng lồ" chip AI toàn cầu Nvidia, vốn cần 250 watt điện để xử lý LLM. Con chip do KAIST phát triển cũng có diện tích nhỏ hơn 41 lần so với sản phẩm của Nvidia, do đó có thể sử dụng trên các thiết bị như điện thoại di động.
Bộ Khoa học và Công nghệ thông tin Hàn Quốc cho biết việc sử dụng công nghệ điện toán mô phỏng não người, đặc biệt là mạng lưới thần kinh tăng đột biến (SNN), là yếu tố cần thiết để đạt được thành tựu này.
Trước đây, công nghệ này kém chính xác hơn mạng lưới thần kinh sâu (DNN) và chủ yếu có khả năng phân loại hình ảnh đơn giản. Tuy nhiên, nhóm nghiên cứu đã thành công trong việc cải thiện độ chính xác của công nghệ để phù hợp với DNN và ứng dụng cho LLM.
Nhóm nghiên cứu cho biết chip AI mới của họ có thể tối ưu hóa mức tiêu thụ năng lượng tính toán trong khi vẫn duy trì độ chính xác bằng cách sử dụng kết hợp DNN và SNN, đồng thời tinh chỉnh hiệu quả các tham số lớn của LLM.
Tin liên quan
-
Phân tích - Dự báo
Ảnh hưởng toàn cầu từ động thái tăng tích trữ chip của Trung Quốc
05:30' - 04/03/2024
Nhu cầu mạnh mẽ từ Trung Quốc giúp bù đắp những yếu kém trong kinh doanh của các công ty bán dẫn toàn cầu vào năm ngoái, đặc biệt là các công ty sản xuất chip bộ nhớ, khi chi tiêu vốn tăng chậm lại.
-
DN cần biết
Ấn Độ phê duyệt ba nhà máy sản xuất chip trị giá hơn 15 tỷ USD
16:04' - 01/03/2024
Ấn Độ đang từng bước khẳng định tham vọng trở thành trung tâm bán dẫn lớn của thế giới, đồng thời thu hút các công ty nước ngoài đến thiết lập hoạt động tại nước này.
Tin cùng chuyên mục
-
Công nghệ
Microsoft đầu tư gần 10 tỷ USD cho các dự án AI ở nước ngoài
07:45'
Hãng công nghệ Microsoft của Mỹ thông báo đã đầu tư gần 10 tỷ USD cho các dự án trí tuệ nhân tạo (AI) ở nước ngoài trong những tháng gần đây nhằm duy trì vị trí dẫn đầu thị trường quan trọng này.
-
Công nghệ
"Gã khổng lồ" công nghệ Meta ghi nhận lợi nhuận tăng mạnh
08:46' - 27/04/2024
Tập đoàn Meta công bố báo cáo cho thấy lợi nhuận quý I/2024 của “gã khổng lồ” công nghệ này tăng mạnh so với quý trước đó.
-
Công nghệ
Nvidia mua lại công ty trí tuệ nhân tạo Run:ai của Israel
08:52' - 26/04/2024
Theo thông báo được công bố ngày 25/4, "gã khổng lồ" công nghệ Nvidia của Mỹ đã ký thỏa thuận mua lại công ty trí tuệ nhân tạo (AI) Run:ai của Israel.
-
Công nghệ
Nhật Bản thắt chặt xuất khẩu các công nghệ tiên tiến
09:23' - 25/04/2024
Nhật Bản sẽ yêu cầu các công ty tư nhân đang tìm cách xuất khẩu các công nghệ tiên tiến như khoa học lượng tử phải có thông báo trước với Bộ Kinh tế, Thương mại và Công nghiệp (METI) về vấn đề này.
-
Công nghệ
Việt Nam cần hoàn thiện khung pháp lý về quản lý tài sản ảo
15:53' - 24/04/2024
Không có khung pháp lý đối với tài sản ảo và các tổ chức cung ứng dịch vụ tài sản ảo đang là thách thức đối với nhiều quốc gia trên thế giới, trong đó có Việt Nam.
-
Công nghệ
Tesla có thể bắt đầu bán robot Optimus vào cuối năm tới
11:13' - 24/04/2024
Robot hình người có tên gọi là Optimus của Tesla vẫn đang được phát triển trong phòng thí nghiệm, nhưng có thể sẵn sàng để được đưa ra thị trường vào cuối năm sau.
-
Công nghệ
Sử dụng AI để điều chỉnh thuốc phù hợp với người dân châu Phi
10:21' - 24/04/2024
Theo phóng viên TTXVN tại Pretoria, các nhà khoa học Nam Phi đang sử dụng trí tuệ nhân tạo (AI) để điều chỉnh thuốc chữa bệnh phù hợp với người dân châu Phi.
-
Công nghệ
Nhật Bản yêu cầu Google cải cách các hoạt động kinh doanh
09:46' - 24/04/2024
Ngày 22/4, cơ quan giám sát chống độc quyền của Nhật Bản cho biết đã yêu cầu Tập đoàn Google phải tự nguyện cải cách các hoạt động kinh doanh của mình.
-
Công nghệ
"Gã khổng lồ" công nghệ Meta bứt tốc trong cuộc đua thực tế ảo
07:03' - 24/04/2024
Meta Platforms lần đầu tiên chia sẻ hệ điều hành của tai nghe Quest với các nhà sản xuất thiết bị đối thủ, trong nỗ lực mở rộng ảnh hưởng của hãng trong ngành công nghiệp thực tế ảo