Cerebras tung ra các mô hình mã nguồn mở tương tự ChatGPT
Theo thông báo, Cerebras đã phát hành bảy mô hình, tất cả đều được đào tạo trên siêu máy tính AI có tên Andromeda, bao gồm các mô hình ngôn ngữ nhỏ có 111 triệu tham số và một mô hình ngôn ngữ lớn hơn có 13 tỷ tham số. Một mô hình có càng nhiều tham số thì càng có thể thực hiện các chức năng tổng quát phức tạp hơn.
Ví dụ, chatbot ChatGPT của công ty OpenAI ra mắt vào cuối năm ngoái có 175 tỷ tham số. Chatbot này có thể tạo ra các bài thơ ca và nghiên cứu, từ đó thu hút sự quan tâm và tài trợ lớn của các doanh nghiệp cho hoạt động phát triển AI.
Cerebras cho biết các mô hình AI nhỏ có thể được triển khai trên điện thoại hoặc loa thông minh, trong khi các mô hình lớn hơn chạy trên máy tính cá nhân hoặc máy chủ. Công ty lưu ý các tác vụ phức tạp như tóm tắt đoạn văn lớn yêu cầu các mô hình quy mô lớn hơn.
Tuy nhiên, ông Karl Freund, nhà tư vấn về chip tại công ty nghiên cứu Cambrian AI cho biết “lớn hơn không phải lúc nào cũng tốt hơn”.
Ông Freund nói rằng đã có một số báo cáo cho thấy một mô hình có lượng tham số nhỏ hơn vẫn có thể vận hành chính xác nếu người dùng huấn luyện nó nhiều hơn. Vì vậy, chuyên gia này đánh giá sẽ có một sự đánh đổi giữa một mô hình có quy mô tham số lớn và mô hình được đào tạo sâu hơn.
Ông Andrew Feldman, người sáng lập và Giám đốc điều hành (CEO) của Cerebras cho biết mô hình lớn nhất của công ty mất hơn một tuần để đào tạo trong khi việc này thường có thể mất vài tháng.
Sự tăng tốc đó là nhờ kiến trúc của hệ thống Cerebras, bao gồm một con chip có kích thước bằng một chiếc đĩa ăn tối được chế tạo để chuyên đào tạo AI.
Hầu hết các mô hình AI ngày nay đều được đào tạo trên chip của công ty Nvidia Corp, nhưng ngày càng có nhiều công ty như Cerebras đang cố gắng cạnh tranh giành được thị phần trong thị trường đó.
Ông Feldman cho biết các mô hình được đào tạo trên hệ thống Cerebras cũng có thể được sử dụng trên các hệ thống Nvidia để đào tạo hoặc tùy chỉnh thêm./.
- Từ khóa :
- Cerebras Systems
- Cerebras
- ChatGPT
Tin liên quan
-
DN cần biết
Thời kỳ làm việc tại nhà đã kết thúc đối với hàng triệu người lao động Mỹ
14:34' - 28/03/2023
Theo một báo cáo mới đây của Bộ Lao động Mỹ, thời kỳ làm việc tại nhà do ảnh hưởng của đại dịch COVID-19 đã kết thúc với hàng triệu người lao động nước này.
Tin cùng chuyên mục
-
DN cần biết
Lưu ý về nhãn thực phẩm khi vào thị trường Singapore
20:09'
Thương vụ Việt Nam tại Singapore vừa thông tin: Cơ quan quản lý Thực phẩm Singapore (SFA) thông báo về việc thu hồi một số sản phẩm thực phẩm có xuất xứ từ Việt Nam.
-
DN cần biết
Thách thức trong phát triển thương mại điện tử bền vững
16:48'
Ngày 25/4, tại Hà Nội đã khai mạc Diễn đàn toàn cảnh Thương mại điện tử Việt Nam 2024 (Vietnam Online Business Forum 2024) với chủ đề “Thương mại điện tử bền vững”.
-
DN cần biết
Sắp diễn ra Hội nghị điều hành xuất khẩu gạo
15:10'
Hội nghị đánh giá kết quả xuất khẩu gạo năm 2023, quý I/2024 và triển khai việc điều hành xuất khẩu gạo trong thời gian tới sẽ được diễn ra vào ngày 26/4 tại Tp. Cần Thơ.
-
DN cần biết
Tiếp nhận hồ sơ yêu cầu rà soát cuối kỳ chống bán phá giá bột ngọt Indonesia, Trung Quốc
15:05'
Bộ Công Thương thông báo tiếp nhận hồ sơ yêu cầu rà soát cuối kỳ biện pháp chống bán phá giá một số sản phẩm bột ngọt có xuất xứ từ Indonesia và Trung Quốc
-
DN cần biết
Hỗ trợ doanh nghiệp giải quyết lô hàng nhập khẩu từ UAE nghi vấn có dấu hiệu lừa đảo
20:48' - 24/04/2024
Nhằm giảm thiểu rủi ro trong giao dịch kinh doanh thương mại, Bộ Công Thương khuyến nghị doanh nghiệp hết sức lưu ý đối với các hợp đồng giá trị lớn, các đối tác tìm kiếm qua mạng.
-
DN cần biết
Triển lãm quốc tế Mining Vietnam 2024 thu hút 200 nhà trưng bày
11:57' - 24/04/2024
Mining Vietnam 2024 với sự tham gia của 200 nhà trưng bày đến từ 17 quốc gia và vùng lãnh thổ và là điểm giao thương cho doanh nghiệp ngành công nghiệp khai thác, chế biến khoáng sản và xây dựng.
-
DN cần biết
Ấn Độ dự kiến tiêu thụ đường sẽ đạt mức cao kỷ lục trong năm nay
06:38' - 24/04/2024
Tiêu thụ đường của Ấn Độ dự kiến sẽ đạt mức cao kỷ lục trong năm nay do nhu cầu tăng mạnh trong mùa Hè cao điểm với các đợt nắng nóng.
-
DN cần biết
Rà soát tình hình gia tăng nhập khẩu thép cán nóng
19:00' - 23/04/2024
Lượng nhập khẩu thép cán nóng (HRC) tăng mạnh lên hơn 9,6 triệu tấn, chủ yếu là từ Trung Quốc và Ấn Độ.
-
DN cần biết
Mexico dự kiến bổ sung quy định kiểm dịch cà phê tại cửa khẩu
15:32' - 23/04/2024
Mexico dự kiến bổ sung quy định về các biện pháp kiểm dịch thực vật tại cửa khẩu bao gồm: hạt cà phê sẽ được giữ lại tại cửa khẩu để kiểm tra cho đến khi nhận được kết quả phân tích.