Open AI khẳng định cam kết đảm bảo tính an toàn của AI
Động thái này diễn ra chỉ vài tuần sau khi một loạt nhân sự chủ chốt của OpenAI bất ngờ rời khỏi công ty, làm dấy lên những hoài nghi về cam kết của công ty này đối với việc giảm thiểu những nguy cơ từ AI.
OpenAI cho biết ủy ban mới được thành lập nhằm giám sát các vấn đề an toàn của AI, trong bối cảnh công ty này bắt đầu đào tạo một mô hình AI mới sau sự thành công của GPT-4, công nghệ cốt lõi của ChatGPT.
Ủy ban này, trong đó có các thành viên hội đồng quản trị và Giám đốc điều hành (CEO) Sam Altman, sẽ dành 90 ngày để đánh giá và củng cố toàn diện các quy trình xử lý và quản trị rủi ro xung quanh việc phát triển AI tiên tiến.
Công ty cũng sẽ tham vấn các chuyên gia bên ngoài trong giai đoạn xem xét này, trong đó có ông Rob Joyce, cựu Giám đốc phụ trách an ninh mạng của Cơ quan An ninh quốc gia Mỹ (NSA), và ông John Carlin, cựu quan chức cấp cao của Bộ Tư pháp Mỹ.
Trong thời gian 90 ngày, ủy ban trên sẽ xem xét kỹ lưỡng các quy định, biện pháp hiện tại của Open AI vốn được thiết kế để đảm bảo rằng AI được phát triển và ứng dụng một cách an toàn và đáng tin cậy, từ đó đưa ra các khuyến nghị để cải thiện và bổ sung.Khi kết thúc 90 ngày, ủy ban sẽ chia sẻ các khuyến nghị của họ với toàn thể hội đồng quản trị trước khi công bố rộng rãi.
Việc ông Jan Leike, Giám đốc phụ trách vấn đề an toàn của OpenAI, mới đây bất ngờ tuyên bố rời khỏi công ty này đã gây xôn xao dư luận bởi vai trò quan trọng của ông trong dự án kiểm soát siêu trí tuệ AI tại công ty này.Trước đó không lâu, ông Ilya Sutskever, đồng sáng lập OpenAI và cũng là nhà khoa học trưởng của công ty này, cũng rời đi
. Cả hai nhân vật này từng dẫn dắt nhóm "superalignment" - một dự án đầy tham vọng nhằm đảm bảo rằng AI siêu việt, với trí thông minh vượt trội con người, sẽ luôn hành động theo ý muốn của con người. OpenAI đã đầu tư 20% nguồn lực tính toán của mình cho dự án này với mục tiêu tìm ra giải pháp kiểm soát AI trong vòng 4 năm.
Việc thành lập Ủy ban An toàn và Bảo mật AI phản ánh sự chú trọng nhiều hơn của OpenAI vào mức độ an toàn của mô hình trí tuệ nhân tạo. Hiện tại, OpenAI đặt mục tiêu đi trước các đối thủ trong phát triển công nghệ AI. Đồng thời, công ty cũng mong muốn loại bỏ sự lo lắng của công chúng khi AI bị đánh giá ẩn chứa nhiều mối nguy hiểm như phát tán thông tin sai lệch, thay thế việc làm và thậm chí đe dọa sự an toàn của nhân loại.Ông Sam Altman, đã lên tiếng khẳng định công nghệ AI của công ty an toàn để sử dụng phổ biến, giữa lúc có nhiều lo ngại về rủi ro tiềm ẩn và thiếu các biện pháp bảo vệ thích hợp cho các hệ thống AI kiểu ChatGPT.
Theo ông Altman, công ty biết điều hiển nhiên là mô hình ngôn ngữ GPT-4 không hoàn hảo, nhưng nó được đánh giá đủ mạnh mẽ và đủ an toàn cho nhiều mục đích sử dụng khác nhau. CEO Altman nhấn mạnh rằng OpenAI đã thực hiện "một khối lượng công việc khổng lồ" để đảm bảo tính an toàn cho các mô hình của họ. Tuy nhiên, các câu hỏi về cam kết của OpenAI lại xuất hiện vào tuần trước khi công ty giải thể một nhóm chuyên phụ trách giảm thiểu những mối nguy hiểm lâu dài của AI. Khi tuyên bố rời đi trong một loạt bài đăng trên nền tảng X (trước đây là Twitter), đồng trưởng nhóm Jan Leike đã chỉ trích OpenAI vì đã ưu tiên các sản phẩm mới hơn là vấn đề an toàn. Ông bày tỏ lo ngại rằng những vấn đề về an toàn AI khá khó giải quyết và họ đang không đi đúng quỹ đạo để đạt được điều đó. Mạng xã hội Reddit mới đây thông báo sẽ cho phép OpenAI, nhà cung cấp dịch vụ hỏi đáp trực tuyến kết hợp trí tuệ nhân tạo (AI) ChatGPT, truy cập vào kho dữ liệu của diễn đàn này để đào tạo các mô hình AI, trong đó có phần mềm ChatGPT. Phía OpenAI cũng sẽ triển khai công nghệ của hãng vào nền tảng thảo luận phổ biến này. CEO Reddit Steven Huffman cho biết, Reddit đã trở thành một trong những kho lưu trữ mở lớn nhất trên mạng Internet, với độ xác thực cao và tính cập nhật liên tục về mọi vấn đề. Ông Huffman đánh giá việc tích hợp ChatGPT vào nền tảng này sẽ hỗ trợ việc tìm kiếm, cũng như giúp những người dùng mới tìm thấy cộng đồng của mình trên Reddit. Cụ thể, OpenAI sẽ có quyền truy cập theo thời gian thực vào dữ liệu Reddit, cho phép nâng cao nội dung trong ChatGPT và phát triển các công cụ trên nền tảng này. OpenAI tiết lộ Giám đốc điều hành Sam Altman của công ty cũng là một cổ đông của Reddit. Cả OpenAI và Reddit đều không công bố thông tin tài chính trong thỏa thuận hợp tác giữa hai công ty. Nguồn thu chính của Reddit hiện nay là từ quảng cáo và hãng cũng đang tìm cách tận dụng các cuộc thảo luận đa dạng trên nền tảng này để cải thiện doanh thu. Reddit cũng mới được niêm yết trên Sàn giao dịch chứng khoán New York vào tháng 3/2024.- Từ khóa :
- open ai
- chat gpt
- Trí tuệ nhân tạo
Tin liên quan
-
Kinh tế & Xã hội
Trí tuệ nhân tạo: Hội nghị thượng đỉnh thông qua "Tuyên bố Seoul"
11:44' - 22/05/2024
Với tên gọi "Tuyên bố Seoul", văn bản này được thông qua trong phiên họp trực tuyến tại Hội nghị thượng đỉnh AI Seoul, do Tổng thống Hàn Quốc Yoon Suk Yeol và Thủ tướng Anh Rishi Sunak đồng chủ trì.
-
Công nghệ
Trí tuệ nhân tạo: Công chiếu bộ phim đầu tiên hoàn toàn do AI viết kịch bản
10:01' - 06/05/2024
Tại Liên hoan phim ngắn và châu Á 2024, bộ phim hoạt hình "The Artificial Conjuring Circle" (Vòng tròn ma thuật nhân tạo) - bộ phim đầu tiên được làm hoàn toàn bằng công nghệ AI.
-
Phân tích - Dự báo
Mặt trái của trí tuệ nhân tạo
06:30' - 04/05/2024
Trí tuệ nhân tạo đang thâm nhập và tác động đến mọi lĩnh vực của nền kinh tế toàn cầu, tạo ra sự thay đổi và tiến bộ. Tuy nhiên, bên cạnh những điểm tích cực, AI cũng ẩn chứa "mặt trái" cần lưu ý.
-
Công nghệ
Microsoft đầu tư 1,7 tỷ USD vào trung tâm trí tuệ nhân tạo ở Thái Lan
09:03' - 02/05/2024
Theo phóng viên TTXVN tại Bangkok, "gã khổng lồ" công nghệ Microsoft của Mỹ cho biết sẽ mở trung tâm dữ liệu khu vực đầu tiên tại Thái Lan nhằm tăng cường tính khả dụng của các dịch vụ đám mây.
Tin cùng chuyên mục
-
Công nghệ
EU cáo buộc Microsoft cản trở cạnh tranh
08:30'
Ngày 25/6, EU cho rằng Microsoft đã vi phạm các quy định chống độc quyền của khối khi tích hợp ứng dụng trò chuyện và video Teams vào bộ ứng dụng văn phòng Office của hãng.
-
Công nghệ
Apple gặp rắc rối với Đạo luật Thị trường Kỹ thuật số của EU
10:25' - 25/06/2024
Ngày 24/6, EU đưa ra cáo buộc đầu tiên dựa theo luật cạnh tranh kỹ thuật số mới của khối này, cáo buộc Apple ngăn các nhà sản xuất ứng dụng giới thiệu người dùng lựa chọn rẻ hơn ở các nền tảng khác.
-
Công nghệ
Thành lập Không gian hợp tác đổi mới sáng tạo tại Bình Dương
12:48' - 24/06/2024
Ngày 24/6, Trường Đại học Thủ Dầu Một (Bình Dương) cùng Học viện Khoa học, Công nghệ và Đổi mới Sáng tạo (VISTI) công bố thành lập Không gian hợp tác đổi mới sáng tạo tại Bình Dương.
-
Công nghệ
Các công ty AI thảo luận việc tích hợp mô hình vào Apple Intelligence
08:43' - 24/06/2024
Meta Platforms - công ty chủ quản của Facebook đã thảo luận việc tích hợp mô hình Trí tuệ nhân tạo (AI) tạo sinh của Meta vào hệ thống AI mà hãng Apple công bố gần đây dành riêng cho iPhone.
-
Công nghệ
Cảnh báo tấn công mạng có chủ đích nhắm vào cơ quan thuế và tổ chức giáo dục
10:13' - 23/06/2024
Chiến dịch tấn công mới của nhóm tin tặc Mustang Panda sử dụng những “mồi nhử” xoay quanh lĩnh vực giáo dục và thuế.
-
Công nghệ
Australia đầu tư hơn 20 triệu USD vào AI trong y tế
06:40' - 23/06/2024
Bộ Y tế Australia thông báo Chính phủ liên bang Australia đang đầu tư gần 30 triệu AUD (20,01 triệu USD) vào ứng dụng trí tuệ nhân tạo (AI) trong lĩnh vực y tế nhằm nâng cao chất lượng hệ thống y tế.
-
Công nghệ
Hãng Ricoh "trình làng" máy ảnh phim mới đầu tiên sau 20 năm
10:21' - 22/06/2024
Công ty Ricoh Imaging của Nhật Bản thông báo sẽ cho ra mắt một máy ảnh phim Pentax mới lần đầu tiên sau hai thập kỷ, trong bối cảnh xu hướng chụp ảnh phong cách cổ điển ngày càng tăng trong giới trẻ.
-
Công nghệ
Kỳ họp thứ 7, Quốc hội khoá XV: Quốc hội thông qua Luật Lưu trữ (sửa đổi)
10:12' - 21/06/2024
Sáng 21/6, với 457/463 đại biểu Quốc hội có mặt tán thành (chiếm tỷ lệ 93,84% tổng số đại biểu Quốc hội), Quốc hội đã thông qua Luật Lưu trữ (sửa đổi).
-
Công nghệ
Quốc hội: Bảo đảm an ninh, an toàn thông tin mạng trong các lĩnh vực lưu trữ
09:27' - 21/06/2024
Dự án Luật Lưu trữ (sửa đổi) đã được Quốc hội thảo luận, cho ý kiến tại hai kỳ họp thứ 6 và thứ 7 và dự kiến sẽ được Quốc hội thông qua tại Kỳ họp thứ 7.