OpenAI công bố hướng dẫn đánh giá rủi ro AI
Thông báo trên được đưa ra một tháng sau khi hội đồng quản trị công ty sa thải Giám đốc điều hành (CEO) Sam Altman, và thuê ông trở lại vài ngày sau vì nhân viên và nhà đầu tư phản đối.
Theo truyền thông Mỹ, các thành viên hội đồng quản trị của OpenAI chỉ trích ông Altman vì ông ủng hộ sự phát triển nhanh chóng của OpenAI bất chấp những rủi ro có thể xảy ra với công nghệ mà công ty phát triển.
Tháng 10 vừa qua, công ty cho biết một nhóm giám sát và đánh giá sẽ tập trung vào "các mô hình biên giới" hiện đang được phát triển, có khả năng vượt trội so với phần mềm AI tiên tiến nhất.
Nhóm sẽ đánh giá từng mô hình mới và xác định mức độ rủi ro từ "thấp" đến mức "quan trọng" gồm 4 cấp. Theo bản hướng dẫn trên, chỉ những mô hình có điểm rủi ro là "trung bình" hoặc thấp hơn có thể được triển khai.
Cấp độ rủi ro đầu tiên liên quan đến an ninh mạng và khả năng thực hiện các cuộc tấn công mạng quy mô lớn của mô hình. Cấp độ thứ hai sẽ đo lường xu hướng của phần mềm trong việc giúp tạo ra hỗn hợp hóa học, sinh vật (chẳng hạn như virus) hoặc vũ khí hạt nhân, có thể gây hại cho con người.
Cấp độ thứ 3 liên quan đến sức mạnh thuyết phục của mô hình, chẳng hạn như mức độ nó có thể ảnh hưởng đến hành vi của con người. Cấp độ rủi ro cuối cùng liên quan đến khả năng tự chủ tiềm tàng của mô hình, đặc biệt là liệu mô hình này có thể thoát khỏi sự kiểm soát của các lập trình viên đã tạo ra nó hay không.
Sau khi xác định được mức độ rủi ro, kết quả sẽ được gửi đến Nhóm Cố vấn An toàn của OpenAI, một cơ quan mới của OpenAI sẽ đưa ra khuyến nghị cho ông Altman hoặc người do ông chỉ định.
Sau đó, người đứng đầu OpenAI sẽ quyết định mọi thay đổi cần thực hiện đối với mô hình để giảm thiểu rủi ro liên quan. Hội đồng quản trị sẽ được thông báo đầy đủ và có thể bác bỏ quyết định trên.
- Từ khóa :
- OpenAI
- rủi ro ai
- trí tuệ nhân tạo
Tin liên quan
-
Công nghệ
EY: Trí tuệ nhân tạo tổng hợp sẽ thúc đẩy hiệu quả công việc
17:56' - 15/12/2023
Theo Khảo sát mô phỏng lại công việc 2023 của EY, khoảng 63% người lao động Malaysia cho rằng trí tuệ nhân tạo tổng hợp (GenAI) sẽ thay đổi động lực làm việc, vượt mức trung bình toàn cầu là 48%.
-
Công nghệ
Doanh nghiệp châu Âu về trí tuệ nhân tạo huy động vốn chuẩn bị "tăng tốc"
08:52' - 13/12/2023
Công ty khởi nghiệp về lĩnh vực trí tuệ nhân tạo Mistral AI của Pháp cho biết họ đã huy động được 385 triệu euro (414 triệu USD), trở thành một trong hai công ty dẫn đầu về trí tuệ nhân tạo ở châu Âu.
Tin cùng chuyên mục
-
Công nghệ
Khai mạc sự kiện “Kết nối công nghệ và Đổi mới sáng tạo Việt Nam năm 2024”
19:30'
Chiều 30/9, tại Hà Nội, Bộ Khoa học và Công nghệ phối hợp UBND thành phố Hà Nội khai mạc sự kiện “Kết nối công nghệ và Đổi mới sáng tạo Việt Nam năm 2024” (Techconnect and Innovation VietNam 2024).
-
Công nghệ
Thị trường âm nhạc thế giới trước "sóng thần" AI
06:36'
Các công ty âm nhạc đang sử dụng công nghệ trí tuệ nhân tạo (AI) với mục tiêu cách mạng hóa hình thức nghệ thuật này.
-
Công nghệ
Đào tạo nguồn nhân lực phục vụ phát triển công nghệ cao - yêu cầu cấp thiết
12:16' - 29/09/2024
Xây dựng Đề án “Đào tạo nguồn nhân lực phục vụ phát triển công nghệ cao” là yêu cầu cấp thiết đối với Việt Nam
-
Công nghệ
Chip Nvidia vẫn giữ vị thế độc tôn tại Trung Quốc
21:59' - 28/09/2024
Trung Quốc đang hối thúc các công ty trong nước mua chip trí tuệ nhân tạo (AI) của những nhà sản xuất nội địa thay vì sản phẩm của "ông lớn" chip Nvidia Corp (Mỹ).
-
Công nghệ
Chuyển đổi xanh góp phần thúc đẩy phát triển kinh tế số Việt Nam
07:56' - 28/09/2024
Ở Việt Nam, việc thúc đẩy chuyển đổi số và chuyển đổi xanh không chỉ là nhu cầu mà còn là cơ hội để phát triển kinh tế một cách bền vững.
-
Công nghệ
"Tháng 10 - Tháng tiêu dùng số" sẽ tập trung vào các lĩnh vực trụ cột của kinh tế số
20:09' - 27/09/2024
Các hoạt động trong "Tháng 10 - Tháng tiêu dùng số" sẽ tập trung vào các lĩnh vực trụ cột của kinh tế số, nhằm tạo ra giá trị phục vụ nhu cầu xã hội.
-
Công nghệ
Các hãng bán dẫn dự kiến chi 400 tỷ USD cho thiết bị sản xuất chip
13:07' - 27/09/2024
Các nhà cung cấp thiết bị sản xuất chip lớn trên thế giới bao gồm ASML (Hà Lan), Applied Materials, KLA Corp và Lam Research (Mỹ) và Tokyo Electron (Nhật Bản).
-
Công nghệ
Xu hướng sử dụng các công cụ AI khi mua sắm lên ngôi
06:34' - 27/09/2024
Các khoản chiết khấu lớn và lạm phát hạ nhiệt sẽ thúc đẩy người tiêu dùng ở Mỹ chi 240,8 tỷ USD mua sắm trực tuyến vào tháng 11 và tháng 12 của năm 2024.
-
Công nghệ
Meta ra mắt loạt sản phẩm công nghệ và tính năng AI mới
21:34' - 26/09/2024
Ngày 25/9, tại hội nghị Connect thường niên của tập đoàn công nghệ Meta (Mỹ), Giám đốc điều hành (CEO) Mark Zuckerberg đã giới thiệu một loạt sản phẩm và tính năng mới dựa trên trí tuệ nhân tạo (AI).