OpenAI tìm người "ghìm cương" rủi ro của AI

Công ty đứng sau chatbot nổi tiếng ChatGPT, OpenAI, đang tuyển dụng một vị trí mới có tên "Trưởng bộ phận Sẵn sàng Đối phó rủi ro" nhằm định hướng chiến lược an toàn trong bối cảnh lo ngại ngày càng gia tăng về các nguy cơ do trí tuệ nhân tạo (AI) gây ra.

Theo tin tuyển dụng, ứng viên đủ điều kiện cần có chuyên môn kỹ thuật sâu rộng về học máy, an toàn AI, đánh giá, bảo mật hoặc các lĩnh vực rủi ro liên quan, đồng thời có kinh nghiệm thiết kế hoặc thực hiện các đánh giá nghiêm ngặt cho các hệ thống kỹ thuật phức tạp bên cạnh các tiêu chuẩn khác. Người được tuyển sẽ lãnh đạo nhóm hệ thống an toàn, chuyên theo dõi các rủi ro và phát triển chiến lược giảm thiểu cho những "năng lực AI tiên phong có thể tạo ra các nguy cơ mới gây tổn hại nghiêm trọng".

Theo thông báo tuyển dụng, mức lương hàng năm 555.000 USD cho vị trí này cao hơn cả lương của Tổng thống Mỹ (400.000 USD) và gấp hơn 2,5 lần lương của Thủ tướng Anh. Tuy nhiên, một số vị trí kỹ sư nghiên cứu khác tại OpenAI thậm chí còn được quảng cáo với mức lương lên tới 590.000 USD/năm, cho thấy cuộc đua thu hút nhân tài trong ngành AI đang khốc liệt đến mức nào.

Ông Sam Altman, đã chia sẻ trên mạng xã hội X rằng đây sẽ là một công việc căng thẳng và người được chọn sẽ phải bắt tay vào việc ngay lập tức. Ông mô tả đây là một "vai trò tối quan trọng vào thời điểm quan trọng", khi các mô hình AI đang cải thiện nhanh chóng và bắt đầu đặt ra những thách thức thực sự. Ông Altman nhấn mạnh rằng thế giới đang bước vào một kỷ nguyên đòi hỏi sự hiểu biết sâu sắc hơn về cách các năng lực của AI có thể bị lạm dụng, cũng như làm thế nào để con người có thể hạn chế những mặt trái đó để tất cả đều có thể tận hưởng những lợi ích to lớn mà công nghệ này mang lại.

Động thái này diễn ra khi OpenAI đối mặt với áp lực giám sát ngày càng lớn, đặc biệt là sau nhiều cáo buộc liên quan đến sức khỏe tâm thần của người dùng. Trong năm nay, công ty đã phải đối mặt với các vụ kiện, trong đó có trường hợp cho rằng ChatGPT đã khuyến khích một thiếu niên 16 tuổi tự sát, hay một vụ khác cáo buộc chatbot này đã thúc đẩy "ảo tưởng hoang đường" của một người đàn ông 56 tuổi dẫn đến thảm kịch gia đình.

Để đối phó, OpenAI đã công bố các giao thức an toàn mới cho người dùng dưới 18 tuổi và đang nỗ lực cải tiến công nghệ để nhận biết các dấu hiệu căng thẳng tâm lý, hướng người dùng đến các kênh hỗ trợ thực tế.

Ngoài vấn đề sức khỏe tâm thần, các lo ngại về an ninh mạng cũng gia tăng. Ông Altman thừa nhận rằng các mô hình AI hiện nay đã đủ tinh vi để bắt đầu tìm ra các lỗ hổng bảo mật nghiêm trọng. Bà Samantha Vinograd, cựu quan chức Bộ An ninh Nội địa Mỹ, cũng cảnh báo rằng AI không chỉ san bằng sân chơi mà còn đưa "những người chơi mới" vào cuộc, cho phép các cá nhân và tổ chức phi nhà nước tiếp cận công nghệ cao với chi phí thấp để thực hiện các cuộc tấn công và xâm nhập hiệu quả hơn.