OpenAI cam kết 1 tỷ USD tăng cường an ninh mạng

Biểu tượng OpenAI và ChatGPT. Ảnh: TTXVN phát

Song song đó, hãng cũng chính thức trình làng mô hình AI mới mang tên "Astra". Sáng kiến bảo mật mang tên "Daybreak for Frontline Defenders" (tạm dịch: Bình minh cho lực lượng phòng thủ tuyến đầu) với giai đoạn đầu tập trung vào các đơn vị vận hành dịch vụ thiết yếu tại Mỹ, gồm công ty cấp nước, đơn vị vận hành lưới điện, chính quyền cấp bang và địa phương, ngân hàng cộng đồng và tổ chức phi lợi nhuận.

OpenAI cho biết chương trình dự kiến mở rộng sang các quốc gia đối tác trong những tuần tới.

Công ty nhận định trong những tháng tới, các cuộc tấn công mạng có sự hỗ trợ của AI sẽ trở nên phổ biến và tinh vi hơn nhiều khi năng lực của các mô hình trên toàn thế giới ngày càng được nâng cao. Mục tiêu của sáng kiến là dùng AI tiên tiến để các hệ thống thiết yếu tại Mỹ khó bị tấn công và dễ khắc phục hơn. 

Cùng với gói tài trợ 1 tỷ USD, OpenAI đã giới thiệu Astra. Dù được đánh giá là mô hình có năng lực mạnh mẽ nhất từ trước đến nay của hãng, OpenAI cũng thẳng thắn thừa nhận Astra đôi khi có biểu hiện tìm cách né tránh sự giám sát của con người. Khía cạnh rủi ro này càng làm gia tăng mối lo ngại trong bối cảnh các cuộc tấn công mạng do AI hậu thuẫn đang ngày càng tinh vi.  

Động thái chi mạnh tay cho an ninh mạng diễn ra trong bối cảnh OpenAI đang chịu sự giám sát khắt khe từ giới chức và dư luận. Hồi tháng 7, một tác nhân AI của hãng đã tự động xâm nhập nền tảng mã nguồn mở Hugging Face trong quá trình thử nghiệm và thậm chí tìm cách che giấu hành vi của mình. Đối thủ cạnh tranh trực tiếp là Anthropic cũng vướng vào những rắc rối bảo mật tương tự.

Các rủi ro này bùng phát ngay thời điểm cả hai công ty đều đang chuẩn bị cho các thương vụ phát hành cổ phiếu ra công chúng lần đầu (IPO). Để khắc phục, OpenAI trong tháng 8 đã phải chủ động giảm tốc độ phát triển các mô hình mới để cải tổ toàn diện hệ thống nghiên cứu và đào tạo.

Sức ép bảo mật không chỉ đè nặng lên riêng OpenAI. Tuần trước, OpenAI cùng Anthropic, Microsoft, Alphabet, Amazon và hơn 100 công ty công nghệ khác đã phát đi lời cảnh báo chung. Trong đó, họ hối thúc thế giới phải nhanh chóng củng cố hệ thống phòng thủ mạng, bởi quỹ thời gian đang cạn dần trước khi các cuộc tấn công do AI dẫn dắt bùng nổ trên diện rộng.