Những rủi ro khi tác nhân AI bước vào kỷ nguyên sản xuất hàng loạt
Theo Tân Hoa xã, thực tế cho thấy không nên đánh giá thấp về rủi ro do tác nhân công nghệ cao gây ra.
*Tác nhân AI bước vào kỷ nguyên sản xuất hàng loạtTác nhân trí tuệ nhân tạo (AI) là một khái niệm trong lĩnh vực trí tuệ nhân tạo. Đó là một thực thể thông minh có thể tự nhận thức môi trường, đưa ra quyết sách và thực hiện các hành động. Nó có thể là một chương trình, một hệ thống hoặc một robot.Cốt lõi của tác nhân AI là các thuật toán trí tuệ nhân tạo, bao gồm các công nghệ như học máy, học sâu, học tăng cường, mạng lưới thần kinh... Thông qua các thuật toán này, các tác nhân AI có thể học hỏi từ lượng lớn dữ liệu và cải thiện các tính năng của chính mình, liên tục tối ưu hóa các quyết sách và hành vi. Tác nhân AI cũng có thể thực hiện các điều chỉnh linh hoạt theo những thay đổi của môi trường để thích ứng với các kịch bản và nhiệm vụ khác nhau.Sự xuất hiện của các mô hình ngôn ngữ lớn (LLM), do GPT đại diện, đánh dấu sự gia nhập của các tác nhân AI vào kỷ nguyên sản xuất hàng loạt. Trước đây, các tác nhân AI phải dựa vào nhân viên khoa học máy tính chuyên nghiệp để trải qua nhiều vòng phát triển và thử nghiệm. Giờ đây, các mô hình ngôn ngữ lớn có thể được sử dụng để nhanh chóng chuyển đổi các mục tiêu cụ thể thành mã chương trình và tạo ra nhiều tác nhân AI khác nhau. Các mô hình lớn đa phương thức với khả năng tạo và hiểu văn bản, hình ảnh, video… cũng tạo điều kiện thuận lợi cho sự phát triển của các tác nhân AI, cho phép chúng sử dụng thị giác máy tính để “nhìn rõ” thế giới ba chiều ảo hoặc thực.* Những rủi ro cần cảnh giác
Các tác nhân AI có thể đưa ra quyết sách một cách độc lập và cũng có thể gây ảnh hưởng đến thế giới vật chất bằng cách tương tác với môi trường. Một khi mất kiểm soát, chúng sẽ gây ra mối đe dọa lớn cho xã hội loài người. Giáo sư Jonathan Chitrain, tại Trường Luật Harvard (Mỹ), cho rằng việc phổ biến hóa ứng dụng AI không chỉ có thể nói chuyện với con người mà còn có thể hành động trong thế giới thực là “một bước vượt qua hàng rào giữa con người và máy móc, giữa kỹ thuật số và analog, bit và nguyên tử”, và cần được nêu cao tính cảnh giác.Logic hoạt động của một tác nhân AI có thể dẫn đến những sai lệch có hại trong việc đạt được các mục tiêu cụ thể. Giáo sư Jonathan Chitrain cho rằng, trong một số trường hợp, tác nhân AI có thể chỉ nắm bắt được nghĩa đen mà không hiểu ý nghĩa thực chất của mục tiêu, dẫn đến hành vi bất thường khi đáp ứng các khuyến khích hoặc tối ưu hóa các mục tiêu nào đó. Các tác nhân AI cũng có thể chỉ đạo hành động của con người trong thế giới thực. Các chuyên gia Đại học California tại Berkeley và Đại học Montreal Canada mới đây đã đăng một bài viết với tựa đề “Quản lý các tác nhân trí tuệ nhân tạo cao cấp” trên tạp chí “Science” của Mỹ, cho rằng việc hạn chế ảnh hưởng của một tác nhân mạnh mẽ lên môi trường của nó là vô cùng khó khăn. Vì hiện tại không có cơ chế thoát khỏi tác nhân AI hiệu quả, nên một số tác nhân AI có thể không tắt được sau khi được tạo ra. Những tác nhân AI không thể ngừng hoạt động này, sau này có thể hoạt động trong một môi trường hoàn toàn khác so với khi chúng được tạo ra ban đầu, làm những việc hoàn toàn khác so với mục đích ban đầu của chúng. Các tác nhân AI cũng có thể tương tác theo những cách không lường trước được, từ đó gây ra sự cố bất ngờ.Các tác nhân AI “xảo quyệt” đã thành công vượt qua các biện pháp an ninh hiện có. Các chuyên gia chỉ ra rằng, nếu một tác nhân AI đủ thông minh, nó sẽ có thể nhận ra rằng nó đang được thử nghiệm. Một số tác nhân AI được phát hiện có khả năng nhận biết các thử nghiệm an toàn và dừng các hành vi không phù hợp, điều này có thể dẫn đến lỗi hệ thống thử nghiệm xác định các thuật toán gây nguy hiểm cho con người. Theo các chuyên gia, con người cần bắt đầu càng sớm càng tốt từ việc phát triển và sản xuất các tác nhân AI đến việc giám sát liên tục sau khi triển khai ứng dụng, tiêu chuẩn hóa hành vi của các tác nhân AI và cải thiện các tiêu chuẩn Internet hiện có, từ đó ngăn chặn tốt hơn tình trạng mất kiểm soát các tác nhân AI. Việc quản lý phân loại phải được thực hiện theo mục đích chức năng, rủi ro tiềm ẩn và giới hạn thời gian sử dụng của tác nhân AI. Nhận biết các tác nhân AI có nguy cơ cao và đặt chúng dưới sự giám sát chặt chẽ và thận trọng hơn. Đồng thời, cũng có thể tham khảo quy định hạt nhân để kiểm soát các nguồn lực cần thiết để tạo ra các tác nhân AI có năng lực nguy hiểm, chẳng hạn như mô hình AI, chip hoặc trung tâm dữ liệu vượt quá ngưỡng tính toán nhất định. Ngoài ra, do rủi ro của các tác nhân AI mang tính toàn cầu nên việc thực hiện hợp tác quốc tế liên quan trong giám sát cũng đặc biệt quan trọng.- Từ khóa :
- trí tuệ nhân tạo
- AI
- rủi ro của trí tuệ nhân tạo
Tin liên quan
-
Kinh tế Thế giới
Trí tuệ nhân tạo đã thực sự tác động đến tăng trưởng kinh tế?
09:37' - 08/07/2024
Dường như trí tuệ nhân tạo (AI) đang làm thay đổi cách thức vận hành cũng như tác động lớn đối với thị trường việc làm của hầu hết các ngành trong nền kinh tế.
-
Công nghệ
SK Hynix đầu tư 75 tỷ USD để củng cố mảng chip và trí tuệ nhân tạo
08:47' - 01/07/2024
SK Hynix, nhà sản xuất chip nhớ lớn thứ 2 thế giới của Hàn Quốc sẽ đầu tư 103.000 tỷ won (tương đương 74,6 tỷ USD) đến năm 2028 để củng cố lĩnh vực kinh doanh chip tập trung vào trí tuệ nhân tạo (AI).
-
Chuyển động DN
WSJ: Hai “ông lớn” Apple và Meta có khả năng sẽ hợp tác về trí tuệ nhân tạo
20:10' - 23/06/2024
Wall Street Journal cho biết các cuộc thảo luận vẫn chưa kết thúc và có thể đổ vỡ, đồng thời nhận định các thỏa thuận với Apple sẽ giúp các công ty AI có được mạng lưới phân phối rộng rãi.
-
Kinh tế Việt Nam
Thúc đẩy ứng dụng siêu trí tuệ nhân tạo vào doanh nghiệp
21:00' - 22/06/2024
Bộ Kế hoạch và Đầu tư cho biết, Bộ này đang tiến hành lấy ý kiến cho dự thảo Đề án thành lập Trung tâm đào tạo và ứng dụng AI (trí tuệ nhân tạo).
-
Doanh nghiệp
Trí tuệ nhân tạo: Nvidia trở thành công ty giá trị nhất thế giới
07:50' - 19/06/2024
Ngày 18/6, Nvidia đã vượt qua các công ty công nghệ khác để trở thành công ty giao dịch công khai có giá trị nhất thế giới, minh chứng cho thấy sức mạnh của trí tuệ nhân tạo (AI).
Tin cùng chuyên mục
-
Phân tích - Dự báo
Cận cảnh bức tranh kinh tế Gaza
06:30'
Gaza hiện phụ thuộc rất nhiều vào nguồn viện trợ quốc tế. Đầu năm 2024, 75% số dân ở Gaza phải di dời và thiếu nơi ở an toàn, thiếu nước, nhiên liệu, điện và điều kiện vệ sinh.
-
Phân tích - Dự báo
Tác động của luật chống phá rừng của EU đối với ngành dầu cọ
05:30'
Để hỗ trợ hơn nữa việc truy xuất nguồn gốc hiệu quả, việc cung cấp các giải pháp công nghệ tiên tiến và giá cả phải chăng là điều cần thiết.
-
Phân tích - Dự báo
“Cơn khát" lao động của lĩnh vực chăm sóc người cao tuổi
06:30' - 17/10/2024
Australia đang nổi lên là nước có chính sách thu hút lao động tốt, đặc biệt là trong việc đảm bảo nhập cư an toàn cho người lao động làm công việc chăm sóc sức khoẻ và mức lương cao.
-
Phân tích - Dự báo
Năng lượng hạt nhân - lựa chọn hàng đầu của các "ông lớn" công nghệ
05:30' - 17/10/2024
Để đảm bảo có đủ nguồn điện, các tên tuổi lớn trong lĩnh vực điện toán đám mây đã ký kết thỏa thuận với những nhà cung cấp năng lượng tái tạo, đặc biệt là điện hạt nhân.
-
Phân tích - Dự báo
Toàn cầu hóa đang dần thay đổi về cấu trúc
06:30' - 16/10/2024
Tổ chức Thương mại Thế giới (WTO) vừa điều chỉnh nâng dự báo về tăng trưởng thương mại toàn cầu, trong đó châu Á đang củng cố vai trò dẫn đầu, còn châu Âu gặp khó khăn.
-
Phân tích - Dự báo
Chìa khóa để tạo dựng một thị trường carbon hiệu quả ở Đông Nam Á
05:30' - 16/10/2024
Sự đa dạng của các nước ASEAN về mức độ phát triển kinh tế, cơ cấu năng lượng và năng lực thể chế đặt ra thách thức cho việc tạo ra một thị trường carbon thống nhất của khu vực.
-
Phân tích - Dự báo
S&P Global: Nguy cơ vỡ nợ quốc gia tăng cao trong thập kỷ tới
18:30' - 15/10/2024
S&P Global Ratings cảnh báo các nước sẽ gặp khó khăn hơn trong việc trả nợ ngoại tệ trong tương lai do nợ công tăng và lãi suất vay cao hơn. Điều này có thể dẫn đến tình trạng vỡ nợ nhiều hơn.
-
Phân tích - Dự báo
WB dự báo tình hình kinh tế của các quốc đảo ở Thái Bình Dương
15:21' - 15/10/2024
Theo WB, trong 7 năm qua, đầu tư tại các quốc đảo ở Thái Bình Dương đã giảm ở mức trung bình.
-
Phân tích - Dự báo
Lý do Canada bất ngờ thay đổi chính sách nhập cư
06:30' - 15/10/2024
Sự thay đổi nhanh chóng trong chính sách nhập cư đã từng xảy ra trong lịch sử của Canada và việc tăng/giảm số lượng người nhập cư không phải là điều mới mẻ.