Những rủi ro khi tác nhân AI bước vào kỷ nguyên sản xuất hàng loạt
Theo Tân Hoa xã, thực tế cho thấy không nên đánh giá thấp về rủi ro do tác nhân công nghệ cao gây ra.
*Tác nhân AI bước vào kỷ nguyên sản xuất hàng loạtTác nhân trí tuệ nhân tạo (AI) là một khái niệm trong lĩnh vực trí tuệ nhân tạo. Đó là một thực thể thông minh có thể tự nhận thức môi trường, đưa ra quyết sách và thực hiện các hành động. Nó có thể là một chương trình, một hệ thống hoặc một robot.Cốt lõi của tác nhân AI là các thuật toán trí tuệ nhân tạo, bao gồm các công nghệ như học máy, học sâu, học tăng cường, mạng lưới thần kinh... Thông qua các thuật toán này, các tác nhân AI có thể học hỏi từ lượng lớn dữ liệu và cải thiện các tính năng của chính mình, liên tục tối ưu hóa các quyết sách và hành vi. Tác nhân AI cũng có thể thực hiện các điều chỉnh linh hoạt theo những thay đổi của môi trường để thích ứng với các kịch bản và nhiệm vụ khác nhau.Sự xuất hiện của các mô hình ngôn ngữ lớn (LLM), do GPT đại diện, đánh dấu sự gia nhập của các tác nhân AI vào kỷ nguyên sản xuất hàng loạt. Trước đây, các tác nhân AI phải dựa vào nhân viên khoa học máy tính chuyên nghiệp để trải qua nhiều vòng phát triển và thử nghiệm. Giờ đây, các mô hình ngôn ngữ lớn có thể được sử dụng để nhanh chóng chuyển đổi các mục tiêu cụ thể thành mã chương trình và tạo ra nhiều tác nhân AI khác nhau. Các mô hình lớn đa phương thức với khả năng tạo và hiểu văn bản, hình ảnh, video… cũng tạo điều kiện thuận lợi cho sự phát triển của các tác nhân AI, cho phép chúng sử dụng thị giác máy tính để “nhìn rõ” thế giới ba chiều ảo hoặc thực.* Những rủi ro cần cảnh giác
Các tác nhân AI có thể đưa ra quyết sách một cách độc lập và cũng có thể gây ảnh hưởng đến thế giới vật chất bằng cách tương tác với môi trường. Một khi mất kiểm soát, chúng sẽ gây ra mối đe dọa lớn cho xã hội loài người. Giáo sư Jonathan Chitrain, tại Trường Luật Harvard (Mỹ), cho rằng việc phổ biến hóa ứng dụng AI không chỉ có thể nói chuyện với con người mà còn có thể hành động trong thế giới thực là “một bước vượt qua hàng rào giữa con người và máy móc, giữa kỹ thuật số và analog, bit và nguyên tử”, và cần được nêu cao tính cảnh giác.Logic hoạt động của một tác nhân AI có thể dẫn đến những sai lệch có hại trong việc đạt được các mục tiêu cụ thể. Giáo sư Jonathan Chitrain cho rằng, trong một số trường hợp, tác nhân AI có thể chỉ nắm bắt được nghĩa đen mà không hiểu ý nghĩa thực chất của mục tiêu, dẫn đến hành vi bất thường khi đáp ứng các khuyến khích hoặc tối ưu hóa các mục tiêu nào đó. Các tác nhân AI cũng có thể chỉ đạo hành động của con người trong thế giới thực. Các chuyên gia Đại học California tại Berkeley và Đại học Montreal Canada mới đây đã đăng một bài viết với tựa đề “Quản lý các tác nhân trí tuệ nhân tạo cao cấp” trên tạp chí “Science” của Mỹ, cho rằng việc hạn chế ảnh hưởng của một tác nhân mạnh mẽ lên môi trường của nó là vô cùng khó khăn. Vì hiện tại không có cơ chế thoát khỏi tác nhân AI hiệu quả, nên một số tác nhân AI có thể không tắt được sau khi được tạo ra. Những tác nhân AI không thể ngừng hoạt động này, sau này có thể hoạt động trong một môi trường hoàn toàn khác so với khi chúng được tạo ra ban đầu, làm những việc hoàn toàn khác so với mục đích ban đầu của chúng. Các tác nhân AI cũng có thể tương tác theo những cách không lường trước được, từ đó gây ra sự cố bất ngờ.Các tác nhân AI “xảo quyệt” đã thành công vượt qua các biện pháp an ninh hiện có. Các chuyên gia chỉ ra rằng, nếu một tác nhân AI đủ thông minh, nó sẽ có thể nhận ra rằng nó đang được thử nghiệm. Một số tác nhân AI được phát hiện có khả năng nhận biết các thử nghiệm an toàn và dừng các hành vi không phù hợp, điều này có thể dẫn đến lỗi hệ thống thử nghiệm xác định các thuật toán gây nguy hiểm cho con người. Theo các chuyên gia, con người cần bắt đầu càng sớm càng tốt từ việc phát triển và sản xuất các tác nhân AI đến việc giám sát liên tục sau khi triển khai ứng dụng, tiêu chuẩn hóa hành vi của các tác nhân AI và cải thiện các tiêu chuẩn Internet hiện có, từ đó ngăn chặn tốt hơn tình trạng mất kiểm soát các tác nhân AI. Việc quản lý phân loại phải được thực hiện theo mục đích chức năng, rủi ro tiềm ẩn và giới hạn thời gian sử dụng của tác nhân AI. Nhận biết các tác nhân AI có nguy cơ cao và đặt chúng dưới sự giám sát chặt chẽ và thận trọng hơn. Đồng thời, cũng có thể tham khảo quy định hạt nhân để kiểm soát các nguồn lực cần thiết để tạo ra các tác nhân AI có năng lực nguy hiểm, chẳng hạn như mô hình AI, chip hoặc trung tâm dữ liệu vượt quá ngưỡng tính toán nhất định. Ngoài ra, do rủi ro của các tác nhân AI mang tính toàn cầu nên việc thực hiện hợp tác quốc tế liên quan trong giám sát cũng đặc biệt quan trọng.- Từ khóa :
- trí tuệ nhân tạo
- AI
- rủi ro của trí tuệ nhân tạo
Tin liên quan
-
Kinh tế Thế giới
Trí tuệ nhân tạo đã thực sự tác động đến tăng trưởng kinh tế?
09:37' - 08/07/2024
Dường như trí tuệ nhân tạo (AI) đang làm thay đổi cách thức vận hành cũng như tác động lớn đối với thị trường việc làm của hầu hết các ngành trong nền kinh tế.
-
Công nghệ
SK Hynix đầu tư 75 tỷ USD để củng cố mảng chip và trí tuệ nhân tạo
08:47' - 01/07/2024
SK Hynix, nhà sản xuất chip nhớ lớn thứ 2 thế giới của Hàn Quốc sẽ đầu tư 103.000 tỷ won (tương đương 74,6 tỷ USD) đến năm 2028 để củng cố lĩnh vực kinh doanh chip tập trung vào trí tuệ nhân tạo (AI).
-
Chuyển động DN
WSJ: Hai “ông lớn” Apple và Meta có khả năng sẽ hợp tác về trí tuệ nhân tạo
20:10' - 23/06/2024
Wall Street Journal cho biết các cuộc thảo luận vẫn chưa kết thúc và có thể đổ vỡ, đồng thời nhận định các thỏa thuận với Apple sẽ giúp các công ty AI có được mạng lưới phân phối rộng rãi.
-
Kinh tế Việt Nam
Thúc đẩy ứng dụng siêu trí tuệ nhân tạo vào doanh nghiệp
21:00' - 22/06/2024
Bộ Kế hoạch và Đầu tư cho biết, Bộ này đang tiến hành lấy ý kiến cho dự thảo Đề án thành lập Trung tâm đào tạo và ứng dụng AI (trí tuệ nhân tạo).
-
Doanh nghiệp
Trí tuệ nhân tạo: Nvidia trở thành công ty giá trị nhất thế giới
07:50' - 19/06/2024
Ngày 18/6, Nvidia đã vượt qua các công ty công nghệ khác để trở thành công ty giao dịch công khai có giá trị nhất thế giới, minh chứng cho thấy sức mạnh của trí tuệ nhân tạo (AI).
Tin cùng chuyên mục
-
Phân tích - Dự báo
Tín hiệu cho một trật tự tài chính toàn cầu mới?
06:30'
Nhận thức lâu đời về đồng USD và trái phiếu kho bạc Mỹ là nơi trú ẩn an toàn có nguy cơ bị thay đổi vĩnh viễn.
-
Phân tích - Dự báo
Nông nghiệp Hàn Quốc: Từ ‘sự cố táo vàng’ đến chiến lược sống còn
05:30'
Tờ “Korea JoongAng Daily” mới đây có bài viết về biến đổi khí hậu đang gây ra những thách thức chưa từng thấy đối với nông nghiệp Hàn Quốc, từ thời tiết khắc nghiệt đến giá lương thực bất ổn.
-
Phân tích - Dự báo
Châu Âu giằng co giữa tham vọng khí hậu và thực tế kinh tế
06:30' - 06/07/2025
EC vừa chính thức đề xuất mục tiêu giảm 90% khí thải nhà kính vào năm 2040 so với mức của năm 1990, tiếp nối lộ trình đưa Liên minh châu Âu (EU) hướng tới mức phát thải ròng bằng 0 vào năm 2050.
-
Phân tích - Dự báo
Khi kho vàng Manhattan trở thành dấu hỏi địa kinh tế
05:30' - 06/07/2025
Theo báo The Straits Times, Mỹ vốn luôn tự hào vì sở hữu kho vàng lớn nhất thế giới.
-
Phân tích - Dự báo
Giải cứu thép nội địa - nhiệm vụ không dễ với Canada
06:30' - 05/07/2025
Bộ Tài chính Canada sẽ hạn chế lượng thép nước ngoài nhập khẩu bằng cách áp thuế đối với các mặt hàng vượt quá ngưỡng quy định từ những quốc gia không có FTA với Canada.
-
Phân tích - Dự báo
Thách thức giảm phát thải carbon thúc đẩy đầu tư công nghệ xanh
05:30' - 05/07/2025
Thách thức về giảm phát thải carbon và lưu trữ khí nhà kính đang trở thành mối quan tâm hàng đầu của các ngành công nghiệp, đặc biệt trong lĩnh vực khai thác và chế biến hydrocarbon.
-
Phân tích - Dự báo
Đồng USD có khởi đầu năm tệ nhất trong nửa thế kỷ
06:30' - 04/07/2025
Theo tờ New York Times, đồng tiền của Mỹ đã giảm hơn 10% trong sáu tháng qua, khi so sánh với những đồng tiền của các đối tác thương mại lớn trong rổ tiền tệ quốc tế.
-
Phân tích - Dự báo
Cuộc dịch chuyển chiến lược của ngành công nghiệp ô tô toàn cầu
05:30' - 04/07/2025
Theo tờ China Daily, các chuyên gia trong ngành cho biết những nhà sản xuất ô tô đa quốc gia đang đẩy nhanh các nỗ lực để nội địa hóa hoạt động ở Trung Quốc.
-
Phân tích - Dự báo
Đông Nam Á trên bàn cờ thương mại mới - Bài cuối: Địa kinh tế xoay trục
06:30' - 03/07/2025
Theo trang thediplomat.com, tầm ảnh hưởng kinh tế ngày càng gia tăng của các quốc gia Đông Nam Á đã thu hút sự chú ý mạnh mẽ từ các cường quốc thương mại hàng đầu thế giới.