OpenAI lo ngại người dùng nảy sinh tình cảm với ChatGPT
Công ty có trụ sở tại San Francisco đã dẫn chứng các nghiên cứu cho thấy việc trò chuyện với AI như thể đang nói chuyện với một con người có thể dẫn đến sự tin tưởng không đúng chỗ. Họ cũng cho rằng chất lượng giọng nói cao của GPT-4o có thể làm gia tăng tác động này.
"Nhân hóa là quá trình gán những hành vi và đặc điểm của con người cho các thực thể phi nhân, chẳng hạn như các mô hình AI," OpenAI cho biết trong một báo cáo về độ an toàn của phiên bản ChatGPT-4o. "Rủi ro này có thể gia tăng bởi khả năng âm thanh của GPT-4o, giúp các tương tác với mô hình trở nên giống con người hơn."
OpenAI nhận thấy những người thử nghiệm trò chuyện với AI theo cách thể hiện mối quan hệ gần gũi, chẳng hạn như than thở rằng đó là ngày cuối cùng họ có thể nói chuyện với AI. Họ cho rằng những trường hợp này có vẻ vô hại nhưng cần được nghiên cứu kỹ hơn để xem chúng có thể phát triển như thế nào trong thời gian dài.
Theo dự đoán của Open AI, việc giao tiếp xã hội với AI cũng có thể khiến người dùng trở nên kém khéo léo hoặc ít muốn tương tác với con người hơn.
"Việc tương tác kéo dài với mô hình này có thể ảnh hưởng đến các chuẩn mực xã hội," báo cáo cho biết. "Chẳng hạn, các mô hình của chúng tôi thường rất lịch sự, cho phép người dùng ngắt lời và 'chiếm mic' bất cứ lúc nào, điều này là bình thường đối với AI, nhưng sẽ không đúng chuẩn mực trong tương tác giữa con người". Ngoài ra, khả năng AI ghi nhớ chi tiết trong quá trình trò chuyện và thực hiện các nhiệm vụ cũng có thể khiến con người trở nên phụ thuộc quá mức vào công nghệ.
Alon Yamin, đồng sáng lập kiêm CEO của nền tảng phát hiện đạo văn bằng AI, Copyleaks, cho biết: "Những lo ngại gần đây mà OpenAI chia sẻ về khả năng phụ thuộc vào chế độ giọng nói của ChatGPT cho thấy một câu hỏi mà nhiều người đã bắt đầu đặt ra: Đã đến lúc phải dừng lại và xem xét công nghệ này ảnh hưởng thế nào đến tương tác và mối quan hệ giữa con người?" Ông nhấn mạnh rằng AI không bao giờ nên thay thế tương tác thực tế giữa con người.
OpenAI cho biết họ sẽ tiếp tục thử nghiệm để hiểu rõ hơn về cách mà khả năng giọng nói trong AI có thể khiến con người trở nên gắn bó về mặt cảm xúc.
Các nhóm thử nghiệm tính năng giọng nói của ChatGPT-4o cũng đã phát hiện rằng mô hình này có thể bị kích hoạt để lặp lại thông tin sai lệch và tạo ra các thuyết âm mưu, gây lo ngại rằng AI có thể thuyết phục người dùng tin vào những điều sai sự thật.
Vào tháng 6, OpenAI đã buộc phải xin lỗi nữ diễn viên Scarlett Johansson sau khi công ty sử dụng một giọng nói rất giống với giọng của cô trong phiên bản chatbot mới nhất. Mặc dù OpenAI phủ nhận rằng giọng nói họ sử dụng là của Johansson, tình hình trở nên phức tạp khi CEO Sam Altman đã đăng một thông điệp duy nhất trên mạng xã hội để giới thiệu mô hình mới này — "Her" (Cô ấy).
Johansson đã lồng tiếng cho một nhân vật AI trong bộ phim "Her", bộ phim mà Altman đã từng chia sẻ là tác phẩm yêu thích nhất của ông về trí tuệ nhân tạo.
Bộ phim năm 2013 có sự tham gia của Joaquin Phoenix. Tài tử nổi tiếng này thủ vai một người đàn ông nảy sinh tình yêu với một trợ lý giọng nói AI sau khi ly hôn.
Tin liên quan
-
Doanh nghiệp
Tỷ phú Elon Musk hủy đơn kiện "cha đẻ" của ChatGPT
10:10' - 12/06/2024
CEO của hãng xe điện Tesla, tỷ phú Elon Musk đã rút đơn kiện OpenAI và hai nhà đồng sáng lập Sam Altman và Greg Brockman vì vi phạm thỏa thuận hợp đồng thành lập và phát triển công ty.
-
Công nghệ
ChatGPT gặp sự cố kéo dài trong nhiều giờ
13:43' - 22/02/2024
Nhiều người dùng ChatGPT đã báo cáo về sự cố mà họ gặp phải khi sử dụng công cụ này trong hai ngày 20-21/2 vừa qua.
-
Công nghệ
Đối thủ Ernie của ChatGPT vượt mốc 100 triệu người dùng
17:56' - 29/12/2023
Ngày 28/12, công ty công nghệ Baidu của Trung Quốc cho biết sản phẩm trí tuệ nhân tạo (AI) Ernie bot của nhà sản xuất này, tương tự ChatGPT của công ty Open AI (Mỹ), đã vượt mốc 100 triệu người dùng.
Tin cùng chuyên mục
-
Doanh nghiệp
Temu: Cơn sốt giá rẻ và mối lo với châu Âu
12:11'
Temu không chỉ phá vỡ mọi quy chuẩn mà còn thu hút hàng triệu người tiêu dùng nhờ những sản phẩm giá rẻ chưa từng thấy.
-
Doanh nghiệp
Nhiều tập đoàn công nghệ đầu tư lớn vào trung tâm dữ liệu
08:19'
Ngày 2/11, Ủy ban Đầu tư Thái Lan (BOI) đã phê duyệt hỗ trợ đầu tư cho hai dự án trung tâm dữ liệu lớn tại nước này trị giá hơn 60 tỷ baht (1,7 tỷ USD).
-
Doanh nghiệp
Ngành hàng không Nhật Bản đối mặt rào cản lớn
21:24' - 02/11/2024
Chi phí nhiên liệu tăng vọt, rủi ro địa chính trị và tình hình bất ổn tại nhà cung cấp Boeing đang là rào cản với nhiều công ty hàng không của Nhật Bản.
-
Doanh nghiệp
BSR thực hiện nhiều giải pháp đột phá nâng cao hiệu quả hoạt động của Lọc dầu Dung Quất
18:35' - 02/11/2024
Công ty cổ phần Lọc hoá dầu Bình Sơn (BSR) đang thực hiện nhiều giải pháp đột phá để nâng cao hiệu quả hoạt động của nhà máy lọc dầu Dung Quất khi giá dầu giảm sâu.
-
Doanh nghiệp
Có 80 cơ sở sản xuất xi măng phải kiểm kê khí nhà kính
15:37' - 02/11/2024
Kể từ ngày 1/10 có 80 cơ sở sản xuất xi măng phải kiểm kê khí nhà kính và nộp báo cáo 2 năm một lần theo Nghị định số 06/NĐ-CP Quy định giảm nhẹ phát thải khí nhà kính và bảo vệ tầng Ozone.
-
Doanh nghiệp
Amazon và Apple đều "ăn nên làm ra"
08:20' - 02/11/2024
Tập đoàn Amazon công bố kết quả tài chính trong quý III với tổng doanh số tăng 11%, trong khi Apple công bố doanh thu cùng quý tăng trưởng 6% so với cùng kỳ năm trước.
-
Doanh nghiệp
Phân loại doanh nghiệp xuất khẩu gỗ: Sẽ thuận lợi hơn về thủ tục hải quan
20:55' - 01/11/2024
Việc phân loại doanh nghiệp không chỉ giúp đảm bảo tính hợp pháp của gỗ và sản phẩm gỗ mà còn thuận lợi hơn trong việc hoàn thiện thủ tục hải quan khi xuất khẩu sản phẩm.
-
Doanh nghiệp
Bảng giá đất mới tác động lên chi phí tài chính doanh nghiệp như thế nào?
18:23' - 01/11/2024
Tp. Hồ Chí Minh chính thức áp dụng bảng giá đất mới kể từ ngày 31/10/2024, với hầu hết các tuyến đường, khu vực trên địa bàn tăng từ 4-38 lần.
-
Doanh nghiệp
Chính thức hợp nhất Công ty cổ phần Vận tải đường sắt Hà Nội và Sài Gòn từ ngày 1/11
16:10' - 01/11/2024
Từ hôm nay (1/11), Công ty cổ phần Vận tải đường sắt sẽ chính thức đi vào hoạt động trên cơ sở hợp nhất Công ty cổ phần Vận tải đường sắt Hà Nội và Công ty cổ phần Vận tải đường sắt Sài Gòn.