OpenAI lo ngại người dùng nảy sinh tình cảm với ChatGPT
Công ty có trụ sở tại San Francisco đã dẫn chứng các nghiên cứu cho thấy việc trò chuyện với AI như thể đang nói chuyện với một con người có thể dẫn đến sự tin tưởng không đúng chỗ. Họ cũng cho rằng chất lượng giọng nói cao của GPT-4o có thể làm gia tăng tác động này.
"Nhân hóa là quá trình gán những hành vi và đặc điểm của con người cho các thực thể phi nhân, chẳng hạn như các mô hình AI," OpenAI cho biết trong một báo cáo về độ an toàn của phiên bản ChatGPT-4o. "Rủi ro này có thể gia tăng bởi khả năng âm thanh của GPT-4o, giúp các tương tác với mô hình trở nên giống con người hơn."
OpenAI nhận thấy những người thử nghiệm trò chuyện với AI theo cách thể hiện mối quan hệ gần gũi, chẳng hạn như than thở rằng đó là ngày cuối cùng họ có thể nói chuyện với AI. Họ cho rằng những trường hợp này có vẻ vô hại nhưng cần được nghiên cứu kỹ hơn để xem chúng có thể phát triển như thế nào trong thời gian dài.
Theo dự đoán của Open AI, việc giao tiếp xã hội với AI cũng có thể khiến người dùng trở nên kém khéo léo hoặc ít muốn tương tác với con người hơn.
"Việc tương tác kéo dài với mô hình này có thể ảnh hưởng đến các chuẩn mực xã hội," báo cáo cho biết. "Chẳng hạn, các mô hình của chúng tôi thường rất lịch sự, cho phép người dùng ngắt lời và 'chiếm mic' bất cứ lúc nào, điều này là bình thường đối với AI, nhưng sẽ không đúng chuẩn mực trong tương tác giữa con người". Ngoài ra, khả năng AI ghi nhớ chi tiết trong quá trình trò chuyện và thực hiện các nhiệm vụ cũng có thể khiến con người trở nên phụ thuộc quá mức vào công nghệ.
Alon Yamin, đồng sáng lập kiêm CEO của nền tảng phát hiện đạo văn bằng AI, Copyleaks, cho biết: "Những lo ngại gần đây mà OpenAI chia sẻ về khả năng phụ thuộc vào chế độ giọng nói của ChatGPT cho thấy một câu hỏi mà nhiều người đã bắt đầu đặt ra: Đã đến lúc phải dừng lại và xem xét công nghệ này ảnh hưởng thế nào đến tương tác và mối quan hệ giữa con người?" Ông nhấn mạnh rằng AI không bao giờ nên thay thế tương tác thực tế giữa con người.
OpenAI cho biết họ sẽ tiếp tục thử nghiệm để hiểu rõ hơn về cách mà khả năng giọng nói trong AI có thể khiến con người trở nên gắn bó về mặt cảm xúc.
Các nhóm thử nghiệm tính năng giọng nói của ChatGPT-4o cũng đã phát hiện rằng mô hình này có thể bị kích hoạt để lặp lại thông tin sai lệch và tạo ra các thuyết âm mưu, gây lo ngại rằng AI có thể thuyết phục người dùng tin vào những điều sai sự thật.
Vào tháng 6, OpenAI đã buộc phải xin lỗi nữ diễn viên Scarlett Johansson sau khi công ty sử dụng một giọng nói rất giống với giọng của cô trong phiên bản chatbot mới nhất. Mặc dù OpenAI phủ nhận rằng giọng nói họ sử dụng là của Johansson, tình hình trở nên phức tạp khi CEO Sam Altman đã đăng một thông điệp duy nhất trên mạng xã hội để giới thiệu mô hình mới này — "Her" (Cô ấy).
Johansson đã lồng tiếng cho một nhân vật AI trong bộ phim "Her", bộ phim mà Altman đã từng chia sẻ là tác phẩm yêu thích nhất của ông về trí tuệ nhân tạo.
Bộ phim năm 2013 có sự tham gia của Joaquin Phoenix. Tài tử nổi tiếng này thủ vai một người đàn ông nảy sinh tình yêu với một trợ lý giọng nói AI sau khi ly hôn.
Tin liên quan
-
Doanh nghiệp
Tỷ phú Elon Musk hủy đơn kiện "cha đẻ" của ChatGPT
10:10' - 12/06/2024
CEO của hãng xe điện Tesla, tỷ phú Elon Musk đã rút đơn kiện OpenAI và hai nhà đồng sáng lập Sam Altman và Greg Brockman vì vi phạm thỏa thuận hợp đồng thành lập và phát triển công ty.
-
Công nghệ
ChatGPT gặp sự cố kéo dài trong nhiều giờ
13:43' - 22/02/2024
Nhiều người dùng ChatGPT đã báo cáo về sự cố mà họ gặp phải khi sử dụng công cụ này trong hai ngày 20-21/2 vừa qua.
-
Công nghệ
Đối thủ Ernie của ChatGPT vượt mốc 100 triệu người dùng
17:56' - 29/12/2023
Ngày 28/12, công ty công nghệ Baidu của Trung Quốc cho biết sản phẩm trí tuệ nhân tạo (AI) Ernie bot của nhà sản xuất này, tương tự ChatGPT của công ty Open AI (Mỹ), đã vượt mốc 100 triệu người dùng.
Tin cùng chuyên mục
-
Doanh nghiệp
Đón xu hướng chuyển dịch của các trung tâm công nghiệp lớn Đông Nam bộ
18:37' - 21/11/2024
Bình Phước hoàn toàn có tiềm năng trở thành một trung tâm phát triển kinh tế nhanh, xanh và năng động của vùng Đông Nam bộ, góp phần quan trọng vào sự phát triển chung của cả nước.
-
Doanh nghiệp
Huawei sẽ sản xuất hàng loạt chip AI tiên tiến nhất vào quý I/2025
16:16' - 21/11/2024
Huawei có kế hoạch bắt đầu sản xuất hàng loạt chip trí tuệ nhân tạo (AI) tiên tiến nhất vào quý I/2025, bất chấp những khó khăn trong tăng năng suất chip.
-
Doanh nghiệp
Sun Group 5 năm liên tiếp vào “Top 100 Nơi làm việc tốt nhất Việt Nam”
15:41' - 21/11/2024
Sun Group tiếp tục được vinh danh “Top 100 nơi làm việc tốt nhất Việt Nam” tại lễ trao giải “Môi trường làm việc tốt nhất Việt Nam” năm 2024.
-
Doanh nghiệp
BIC được vinh danh Top 1 nơi làm việc tốt nhất ngành bảo hiểm Việt Nam
15:00' - 21/11/2024
Tổng Công ty Bảo hiểm BIDV (BIC) vừa nhận giải thưởng Top 1 nơi làm việc tốt nhất ngành bảo hiểm Việt Nam khối doanh nghiệp lớn.
-
Doanh nghiệp
Thái Lan muốn chuyển 100% nợ của Thai Airways International thành cổ phiếu
15:05' - 20/11/2024
Bộ Tài chính Thái Lan đang chuẩn bị chuyển đổi nợ của hãng hàng không quốc gia Thai Airways International thành vốn chủ sở hữu.
-
Doanh nghiệp
Vingroup thành lập công ty nghiên cứu phát triển và ứng dụng người máy VinRobotics
13:46' - 20/11/2024
Ngày 20/11, Tập đoàn Vingroup thông báo chính thức thành lập Công ty Cổ phần Nghiên cứu Phát triển và Ứng dụng người máy VinRobotics với vốn điều lệ 1.000 tỷ đồng.
-
Doanh nghiệp
Chuyên gia VinFuture “mổ xẻ” nguyên nhân đột quỵ ngày càng trẻ hóa
13:20' - 20/11/2024
Thừa cân, béo phì và chế độ ăn thiếu chất xơ, uống nhiều nước ngọt và đồ uống có cồn dẫn đến tăng huyết áp và các rối loạn chuyển hóa. Điều này kéo theo nguy cơ cao mắc các bệnh tim mạch.
-
Doanh nghiệp
Ra mắt Câu lạc bộ Hoàng Gia - Đặc quyền dành riêng cho các cư dân “đảo tỷ phú”
13:03' - 20/11/2024
Ngay sau khi ra mắt, nhiều sự kiện đặc quyền đã được Câu lạc bộ Hoàng Gia lên kế hoạch tổ chức giúp các thành viên tận hưởng trọn vẹn cuộc sống thượng lưu trên “đảo tỷ phú” Vũ Yên.
-
Doanh nghiệp
Vinamilk nhận loạt giải thưởng về quản trị và phát triển bền vững
11:31' - 20/11/2024
Vinamilk đã có bước tiến lớn trong hành trình phát triển bền vững, thể hiện qua những thành tựu nổi bật về giảm thiểu tác động lên môi trường và trách nhiệm xã hội.