Hơn một triệu người chia sẻ ý định tự tử với ChatGPT mỗi tuần

Theo báo cáo do OpenAI công bố ngày 28/10 (giờ Việt Nam), khoảng 0,07% người dùng hoạt động hàng tuần, tương đương 560.000 người, có biểu hiện rối loạn tâm lý như hoang tưởng, hưng cảm hoặc trầm cảm. Trong khi đó, 0,15% người dùng, tức khoảng 1,2 triệu người, cho thấy có ý định hoặc kế hoạch tự tử. Tổng cộng, khoảng 3 triệu người đã gửi hàng triệu tin nhắn thể hiện tình trạng khủng hoảng cảm xúc nghiêm trọng.

Những con số này được xem là đáng lo ngại khi ChatGPT hiện có hơn 800 triệu người dùng mỗi tuần, tương đương gần 10% dân số thế giới. Các chuyên gia cho rằng công cụ trí tuệ nhân tạo này đang trở thành nơi chia sẻ nỗi cô đơn và căng thẳng của nhiều người, nhất là những người ít giao tiếp hoặc đang gặp vấn đề tâm lý.

Để đối phó, OpenAI đã mời 170 chuyên gia y khoa và tâm lý trong mạng lưới Global Physician Network tham gia đánh giá mô hình. Họ xem xét hơn 1.800 cuộc trò chuyện có nội dung nhạy cảm, giúp điều chỉnh cách phản hồi của ChatGPT để thể hiện thái độ đồng cảm và phù hợp hơn về mặt tâm lý học.

Công ty cho biết đã giảm 65-80% các phản hồi được xem là nguy hiểm, đồng thời bổ sung liên kết đến đường dây nóng hỗ trợ khủng hoảng và hiển thị lời nhắc nghỉ ngơi trong các phiên trò chuyện kéo dài. Tuy vậy, ChatGPT vẫn chưa có cơ chế tự dừng hội thoại hoặc chặn người dùng có dấu hiệu bất ổn, khiến nhiều chuyên gia lo ngại.

Một số nhà tâm lý cảnh báo về xu hướng “tính nịnh hót” của chatbot, tức là dễ dàng đồng ý với người dùng, ngay cả khi họ bày tỏ suy nghĩ tiêu cực hoặc tự hại bản thân. Sự đồng thuận này, nếu không được kiểm soát, có thể khiến người đang tổn thương rơi sâu hơn vào khủng hoảng.

Báo cáo được công bố trong thời điểm OpenAI đang chịu nhiều sức ép về pháp lý và đạo đức, bao gồm vụ kiện liên quan đến một thiếu niên tự tử sau khi trò chuyện với ChatGPT. Ủy ban Thương mại Liên bang Mỹ cũng đã mở cuộc điều tra về tác động của chatbot đối với trẻ em và thanh thiếu niên.

Bên cạnh những nỗ lực cải thiện an toàn, OpenAI vẫn gây tranh cãi khi tuyên bố nới lỏng một số hạn chế, trong đó có việc cho phép người lớn tạo nội dung nhạy cảm và thử nghiệm phát triển tính cách riêng cho chatbot. Các chuyên gia cho rằng điều này không giúp cải thiện sức khỏe tâm thần của người dùng, thậm chí có thể làm tăng rủi ro.

Giám đốc điều hành Sam Altman thừa nhận các triệu chứng rối loạn tâm lý và khủng hoảng cảm xúc là hiện tượng phổ biến trong xã hội, và việc chúng xuất hiện trong ChatGPT là điều khó tránh. Tuy nhiên, ông khẳng định công ty đã giảm thiểu đáng kể rủi ro liên quan đến sức khỏe tinh thần và sẽ tiếp tục hoàn thiện mô hình.

Các chuyên gia cảnh báo trí tuệ nhân tạo đang vượt ra khỏi vai trò của một công cụ hỗ trợ học tập hay sáng tạo, để trở thành nơi người dùng tìm kiếm sự lắng nghe và đồng cảm. Ranh giới giữa một trợ lý ảo và người bạn tâm lý vì thế ngày càng mờ nhạt, đặt ra nhiều câu hỏi về trách nhiệm giám sát và quản lý công nghệ trong tương lai.