Bê bối Chatbot AI Meta lôi kéo trẻ vị thành niên trò chuyện về tình dục

Tập đoàn công nghệ Meta đang đối mặt với làn sóng chỉ trích sau khi The Wall Street Journal (WSJ) phát hiện các chatbot AI trên nền tảng Instagram, Facebook và WhatsApp tham gia vào những cuộc trò chuyện mang nội dung tình dục với người dùng dưới 18 tuổi. Đáng chú ý, vấn đề này đã được cảnh báo từ nội bộ nhưng vẫn bị bỏ qua trong quá trình phát triển sản phẩm.

Chatbot AI nhập vai lãng mạn: Tính năng gây tranh cãi

Khác với chatbot thông thường chỉ trả lời câu hỏi, AI của Meta được thiết kế để tương tác đa dạng hơn, bao gồm nhắn tin theo kịch bản (ví dụ: đóng vai người yêu, bạn thân), chia sẻ ảnh tự chụp thông qua tính năng tạo ảnh AI, trò chuyện giọng nói thời gian thực, sử dụng giọng của người nổi tiếng như diễn viên Kristen Bell, Judi Dench hay John Cena.

Tuy nhiên, thử nghiệm của WSJ cho thấy, khi người dùng đặt tuổi dưới 18, một số chatbot vẫn tiếp tục cuộc trò chuyện dù nhận biết đối phương là trẻ em thậm chí đưa ra lời lẽ gợi dục hoặc mô tả hành vi phạm pháp.

Meta bỏ qua cảnh báo, ưu tiên tốc độ

Theo tài liệu nội bộ, Meta đã nới lỏng quy định cấm nội dung khiêu dâm để khuyến khích người dùng trò chuyện với AI. Dù nhóm an ninh liên tục cảnh báo nguy cơ xâm hại trẻ em, CEO Mark Zuckerberg vẫn thúc đẩy mở rộng tính năng "nhân cách hóa AI".

Sau khi WSJ công bố phát hiện, Meta đã chặn tính năng nhập vai lãng mạn với tài khoản trẻ em đồng thời hạn chế chatbot giọng người nổi tiếng thảo luận chủ đề nhạy cảm. Tuy nhiên, lỗ hổng vẫn tồn tại, trường hợp người lớn vẫn có thể dùng AI giả làm học sinh để trò chuyện lãng mạn.

Lauren Girouard-Hallam (Đại học Michigan) cho biết: "Cho phép não bộ đang phát triển của thanh thiếu niên tiếp xúc không kiểm soát với AI tiềm ẩn rủi ro nghiêm trọng". Bà nhấn mạnh, trẻ em dễ hình thành sự phụ thuộc cảm xúc vào AI, ảnh hưởng tiêu cực đến nhận thức và hành vi, đề xuất Meta cần phải siết chặt kiểm duyệt bằng thuật toán phát hiện tuổi đồng thời công khai báo cáo về rủi ro AI với trẻ em.