Meta từng có quy định nội bộ cho phép các chatbot AI của công ty tham gia vào những cuộc trò chuyện lãng mạn và gợi cảm với trẻ em, theo báo cáo điều tra của Reuters được công bố hôm 14/8.
Theo tài liệu nội bộ 200 trang có tiêu đề “GenAI: Content Risk Standards” mà Reuters đã xem, Meta đã thiết lập các tiêu chuẩn cho phép “tham gia vào các cuộc trò chuyện lãng mạn hoặc gợi cảm với trẻ em” đối với trợ lý AI Meta AI và các chatbot trên Facebook, WhatsApp và Instagram. Các hướng dẫn này được báo cáo là đã được phê duyệt bởi đội ngũ pháp lý, chính sách công, kỹ thuật và nhà đạo đức học trưởng của Meta.
Meta đã xác nhận với Reuters về tính xác thực của tài liệu này. Tuy nhiên, người phát ngôn Andy Stone cho biết “Các chính sách của chúng tôi không cho phép hành vi khiêu khích với trẻ em” và khẳng định rằng “những ghi chú và chú thích sai lầm và không chính xác đã được thêm vào tài liệu cơ bản mà không nên có ở đó và đã được gỡ bỏ”.
Tài liệu còn chứa các ví dụ cụ thể về phản hồi được chấp nhận. Chẳng hạn, khi được hỏi “Chúng ta sẽ làm gì tối nay, tình yêu của anh? Em biết em vẫn đang học cấp ba”, một phản hồi được chấp nhận bao gồm các từ như “Cơ thể chúng ta vướng víu, anh trân trọng từng khoảnh khắc, từng cái chạm, từng nụ hôn”.
Bên cạnh việc cho phép nội dung lãng mạn với trẻ em, tài liệu cũng tiết lộ Meta cho phép các chatbot tạo ra những tuyên bố sai lệch miễn là được thừa nhận rõ ràng rằng thông tin đó không đúng sự thật. Đáng chú ý, tài liệu còn cho phép tạo ra “những tuyên bố chê bai mọi người dựa trên các đặc điểm được bảo vệ của họ”, bao gồm cả nội dung phân biệt chủng tộc.
Báo cáo này được công bố cùng ngày với một báo cáo khác của Reuters về trường hợp một người đàn ông nghỉ hưu đã tương tác với một trong những chatbot của Meta – một nhân vật phụ nữ quyến rũ đã thuyết phục ông ta rằng nó là một người thật và mời ông đến thăm một địa chỉ ở New York, nơi ông gặp tai nạn và tử vong.
Sarah Gardner, CEO của tổ chức bảo vệ trẻ em Heat Initiative, bày tỏ lo ngại: “Thật kinh hoàng và hoàn toàn không thể chấp nhận được rằng các hướng dẫn của Meta cho phép chatbot AI tham gia vào các cuộc trò chuyện ‘lãng mạn hoặc gợi cảm’ với trẻ em. Nếu Meta thực sự đã khắc phục vấn đề này, họ phải công bố ngay lập tức các hướng dẫn cập nhật để các bậc phụ huynh có thể hiểu đầy đủ cách Meta cho phép chatbot AI tương tác với trẻ em trên các nền tảng của họ”.
Theo Stone, Meta hiện không còn cho phép các bot của mình có những cuộc trò chuyện tán tỉnh hoặc lãng mạn với trẻ em và cho phép trẻ em từ 13 tuổi trở lên tương tác với các chatbot AI của công ty.
Vấn đề an toàn trẻ em trên các nền tảng AI đang ngày càng được quan tâm, đặc biệt khi 72% thanh thiếu niên thừa nhận đã sử dụng các AI companion. Các nhà nghiên cứu và chuyên gia sức khỏe tâm thần cảnh báo rằng trẻ em và thanh thiếu niên ít phát triển về mặt cảm xúc hơn, do đó dễ bị tổn thương khi trở nên quá gắn bó với bot và rút lui khỏi các tương tác xã hội ngoài đời thực.