Tính năng giám sát mới: Phụ huynh có thể xem chủ đề AI trong 7 ngày gần nhất
Hoạt động như thế nào?
Phụ huynh lo ngại về nội dung teen trò chuyện với AI của Meta sẽ sớm có thể xem được các chủ đề cuộc trò chuyện thông qua công cụ giám sát Teen Account. Thông tin được truy cập qua tab Insights trong công cụ giám sát trên Instagram, Facebook và Messenger.
Tính năng liệt kê các chủ đề rộng như: học tập, giải trí, viết lách, sức khỏe và phúc lợi. Phụ huynh có thể nhấp vào từng chủ đề để xem thêm chi tiết — nhưng ở mức giới hạn. Ví dụ, danh mục sức khỏe và phúc lợi có thể bao gồm thể dục, sức khỏe thể chất và sức khỏe tâm thần. Dữ liệu chỉ bao gồm 7 ngày gần nhất.
Bối cảnh: Meta tung tính năng này trong áp lực pháp lý lớn
Đây là biện pháp an toàn mới nhất Meta triển khai dưới áp lực pháp lý và truyền thông mạnh mẽ. Gần đây, Meta thua hai vụ kiện riêng biệt liên quan đến bảo vệ trẻ em và thiết kế sản phẩm bị cáo buộc gây nghiện — công ty tuyên bố sẽ kháng cáo cả hai phán quyết.
Vụ kiện an toàn trẻ em tại New Mexico năm nay đã tiết lộ tài liệu nội bộ cho thấy lãnh đạo Meta biết các nhân vật AI “characters” có thể có tương tác không phù hợp và tình dục với người dùng nhưng vẫn ra mắt mà không có biện pháp kiểm soát đủ mạnh.
Hành trình siết chặt AI characters cho teen — Và phản ứng từ các chuyên gia
Chuỗi biện pháp Meta đã thực hiện từ năm ngoái
Tháng 8 năm ngoái, Meta hạn chế AI characters với người dùng teen sau các báo cáo về tương tác không phù hợp với trẻ vị thành niên — bao gồm thảo luận về tự làm hại bản thân, tự tử và quan hệ tình cảm. Tháng 10, Meta cho phép phụ huynh tắt hội thoại 1-1 với AI characters và chặn nhân vật cụ thể. Tháng 1 năm nay, Meta lại hạn chế thêm quyền truy cập của teen vào characters trong khi AI assistant vẫn hoạt động.
Một phát ngôn viên Meta xác nhận với Mashable rằng AI characters hiện đang tạm dừng với người dùng teen trên toàn cầu trong khi công ty tiếp tục xây dựng các công cụ kiểm soát dành cho phụ huynh.
Chuyên gia và tổ chức bảo vệ trẻ em nói gì?
Ngoài tính năng giám sát mới, Meta hợp tác với Cyberbullying Research Center để tạo danh sách “câu hỏi gợi mở” về việc sử dụng AI chatbot và thành lập Hội đồng Chuyên gia Phúc lợi AI mới — với sự tham gia của các chuyên gia từ Hội đồng Quốc gia Phòng chống Tự tử, Đại học Michigan và Đại học Northeastern.
Tuy nhiên, Josh Golin, Giám đốc điều hành tổ chức phi lợi nhuận bảo vệ trẻ em Fairplay, chỉ trích rằng tính năng mới “một lần nữa” đặt gánh nặng giám sát lên phụ huynh thay vì “xây dựng sản phẩm an toàn ngay từ đầu.” Golin nhận xét: “Tính năng này không giải quyết vấn đề căn bản: Chức năng chính của chatbot Meta là thao túng người trẻ để họ dành nhiều thời gian hơn trên nền tảng bằng cách khuyến khích teen hình thành kết nối cảm xúc không lành mạnh với bot.”