Cụ thể, khi một tài khoản thanh thiếu niên đang nằm trong chế độ giám sát có hành vi tìm kiếm lặp đi lặp lại các cụm từ mang tính chất cổ xúy tự tử hoặc biểu hiện ý định tự gây tổn thương, hệ thống sẽ kích hoạt cơ chế báo động.

Thông báo này còn được gửi đồng loạt qua nhiều kênh liên lạc trực tiếp như email, tin nhắn SMS hoặc WhatsApp của cha mẹ. Đáng chú ý, cả phụ huynh lẫn các em nhỏ đều sẽ nhận được thông báo về việc triển khai cơ chế này nhằm đảm bảo tính minh bạch trước khi tính năng chính thức đi vào hoạt động. Đại diện Meta chia sẻ dù đại đa số thanh thiếu niên không tìm kiếm các chủ đề tiêu cực này, việc nhận được cảnh báo có thể gây không ít lo lắng cho các bậc phụ huynh. 

Cảnh báo dành cho phụ huynh sử dụng tính năng giám sát. Ảnh chụp màn hình. 

Do đó, thay vì chỉ gửi thông báo đơn thuần, Instagram sẽ tích hợp kèm theo các cẩm nang, tài liệu hướng dẫn và số điện thoại đường dây nóng trợ giúp từ chuyên gia. Điều này nhằm hỗ trợ bố mẹ giữ bình tĩnh, biết cách tiếp cận, lắng nghe và trò chuyện với con một cách thấu cảm, tránh gây thêm áp lực tâm lý cho trẻ. Vấn đề đặt ra là làm thế nào để cảnh báo đúng lúc mà không làm phiền phụ huynh bởi những thông báo "báo động giả".

Để giải quyết bài toán này, Meta cho biết đã phối hợp chặt chẽ với nhóm cố vấn về tự tử và tự làm hại bản thân (Suicide and Self-Harm Advisory Group) cùng các chuyên gia tâm lý độc lập. Ngưỡng cảnh báo được thiết lập sau khi phân tích kỹ lưỡng hành vi tìm kiếm: Chỉ khi tài khoản ghi nhận một số lượt truy vấn liên quan trong một khung thời gian ngắn nhất định, hệ thống mới gửi tín hiệu báo động.

“Chúng tôi ưu tiên cách tiếp cận thận trọng. Điều này đồng nghĩa trong một số trường hợp, phụ huynh có thể nhận thông báo dù chưa có nguy cơ thực sự đáng lo ngại, nhưng đây là điểm khởi đầu cần thiết để không bỏ sót bất kỳ nguy cơ tiềm ẩn nào đối với an toàn của trẻ”, đại diện Meta cho biết. 

Đồng thời, nền tảng sẽ tiếp tục lắng nghe phản hồi của người dùng để tinh chỉnh thuật toán trong tương lai. Việc mở rộng các công cụ cảnh báo và giám sát này được kỳ vọng sẽ tạo thêm cầu nối quan trọng, giúp gia đình kịp thời nắm bắt tâm lý con cái trong thời đại số hóa, ngăn chặn những rủi ro đáng tiếc có thể xảy ra.