أضافت شركة ميتا إجراءات حماية جديدة لتمكين مساعدها الذكي من تنبيه أولياء الأمور بشكل استباقي عندما يناقش أبناؤهم المراهقون مواضيع حساسة، مثل إيذاء النفس أو الانتحار. وتهدف الشركة، المملوكة لمارك زوكربيرج، من خلال هذا التحديث، إلى رصد ما إذا كان المراهقون يمرون بظروف صعبة. ويمكن للروبوت تنبيه البالغين إذا ذكر المراهق مصطلحات تتعلق بالانتحار أو إيذاء النفس.ووفقًا للمعلومات التي نشرتها ميتا على مدونتها الرسمية، سيتم تفعيل هذا التنبيه عند الإشارة بوضوح إلى هذه المواضيع، بالإضافة إلى مؤشرات أخرى أقل وضوحًا قد تدل على أن المراهق معرض للخطر. ومع ذلك، ستتم مراجعة المحادثات المصنفة على أنها حساسة من قبل فريق إشراف بشري قبل إرسال التنبيه. وستتوخى ميتا الحذر وتنبّه أولياء الأمور إذا كان قصد المراهق غامضًا.تواصل شركة ميتا حاليًا العمل مع خبراء الصحة النفسية لتحسين استجابة منصة Meta AI لاستفساراتهم المتعلقة بالانتحار وإيذاء النفس.وكما ورد في مدونتها الرسمية: "نستفيد من هذه الملاحظات لتحسين تفاعل Meta AI مع المراهقين حول هذه المواضيع الحساسة؛ على سبيل المثال، من خلال ضمان أن تراعي Meta AI مشاعر المراهقين عند توجيههم إلى مصادر الدعم، وأن لا تقطع المحادثة فجأة."تتوفر تنبيهات Meta AI هذه بالفعل للآباء الذين يستخدمون أدوات الرقابة الأبوية في إنستغرام في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، وتعتزم ميتا توسيع هذه الميزة لتشمل جميع الآباء الآخرين في جميع أنحاء العالم قبل نهاية العام.تجدر الإشارة إلى أن بإمكان أولياء الأمور تفعيل خاصية تقييد المحتوى، والتي تحدّ من ظهور المحتوى المصنف لمن هم في سن 13 عامًا فما فوق على حسابات أطفالهم. وحاليًا، ينطبق هذا الإجراء أيضًا على المحادثات التي يجريها الأطفال مع تطبيق Meta AI.wwww.igli5.com