في خطوة تهدف إلى تعزيز سلامة المراهقين على الإنترنت، أعلنت شركة ميتا (Meta) المالكة لتطبيقات فيسبوك وإنستغرام وواتساب عن أدوات جديدة تتيح للآباء التحكم في المحادثات الخاصة التي يجريها أبناؤهم مع شخصيات الذكاء الاصطناعي على المنصات التابعة لها. وقد جاء القرار بعد موجة من الانتقادات التي واجهت الشركة، إثر تقارير أشارت إلى أن بعض روبوتات الدردشة تفاعلت بأسلوب غير لائق مع مستخدمين صغار السن.
ميتا تستجيب للانتقادات بإجراءات صارمة
أكدت الشركة أن التحديث الجديد سيُمكّن أولياء الأمور من إيقاف المحادثات الخاصة بين المراهقين وشخصيات الذكاء الاصطناعي، أو حظر روبوتات محددة بالكامل. وسيكون بمقدور الآباء أيضاً الاطّلاع على المواضيع العامة التي يناقشها أبناؤهم مع روبوتات الدردشة، دون الحاجة إلى تعطيل خدمات الذكاء الاصطناعي كلياً.
وقد أوضح رئيس إنستغرام آدم موسيري، ورئيس قسم الذكاء الاصطناعي في الشركة ألكسندر وانغ، أن هذه الأدوات ستُطرح تدريجياً في مطلع العام القادم في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا.
ضبط المحتوى وفق الفئة العمرية
ذكرت ميتا أن جميع تجارب الذكاء الاصطناعي الخاصة بالمراهقين ستخضع لتصنيف PG-13 على غرار تصنيفات الأفلام السينمائية، وذلك لضمان أن المحتوى الذي يظهر لهم يتناسب مع أعمارهم. وأكدت الشركة أن روبوتاتها مصممة بحيث تتجنّب تماماً النقاشات الحساسة مثل إيذاء النفس، والانتحار، واضطرابات الأكل.
كما أشارت ميتا إلى أنها تستخدم إشارات الذكاء الاصطناعي لرصد الحسابات المشتبه بأنها لمراهقين حتى في حال أعلن المستخدم أنه بالغ، لضمان تطبيق الحماية بشكل تلقائي.
خلفية القرار: ضغوط وتنظيمات متزايدة
تأتي هذه الخطوة بعد أن كثّف المنظمون الأمريكيون رقابتهم على شركات الذكاء الاصطناعي، وسط مخاوف من التأثيرات النفسية والسلوكية للمحادثات الآلية على المراهقين. وكان تقرير سابق قد كشف أن أنظمة ميتا سمحت ببعض المحادثات “الغزلية” بين روبوتاتها ومستخدمين قُصّر، ما أثار انتقادات حادة حول غياب الرقابة الأخلاقية على محتوى الذكاء الاصطناعي.
وتزامن هذا التحرك مع إعلان شركة OpenAI – مطورة ChatGPT – عن طرح أدوات تحكم أبوية مشابهة، بعد قضية رفعتها عائلة مراهق انتحر إثر محادثة مطولة مع أحد روبوتات الدردشة.
خطوة نحو بيئة رقمية أكثر أماناً
تهدف ميتا، عبر هذه الإجراءات، استعادة ثقة المستخدمين والجهات الرقابية في قدرتها على حماية فئة المراهقين، الذين يشكلون جزءاً كبيراً من جمهورها. ويرى خبراء أن منح الآباء مزيداً من الصلاحيات للتحكم في محادثات الذكاء الاصطناعي يمثل تحولاً مهماً في مسؤولية الشركات التقنية تجاه الأسر والمجتمع.
