كشفت شركة OpenAI عن خطة جديدة لتوجيه المحادثات الحساسة إلى نماذج التفكير المتقدمة مثل GPT-5، مع طرح أدوات الرقابة الأبوية خلال الشهر المقبل. وتأتي هذه الخطوة بعد سلسلة من الحوادث المأساوية التي أثارت مخاوف بشأن قدرة ChatGPT على التعامل مع محادثات تتعلق بالاضطرابات النفسية.
خلفية القضية
أثارت وفاة المراهق آدم رين، الذي ناقش أفكاراً انتحارية مع ChatGPT وحصل منه على طرق لتنفيذها، جدلاً واسعاً. وقد رفعت عائلته دعوى قضائية ضد OpenAI بتهمة الإهمال. في مدونة حديثة، اعترفت الشركة بوجود ثغرات في أنظمة السلامة لديها، خاصة خلال المحادثات الطويلة حيث يفشل النموذج في كسر أنماط التفكير الخطرة.
حالات مشابهة وتداعيات خطيرة
سلطت صحيفة وول ستريت جورنال الضوء على حالة ستين-إريك سولبرغ، الذي عانى من اضطرابات نفسية. استخدم ChatGPT لتغذية أوهامه المؤامراتية، ما أدى في النهاية إلى ارتكاب جريمة قتل والدته ثم الانتحار. هذه الحالات دفعت الخبراء إلى التحذير من أن آلية عمل النماذج، القائمة على التنبؤ بالكلمات، تجعلها تميل إلى مجاراة المستخدم بدلاً من إعادة توجيهه.
الحل المقترح: نماذج التفكير المتقدم
أوضحت OpenAI أنها بدأت في استخدام نظام توجيه فوري يميز بين المحادثات العادية والحساسة. عند اكتشاف مؤشرات على الضيق النفسي الحاد، يتم تحويل المحادثة تلقائياً إلى نموذج مثل GPT-5 Thinking أو o3، القادر على التفكير بشكل أعمق ومقاومة التلاعب بالمحفزات.
أدوات الرقابة الأبوية الجديدة
تستعد OpenAI لإطلاق مجموعة من ميزات الرقابة الأبوية، تشمل:
- ربط حساب المراهق بحساب ولي الأمر عبر دعوة بالبريد الإلكتروني.
- تطبيق قواعد سلوك افتراضية للنموذج تراعي العمر.
- إمكانية إيقاف ميزات مثل الذاكرة وسجل المحادثات.
- تنبيهات فورية عند رصد مؤشرات على ضيق نفسي خطير.
كما أشارت الشركة إلى أن هذه الخطوة تأتي بعد إطلاق ميزة وضع الدراسة في يوليو الماضي، والتي تهدف إلى تعزيز التفكير النقدي لدى الطلاب.
مبادرات أوسع للأمان والرفاهية
تعمل OpenAI ضمن خطة مدتها 120 يوماً تهدف إلى تحسين ضوابط السلامة. كما تتعاون مع خبراء في مجالات مثل اضطرابات الأكل، الإدمان، وصحة المراهقين، عبر شبكة الأطباء العالمية ومجلس خبراء الرفاهية والذكاء الاصطناعي، للمساعدة في تطوير معايير قياس وتحسين رفاهية المستخدمين.
انتقادات قانونية
قال جاي إدلسون، المستشار القانوني لعائلة رين، إن استجابة الشركة “غير كافية”، مضيفاً: “أوبن إيه آي لا تحتاج إلى لجنة خبراء لتدرك أن ChatGPT يمثل خطراً. كان ذلك واضحاً منذ يوم الإطلاق. وعلى سام ألتمان أن يعلن بوضوح إما أن المنتج آمن أو يسحبه من السوق فوراً.”
تمثل الخطوات التي أعلنت عنها OpenAI محاولة جادة لمعالجة الثغرات في أنظمة السلامة وحماية المستخدمين، خصوصاً المراهقين والفئات الأكثر عرضة للخطر. وبينما تعكس هذه المبادرات إدراكاً متزايداً لمسؤولية الشركات المطورة للذكاء الاصطناعي، إلا أن الانتقادات المستمرة تشير إلى أن الطريق ما زال طويلاً لتحقيق التوازن بين الابتكار وضمان الأمان الرقمي. المستقبل سيُظهر مدى قدرة هذه الإجراءات على استعادة ثقة المستخدمين والحد من المخاطر المرتبطة بالمحادثات الحساسة.
