بعد انتحار مراهق.. تشديد الرقابة على روبوت الدردشة الآلي Chatgpt

كشفت شركة الذكاء الاصطناعي "OpenAI"، عن طرحها مجموعة أدوات جديدة للرقابة الأبوية داخل تطبيق "شات جي بي تي"، في خطوة اعتبرت استجابة مباشرة لقضية قضائية أثارت جدلًا واسعًا بعد انتحار مراهق قيل إن الروبوت ساعد في دفعه إلى هذه النهاية المأساوية.

رقابة أبوية على روبوت الدردشة شات جي بي تي 

وأوضحت الشركة في بيان رسمي، أن الأدوات أصبحت متاحة عالميًا لجميع المستخدمين، لتمنح أولياء الأمور قدرة أكبر على إدارة تفاعل أبنائهم مع روبوت الدردشة الشهير. 

وتشمل الميزات الجديدة إمكانية تحديد أوقات استخدام التطبيق، وتلقي تنبيهات فورية إذا أظهر المراهق علامات ضيق أو سلوكًا مثيرًا للقلق.

وبحسب OpenAI، يمكن تفعيل إعدادات الرقابة بسهولة من داخل التطبيق، حيث يتمكن الوالدان من التحكم في ميزات مثل وضع الصوت، وتوليد الصور، والرجوع إلى المحادثات السابقة، بالإضافة إلى اختيار نسخة "مخففة" من شات جي بي تي تقلل المحتوى الحساس مثل موضوعات الحمية والجنس وخطاب الكراهية.

ويأتي هذا التحديث وسط ضغوط متزايدة على الشركة الناشئة، التي تجاوز عدد مستخدميها 700 مليون منذ إطلاق الخدمة نهاية 2022، وفقًا لتقديرات بلومبرج.

رفع دعوى ضد شركة Open AI

وكانت عائلة المراهق آدم راين قد رفعت دعوى ضد OpenAI ورئيسها التنفيذي سام ألتمان في أغسطس، متهمة الروبوت بالتسبب في انتحار ابنها في أبريل الماضي.

وأكدت OpenAI، أن هذه الخطوة تمثل جزءًا من جهودها لجعل شات جي بي تي "تجربة آمنة وفعالة لجميع الأعمار"، مشيرة إلى أن نظام التنبيهات الجديد يتيح التواصل الفوري مع الأهل عبر البريد الإلكتروني أو الرسائل النصية عند رصد أي مخاطر محتملة.