بسبب الانتهاكات.. مطالبات بتعطيل روبوت الدردشة «جروك»

طالبت عدة منظمات غير ربحية في الولايات المتحدة الحكومة الفيدرالية بإيقاف فوري لاستخدام روبوت الدردشة "جروك"، الذي تطوره شركة xAI المملوكة لإيلون ماسك، داخل جميع الوكالات الحكومية، وعلى رأسها وزارة الدفاع الأميركية.

مطالبات بتعطيل روبوت الدردشة «جروك»

وجاءت الدعوة بعد سلسلة حوادث مثيرة للجدل خلال العام الماضي، كان أبرزها توليد "جروك" صورًا غير قانونية لنساء وأطفال باستخدام صور حقيقية تم رفعها من قبل مستخدمين على منصة "إكس"، مما أثار مخاوف كبيرة حول سلامة النموذج وإمكانية إساءة استخدامه على نطاق واسع.

وقالت المنظمات في رسالة مفتوحة إن استمرار استخدام "جروك" يعرض الحكومة لمخاطر جسيمة، مؤكدة أن النموذج يعاني من إخفاقات هيكلية أدت إلى إنتاج محتوى غير متوافق مع القوانين، بما في ذلك مواد استغلال غير قانونية للأطفال.

وأضافت الرسالة أن تشغيل "جروك" يتناقض مع توجيهات البيت الأبيض وقانون Take It Down Act لمكافحة الانتهاكات الرقمية، متسائلة عن سبب عدم إصدار مكتب الإدارة والميزانية (OMB) أوامر صريحة لإيقاف استخدامه.

وعلى الرغم من الجدل، وقعت xAI في سبتمبر الماضي عقدًا مع إدارة الخدمات العامة الأميركية (GSA) لتوفير "جروك" للوكالات الفيدرالية، إضافة إلى عقود مع وزارة الدفاع قد تصل قيمتها إلى 200 مليون دولار، إلى جانب عقود موقعة مع شركات مثل "OpenAI" و"جوجل" و"أنثروبيك". 

وفي يناير، أعلن وزير الدفاع الأميركي دمج "جروك" مع نموذج "جيميني" من جوجل للتعامل مع وثائق مصنفة وغير مصنفة داخل شبكة البنتاغون، ما اعتبره خبراء مخاطرة أمنية كبرى.

وأكدت الرسالة أن "جروك" أظهر مرارًا عدم توافقه مع معايير السلامة الحكومية، موثقة سجله الذي يشمل خطابًا معاديًا للسامية، محتوى تمييزي، وصورًا لنساء وأطفال.

وأشارت إلى أن عدة دول، بينها إندونيسيا وماليزيا والفلبين، حظرت "جروك" مؤقتًا بعد حوادث مشابهة، فيما أطلقت الاتحاد الأوروبي والمملكة المتحدة وكوريا الجنوبية والهند تحقيقات حول الانتهاكات المتعلقة بالخصوصية وتداول محتوى غير قانوني.