صور مثيرة وأخطاء خطيرة.. لماذا يحقق الاتحاد الأوروبي في روبوت الدردشة جروك؟
أعلن الاتحاد الأوروبي أنه يراقب عن كثب سلوك روبوت الدردشة "جروك" التابع لإيلون ماسك، بعد تقارير تفيد بإنشائه صورًا غير لائقة لأشخاص بينهم قاصرون، على منصة التواصل الاجتماعي "إكس".
وقال المتحدث باسم المفوضية الأوروبية، توماس رينييه، خلال مؤتمر صحفي: "ندرك أن جروك ومنصة إكس يوفران وضعًا يُعرف بـ’Spicy Mode‘، يعرض محتوى غير لائق، بما في ذلك بعض المخرجات التي تشبه صور الأطفال.
استخدام روبوت الدردشة جروك لإنشاء محتوى غير لائق
وكشفت تقارير لوكالة بلومبرج، أن بعض مستخدمي "إكس" طلبوا من جروك إزالة الملابس رقميًا من صور، معظمها لنساء، لتظهر وكأنها تُظهر أجزاءً من الجسم.
وانتشار هذا النوع من الصور أثار قلق الجهات التنظيمية والمدافعين عن السلامة الرقمية حول العالم، بما في ذلك مسؤولون في الهند وبريطانيا وفرنسا.
وقال إيلون ماسك، مؤسس المنصة، في منشور على "إكس"، إن الشركة تتخذ إجراءات صارمة ضد المحتوى غير القانوني عبر حذفه وتعليق الحسابات نهائيًا والتعاون مع السلطات عند الضرورة.
مشددًا على أن "أي شخص يستخدم جروك لإنشاء محتوى غير قانوني يواجه نفس العواقب التي تواجه من يرفع محتوى غير قانوني."
وعلى الرغم من أن معظم نماذج الذكاء الاصطناعي تمنع الصور والمحتوى غير اللائق، فإن "جروك"، الذي طورته شركة "xAI" التابعة لماسك، يسمح بعرض صور غير لائقة.
