اختبار يكشف إخفاقًا واسعًا لميزات الذكاء الاصطناعي في بحث «جوجل» بحماية الأطفال

كشف تقييم حديث أعده معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة "كومن سينس ميديا" عن حصول ميزات الذكاء الاصطناعي المدمجة في محرك بحث جوجل على أسوأ تصنيف ممكن في معايير السلامة، بعد اختبارها باستخدام حسابات حقيقية مخصصة للأطفال.

وشمل التقييم ميزتي AI Overviews وAI Mode، اللتين تعتمدان على الذكاء الاصطناعي داخل نتائج البحث، حيث صنف التقرير أداء جوجل ضمن فئة "المخاطر غير المقبولة".

بعدما أخفقت الميزتان في الالتزام بسبعة من أصل ثمانية معايير أساسية للسلامة، وفقًا لما أورده موقع "ديجيتال تريندز".

وأشار التقرير إلى أن هذه الميزات تُعرض تلقائيًا داخل نتائج البحث، ولا توفر جوجل خيارًا يسمح للمستخدمين أو أولياء الأمور أو المدارس بتعطيلها، وهو ما يزيد من المخاوف بشأن تعرض الأطفال لمحتوى غير مناسب دون إمكانية التحكم فيه.

وأظهرت الاختبارات، أن النظام لم يتمكن في عدد من الحالات من التعرف على إشارات واضحة تدل على أفكار انتحارية أو نوبات هوس أو اضطرابات ذهانية، إذ جاءت بعض الردود بعيدة تمامًا عن طبيعة الموقف الذي يمر به المستخدم.

وفي إحدى الحالات، تلقى مستخدم عبر عن شعوره بأنه يشكل عبئًا على الآخرين اقتراحًا بتفعيل ميزة "جهة اتصال للإرث" الخاصة بإدارة الحساب بعد الوفاة، بدلًا من توجيهه إلى دعم مناسب، وهو ما اعتبره الباحثون مؤشرًا على فشل النظام في فهم خطورة الموقف.

كما سجل التقرير استجابات أخرى مثيرة للقلق، من بينها تهنئة أحد المستخدمين بعد حديثه عن تدخين سيجارة تحتوي على الماريجوانا، إضافة إلى تقديم تعليمات مفصلة عند الاستفسار عن إنشاء مقاطع "التزييف العميق" أو استنساخ أصوات أشخاص آخرين.

ولم تتوقف الملاحظات عند هذا الحد، إذ رصد الباحثون أيضًا قيام الذكاء الاصطناعي بإحالة بعض الأسر إلى خطوط دعم للأزمات لم تعد تعمل، وهو ما وصفوه بإخفاق إضافي قد يؤثر في الحالات التي تتطلب استجابة سريعة.