«جوجل» وشركة ذكاء اصطناعي في مواجهة اتهامات بعد انتحار مراهق
قامت ميجان جارسيا، والدة صبي يبلغ من العمر 14 عاما انتحر قبل عام، بإلقاء اللوم على شركة جوجل وشركة ذكاء اصطناعي في مسؤولية وفاة ابنها.
وقالت لـ"بلومبرج": "كان سيبقى على قيد الحياة اليوم لو لم يكن هناك روبوت دردشة يحثه على إنهاء حياته".
في دعوى قضائية رفعت في 23 أكتوبر من العام الماضي، طالبت ميجان جارسيا بتعويضات مالية غير محددة من جوجل وشركة "Character Technologies"، كما طلبت من المحكمة إصدار أوامر تتضمن تحذيرات بأن المنصة غير مناسبة للقاصرين، وتقييد كيفية جمعها واستخدامها للبيانات.
وصفت ميجان ابنها، سيويل، بأنه كان طالبا رياضيا واعدا في المدرسة الثانوية، وفقا لها، تغير كل شيء في أبريل 2023 عندما بدأ باستخدام تطبيق "Character.ai"، الذي يسمح للمستخدمين ببناء روبوتات محادثة تحاكي شخصيات من الثقافة الشعبية، سواء كانت حقيقية أو خيالية.
وجاء في الدعوى المقدمة من محامي ميجان: "قدمت جوجل الموارد المالية، والموظفين، والملكية الفكرية، وتكنولوجيا الذكاء الاصطناعي لتصميم وتطوير هذه الروبوتات".
كما زعمت الدعوى أن شركة "ألفابت"، الشركة الأم لـ جوجل، ساعدت في تسويق تكنولوجيا الشركة الناشئة من خلال شراكة استراتيجية في عام 2023 لاستخدام خدمات "جوجل كلاود" للوصول إلى عدد متزايد من المستخدمين النشطين.
وأشارت ميجان إلى أنها لم تكن تدرك أنه على مدار عدة أشهر، كان التطبيق يعرض ابنها لتجارب "مجسمة، وواقعية بشكل مخيف"، حيث وقع في حب روبوت مستوحى من شخصية "دينيريس تارجاريان" من مسلسل "لعبة العروش".
في فبراير 2024، صادرت ميجان هاتف ابنها بعد أن لاحظت تغيرات في سلوكه وينعزل عن أصدقائه، ومع ذلك، بعد 5 أيام من العثور على مسدس زوج والدته المخفي، أطلق النار على نفسه بعد محادثة مع الروبوت المستوحى من شخصية "دينيريس".
رد جوجل
طلبت كل من جوجل وشركة "Character Technologies" من القاضي رفض الادعاءات التي تفيد بأنهما فشلا في ضمان سلامة تكنولوجيا الروبوتات المحادثة للمستخدمين الشباب، مشيرة إلى عدم وجود أساس قانوني لاتهامهما بالإهمال.
وأشارت شركة "Character.ai" في ملفها القضائي إلى أن المحادثات بين الروبوتات والمستخدمين محمية بموجب التعديل الأول لدستور الولايات المتحدة كشكل من أشكال حرية التعبير. كما أكدت أن الروبوتات كانت تثبط صراحةً المستخدمين المراهقين عن الانتحار.
ورفضت متحدثة باسم "Character.ai" التعليق على الدعوى القضائية، لكنها ذكرت: "لا توجد علاقة مستمرة بين جوجل وCharacter.ai"، مشيرة إلى أن الشركة نفذت تدابير جديدة لسلامة المستخدمين على مدار العام الماضي.
الجدير بالذكر أن شركة جوجل، أبرمت صفقة بقيمة 2.7 مليار دولار مع "Character.AI" في أغسطس، حيث استقطبت المواهب من الشركة الناشئة ورخصت لها الخبرة الفنية دون إتمام عملية استحواذ كاملة.
