لحماية المراهقين.. “ميتا” تعيد ضبط سياسات روبوتات الدردشة
قالت شركة ميتا، في تصريح حصري لموقع TechCrunch، إنها بصدد تعديل طريقة تدريب روبوتات الدردشة بالذكاء الاصطناعي لديها لتعطي الأولوية لسلامة المراهقين، وذلك عقب تقرير استقصائي كشف عن نقص إجراءات الحماية المخصصة للقاصرين.
وأوضحت الشركة أنها ستدرب روبوتات الدردشة بحيث لا تتفاعل بعد الآن مع المستخدمين المراهقين حول مواضيع تتعلق بإيذاء النفس، أو الانتحار، أو اضطرابات الأكل، أو محادثات عاطفية غير لائقة، وأكدت ميتا أن هذه تغييرات “مؤقتة”، على أن تطلق لاحقا تحديثات أكثر قوة لحماية القاصرين.
ميتا تقوم بتحديث قواعد روبوتات الدردشة لتجنب الموضوعات غير اللائقة مع المراهقين
اعترفت المتحدثة باسم ميتا، ستيفاني أوتواي، بأن روبوتات الدردشة كانت في السابق تتحدث مع المراهقين حول هذه المواضيع بطرق اعتبرتها الشركة “مناسبة”، لكنها الآن ترى أن ذلك كان خطأ.
وقالت أوتواي: "مع توسع مجتمعنا وتطور التكنولوجيا، نتعلم باستمرار كيف يمكن أن يتفاعل الشباب مع هذه الأدوات، ونعزز الحماية وفقا لذلك، وبينما نواصل تحسين أنظمتنا، أضفنا مزيدا من الضوابط الاحترازية، بما في ذلك تدريب الذكاء الاصطناعي لدينا على عدم الدخول في محادثات مع المراهقين حول هذه المواضيع، بل توجيههم نحو مصادر متخصصة، إلى جانب تقييد وصول المراهقين مؤقتا إلى مجموعة محدودة من شخصيات الذكاء الاصطناعي".
وبالإضافة إلى تحديثات التدريب، ستقيد ميتا أيضا وصول المراهقين إلى بعض شخصيات الذكاء الاصطناعي التي قد تدخل في محادثات غير لائقة، فبعض الشخصيات التي يبتكرها المستخدمون والمتاحة عبر إنستجرام وفيسبوك كانت تشمل روبوتات ذات طابع جنسي مثل “زوجة الأب” و”الفتاة الروسية”، وبدلا من ذلك، سيكون بإمكان المراهقين الوصول فقط إلى شخصيات ذكاء اصطناعي تركز على التعليم والإبداع، بحسب أوتواي.
وتأتي هذه السياسات الجديدة بعد أسبوعين فقط من تحقيق أجرته وكالة “رويترز” كشف عن وثيقة داخلية في ميتا كانت تسمح لروبوتات الشركة بالدخول في محادثات ذات طابع جنسي مع مستخدمين قاصرين.
وضمت الوثيقة عبارات غير لائقة، كما أظهرت أمثلة أخرى كيفية استجابة هذه الأدوات لطلبات الحصول على صور عنيفة أو ذات طابع جنسي لشخصيات عامة، وقالت ميتا إن الوثيقة كانت “غير متسقة” مع سياساتها العامة، وتم تعديلها لاحقا، لكن التقرير أثار جدلا واسعا حول مخاطر السلامة على الأطفال.
وبعد وقت قصير من نشر التحقيق، أطلق السيناتور الأمريكي جوش هاولي تحقيقا رسميا بشأن سياسات الذكاء الاصطناعي لدى ميتا، كما أرسل تحالف يضم 44 نائبا عاما للولايات المتحدة رسالة إلى عدد من شركات الذكاء الاصطناعي، بما في ذلك ميتا، للتأكيد على أهمية حماية الأطفال، مشيرين بشكل خاص إلى تقرير رويترز.
وجاء في الرسالة: “نحن جميعًا نشعر بالاشمئزاز من هذا التجاهل الواضح لسلامة الأطفال العاطفية، ونشعر بالقلق من أن مساعدين بالذكاء الاصطناعي ينخرطون في سلوكيات قد يحظرها القانون الجنائي في ولاياتنا".
وامتنعت أوتواي عن التعليق على عدد القاصرين بين مستخدمي روبوتات الدردشة التابعة لميتا، كما لم تحدد ما إذا كانت الشركة تتوقع انخفاضا في قاعدة مستخدمي الذكاء الاصطناعي نتيجة لهذه القرارات.
