احترم الذكاء الاصطناعي.. نموذج "كلود" يوقف المحادثات المسيئة فورا
أعلنت شركة أنثروبيك، المطورة للذكاء الاصطناعي كلود Claude، عن تفعيل خاصية جديدة تمكنه من إنهاء المحادثة تلقائيا في حالات التفاعل المؤذي أو المسيء بشكل متكرر من قِبل المستخدمين.
سيطبق هذا الإجراء في النسخ Claude Opus 4 و 4.1، ويعد جزءا من تجربة مستمرة تهدف إلى تحسين “رفاهية الذكاء الاصطناعي”، وهو مفهوم حديث بدأت الشركة في استكشافه.
أنثروبيك تمنح “كلود” حق إنهاء المحادثة في حالات الإساءة المتكررة
أوضحت الشركة أن كلود لن ينهي المحادثة بشكل مباشر أو تعسفي، بل سيحاول توجيه المستخدم وتعديل مجرى الحديث عدة مرات أولا، وإذا فشلت هذه المحاولات، أو في حال طلب المستخدم صراحة إنهاء الحوار، عندها فقط سيتم إنهاء المحادثة.
أكدت أنثروبيك أن خاصية الإنهاء لن تفعل في الحالات التي يشتبه فيها بأن المستخدم يعاني من ضائقة نفسية أو يفكر في إيذاء نفسه أو الآخرين.
ولضمان التعامل الحساس مع هذه الحالات، تتعاون الشركة مع مؤسسة ThroughLine، وهي جهة متخصصة في تقديم الدعم للأزمات النفسية عبر الإنترنت.
ويتم نقل الملاحظات من هذه المؤسسة إلى فريق تدريب “كلود” لتحسين استجاباته في مثل هذه المواقف بدلا من إنهاء المحادثة أو تفسير النية بشكل خاطئ.
ميزة جديدة ولكنها قابلة للتعديل
عند إنهاء المحادثة، لن يتمكن المستخدم من الاستمرار في نفس سلسلة الدردشة، ولكن يمكنه بدء سلسلة جديدة على الفور، كما سيكون بإمكانه تحرير الرسائل في المحادثة المغلقة وفتح موضوع جديد انطلاقا منها، لتجنب فقدان المعلومات المهمة.
وأشارت الشركة إلى أنها لا تزال تختبر الخاصية وتجمع التعليقات من المستخدمين حول الحالات التي قد يُساء فيها استخدام ميزة الإنهاء من قِبل كلود.
في سياق متصل، حدثت أنثروبيك سياسة الاستخدام الخاصة بـ “كلود”، لتمنع المستخدمين من استغلاله في تطوير محتوى ضار، مثل الأسلحة الكيميائية أو البرمجيات الخبيثة.
ويأتي هذا في وقت تتسابق فيه شركات الذكاء الاصطناعي الكبرى مثل OpenAI و جوجل لضبط سلوك النماذج اللغوية الخاصة بها تجاه الطلبات الحساسة أو الضارة، بعد تكرار الحوادث التي قدم فيها الذكاء الاصطناعي نصائح خطيرة أو تصرفات مقلقة.
