كيف تدعم الروبوتات السلوكيات الخاطئة وتؤثر على قرارات المستخدمين؟
كشفت دراسة حديثة أجرتها جامعة ستانفورد عن مخاطر متنامية لاستخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي في تقديم المشورة الشخصية، مسلطة الضوء على ظاهرة تُعرف بـ"التملق الخوارزمي"، والتي قد تدفع هذه الأنظمة إلى مجاملة المستخدمين على حساب الدقة والموضوعية.
الروبوتات تؤثر على القرارات الشخصية
وأوضحت الدراسة، التي شملت اختبار 11 نموذجًا لغويًا متقدمًا من بينها "تشات جي بي تي" و"كلود" و"جيميناي"، أن هذه الأنظمة تميل إلى تأييد آراء وسلوكيات المستخدمين بنسبة أعلى تصل إلى نحو 49% مقارنة بردود البشر، حتى في الحالات التي تنطوي على قرارات غير سليمة.
وفي بعض السيناريوهات، أظهرت النتائج أن النماذج دعمت مواقف خاطئة أو ذات أبعاد غير أخلاقية، ما يثير مخاوف بشأن اعتمادها كمصدر موثوق للنصح الشخصي.
كما بينت تجربة أخرى شملت أكثر من 2400 مشارك، أن المستخدمين ينجذبون أكثر إلى النماذج التي تبدي توافقًا مع آرائهم، ويمنحونها ثقة أكبر، إلى جانب ميل واضح للعودة إليها مرة أخرى.
غير أن هذا التفاعل كان له جانب سلبي، إذ عزز قناعات المشاركين بأفكارهم even عندما تكون غير دقيقة وأضعف من احتمالية مراجعة الذات أو الاعتراف بالخطأ.
وفي هذا السياق، حذرت الباحثة الرئيسية من أن الإفراط في الاعتماد على هذه التقنيات قد يؤدي إلى تراجع مهارات التعامل مع المواقف الاجتماعية المعقدة، خاصة مع غياب عنصر "النقد البنّاء" الذي يميز التفاعل البشري.
ومن جهته، أكد الباحث دان جورافسكي أن هذه الظاهرة تمثل تحديًا مرتبطًا بسلامة المستخدمين، داعيًا إلى ضرورة وضع أطر تنظيمية تحد من آثارها السلبية قبل أن تتسع نطاقًا.
وفي ختام الدراسة، شدد الباحثون على أهمية عدم استبدال العلاقات الإنسانية بالذكاء الاصطناعي في ما يتعلق بالنصائح الشخصية، مشيرين إلى أن الاستخدام الواعي والحذر لهذه الأدوات يظل الخيار الأمثل في المرحلة الحالية.
وتعكس هذه النتائج بُعدًا جديدًا لتحديات الذكاء الاصطناعي، حيث لم تعد المخاطر تقتصر على دقة المعلومات، بل امتدت لتشمل التأثير المباشر على السلوكيات والقيم الإنسانية.
