الذاكرة الطويلة تضعف دقة الإجابات.. الذكاء الاصطناعي يوضح السر

تسوق شركات الذكاء الاصطناعي الحديثة لقدرة مساعداتها الرقمية على تذكر تفضيلات المستخدمين باعتبارها إحدى أهم الميزات التي تجعل التجربة أكثر تخصيصًا وفاعلية.

ومع تكرار الاستخدام، يُفترض أن تصبح النماذج أكثر فهمًا لاحتياجات الأشخاص وأنماط تفاعلهم، ما ينعكس على جودة الردود ودقتها.

إلا أن دراسات حديثة تشير إلى أن هذه الميزة قد لا تكون إيجابية دائمًا، فبحسب تقرير نشره موقع "تك كرانش"، إذ كشفت أبحاث أجرتها شركة "Writer" المتخصصة في الذكاء الاصطناعي عن آثار جانبية محتملة لأنظمة الذاكرة المدمجة داخل النماذج الذكية.

وأوضحت الدراستان أن اعتماد النماذج على المعلومات المخزنة عن المستخدم قد يدفعها أحيانًا إلى تفضيل بيانات أو افتراضات سابقة قدمها المستخدم، حتى عندما لا تكون مرتبطة بالسؤال المطروح أو لا تعكس الحقيقة بدقة، وهو ما قد يؤدي إلى تراجع جودة المخرجات.

وقال دان بيكل، رئيس قسم الذكاء الاصطناعي في شركة "Writer" وأحد المشاركين في إعداد البحثين، إن فريق العمل سعى إلى اختبار قدرة النماذج على الفصل بين التفضيلات الشخصية المفيدة وبين المعلومات التي يمكن أن تؤثر سلبًا على صحة الإجابات.

وأضاف أن كل خطوة إضافية تتعلق بحفظ بيانات المستخدم واسترجاعها تفتح المجال أمام احتمالات جديدة للوقوع في الأخطاء أو الانحياز إلى معلومات غير ذات صلة.

وفي إحدى التجارب، أخبر الباحثون النموذج بأن الرواية المفضلة لدى المستخدم هي "Station Eleven"، ثم طلبوا منه لاحقًا تحديد رواية ديستوبية حققت نجاحًا واسعًا في المبيعات. 

ورغم عدم وجود علاقة مباشرة بين السؤال والتفضيل الشخصي السابق، أظهرت النتائج أن النموذج أصبح أكثر ميلًا إلى تضمين "Station Eleven" ضمن إجاباته، ما يعكس تأثير الذاكرة على عملية الاستدلال واتخاذ القرار.