لماذا تتراجع جودة إجابات الذكاء الاصطناعي؟ الذاكرة المتراكمة قد تكون السبب

 تقترح  نايلة الصليبي في"النشرة الرقمية" مجموعة من الحلول في كيفية  إدارة الذاكرة في أبرز نماذج روبوتات المحادثة كـ"شات جي بي تي" و"كلود"و "جيميناي". إذ غالبا ما يتشكّل لدى بعض المستخدمين انطباعًا بأن روبوتات المحادثة أصبحت أقل جودة،والسبب قد يكون كامنًا في الذاكرة التي تتراكم بعد أشهر من المحادثات. 

هل السبب في النموذج أم في الذاكرة؟

تطرح شركات التكنولوجيا نماذج ذكاء اصطناعي أكثر كفاءة يومًا بعد يوم، إلا أن انطباعًا متزايدًا يتشكّل لدى بعض المستخدمين أن روبوتات المحادثة أصبحت أقل جودة. غير أن السبب لا يرتبط دائمًا بالنموذج نفسه، بل قد يكون كامنًا في الذاكرة التي تتراكم بعد أشهر من المحادثات. إذ يمكن لروبوتات المحادثة، بعد تنظيف هذه الذكريات المتراكمة، أن تستعيد قدرًا كبيرًا من كفاءتها، لا سيما حين تتسبب المعلومات القديمة أو المتعارضة في التأثير على الإجابات الجديدة.

كيف تؤثر ذاكرة الذكاء الاصطناعي في جودة الإجابات؟

 تكمن إحدى المشكلات الرئيسة في الذكريات غير الدقيقة أو القديمة. فإذا ناقش المستخدم موضوعًا معينًا قبل أشهر، فقد يعتمد روبوت المحادثة على تلك المعلومات عند الإجابة عن استفسارات لاحقة، حتى بعد مرور وقت طويل عليها.ولا تقتصر المشكلة على مضمون المحادثات وحدها، إذ يمكن لعمليات البحث والاختبارات التي يجريها المستخدم خلال جلسات سابقة أن تترك آثارًا تبقى ضمن السياق، وكأنها معلومات دائمة، وهو أمر قد لا يكون واضحًا دائمًا في الإجابات التي يقدّمها الذكاء الاصطناعي.

كما تبرز مشكلة أخرى حين تتغيّر احتياجات المستخدم أو طريقة عمله، فإن استخدم روبوت المحادثة لأداء مهمة محددة في العام الماضي، ثم غيّر أسلوبه لاحقًا، فقد لا يدرك النظام بالضرورة أن التعليمات الجديدة أصبحت بديلة عن القديمة. وقد تتعايش التعليمات السابقة مع الجديدة، فتأتي الإجابة مزيجًا بين المنطقين، وهو ما يُحدث نوعًا من التلوث الخفي في السياق على المدى الطويل.

كيف تُخزَّن ذاكرة روبوتات المحادثة؟

ترتبط هذه المسألة بما يمكن وصفه بتراكم البيانات المتعارضة ضمن الذاكرة طويلة الأمد، وهي حالة تُوصف أحيانًا بشكل غير رسمي بأنها نوع من "انحراف السياق" أو Context Drift. تستخدم شركات مثل "أوبن إي آي"  و"أنثروبيك" تقنيات الاختزال والضغط -summarization and compression -لإدارة حجم نافذة السياق - context window -، بدلًا من الاحتفاظ بكل كلمة حرفيًا؛ فعندما يتحدث المستخدم مع النموذج، لا تُحفظ بالضرورة كل كلماته حرفيًا، وإنما تُستخرج منها ملخصات قصيرة، مثل تفضيلات المستخدم أو طبيعة عمله.

هذا وتكمن المشكلة في أن المعلومات التقنية المعقدة أو التجريبية التي يقدّمها المستخدم لمرة واحدة قد تُختزل في صورة قواعد أو تفضيلات دائمة، ومع مرور الوقت يمكن أن تتداخل الذكريات القديمة مع الجديدة، فيختلط أسلوب عمل المستخدم السابق بأسلوبه الحالي.

تناولت دراسة بعنوان "Lost in the Middle: How Language Models Use Long Contexts" قدرة نماذج اللغة على التعامل مع السياقات الطويلة ضمن موجّه واحد، مثل عدة مستندات مطروحة دفعة واحدة، وأشارت إلى أن هذه النماذج قد تمنح أولوية أكبر للمعلومات الموجودة في بداية نافذة السياق ونهايتها، في حين قد يتراجع تركيزها على المعلومات الموجودة في المنتصف. ورغم أن هذه النتائج لم تُختبر مباشرة على حالة الذاكرة المتراكمة عبر أشهر من الاستخدام، فإنها تُستحضر أحيانًا كقياس توضيحي لديناميكية مشابهة قد تحدث حين تتضخّم الذاكرة طويلة الأمد.

كما يوجد فارق بين الطريقة التي يبدو بها الذكاء الاصطناعي وكأنه يتذكّر المعلومات، وبين آلية استدعاء البيانات لدى الإنسان؛ فبحسب ما ورد في بحوث تقييم نماذج مثل "شات جي بي تي"  و "كلود" ، لا يمتلك الذكاء الاصطناعي بالضرورة "ذاكرة حية" بالمعنى البشري، وإنما يعتمد على استنتاج ما يُرجَّح أن المستخدم يريده استنادًا إلى المعلومات المتاحة. وفي بعض الحالات، قد يبدو النظام وكأنه يستدعي ذكرى دقيقة، بينما يعتمد فعليًا على الاستدلال الإحصائي، وهو ما قد يؤدي إلى إنتاج معلومات غير دقيقة أو "هلوسات" بدلًا من استرجاع بيانات محفوظة بصورة حرفية.

من "الحذف الشامل" إلى "التنظيف الجراحي"

يمكن أن يكون الحل في تنظيف الذاكرة، وحذف المعلومات التي لم تعد مناسبة أو التي تتعارض مع احتياجات المستخدم الحالية. غير أن تحسين جودة الإجابات لا يستلزم بالضرورة حذف الذاكرة بالكامل، إذ يمكن اتباع عدد من الأساليب لإدارة السياق مع الحفاظ على المعلومات المفيدة.

فبدلًا من اللجوء إلى "المسح الشامل" أو الحذف الشامل و يعرف بالـBulk Erasure، الذي يؤدي إلى حذف جميع البيانات والسياقات المخزنة، يمكن اعتماد ما يُعرف بـ"التنظيف الجراحي أي " Surgical Deletion"  ، وهي استراتيجية تقوم على مراجعة قائمة الذاكرة بصورة دورية، وحذف المعلومات القديمة أو المتناقضة مع نشاط المستخدم الحالي فقط، مع الإبقاء على البيانات التي لا تزال مفيدة. وبهذه الطريقة، يركّز تنظيف الذاكرة على إزالة المعلومات غير المتوافقة مع المهام الحالية، بدلًا من حذف الذاكرة بأكملها.

كما يمكن، بدلًا من الاعتماد الكامل على الذاكرة العامة للحساب، إنشاء Projectأي مشروع مخصص في" كلود" أو "شات جي بي تي" ، وتزويده بالملفات والتعليمات الخاصة بالمهمة ضمن سياق منفصل ينتهي بانتهاء المشروع.

أما عند إجراء تجارب عشوائية أو طرح أسئلة لا يرغب المستخدم في الاحتفاظ بسياقها مستقبلًا، فيمكن اللجوء إلى وضع المحادثات المؤقتة أو الخفية، المتاح في" شات جي بي تي"  و"جيميناي"  عبر ميزة Temporary Chat، وكذلك في نموذج "كلود" عبر ميزة Incognito،  في هذه الحالة، تُجرى المحادثة كما لو كان المستخدم يبدأ جلسة جديدة، من دون الاعتماد على الذاكرة السابقة.

كيف يمكن إدارة الذاكرة في أبرز نماذج روبوتات المحادثة؟

• في نموذج كلود: يمكن الوصول إلى إعدادات الذاكرة بالنقر على صورة الملف الشخصي، ثم الانتقال إلى "الإعدادات"، فاختيار "الذاكرة". وتعرض لوحة التحكم التفضيلات المخزَّنة إلى جانب تاريخ إضافتها، ويستطيع المستخدم من خلالها حذف المعلومات التي لم تعد مفيدة أو تحديثها يدويًا، كما تتضمن الصفحة خانة تتيح كتابة تعليمات مباشرة إلى كلود لإدارة هذه التفضيلات المخصصة.

• في نموذج "شات جي بي تي" : يبدأ المستخدم بالنقر على أيقونة الملف الشخصي، ثم اختيار "الإعدادات"، فـ"التخصيص" Personalization  . تتضمن هذه الصفحة خيارات مرتبطة بالذاكرة والتخصيص، من بينها إمكانية تفعيل التخصيص أو تعطيله. ولإدارة الذاكرة نفسها، يجب الانتقال إلى قسم "الذاكرة"، ثم اختيار "إدارة" -Manage-، فتظهر نافذة تتضمن ملخصًا لما يعرفه روبوت المحادثة عن المستخدم، مع إمكانية توضيح ما يرغب المستخدم في إضافته أو تعديل