لم تعد جلساتنا مع روبوتات المحادثة تنتهي بمجرد إغلاقها، فبعض المعلومات التي نشاركها يمكن أن تطفو مرة أخرى في محادثات لاحقة بعد فترة من الزمن، مما يدل على أن الذكاء الصناعي لا يكتفي بالرد على استفساراتنا، بل قد يبني صورة رقمية شاملة عن اهتماماتنا وتفضيلاتنا وحتى بعض الخصائص التي لم نعلن عنها مباشرة. وبينما تبدو هذه القدرة كميزة توفر الوقت وتدعم التفاعل، تثار تساؤلات هامة حول طبيعة البيانات المخزنة، وكيفية استنتاجها وإدارتها وحذفها، والأهم: من يمتلك حق التحكم فيها؟

ينبغي التمييز بين سياق الحوار الذي يعتمد عليه روبوت الدردشة لإنتاج الرد في الوقت الحالي، وسجل المحادثات المحفوظ، والذاكرة طويلة الأمد التي تحتفظ بمعلومات مختارة للاستفادة منها في المستقبل، مثل التفضيلات والأهداف والمشاريع. توضح شركة أوبن إيه آي أن شات جي بي تي قد يستفيد من معلومات متصلة بالمحادثات ومصادر أخرى، لكنه لا يحتفظ بكل التفاصيل، بل يختار ما يراه مفيدًا، وقد تتغير هذه المعلومات بمرور الوقت. هذا يعني أن الذاكرة لا تمثل نسخة كاملة من سجل المحادثات، بل مجموعة مستخلصات يمكن استعادتها في المستقبل.

المعلومات التي يحتفظ بها روبوت الدردشة لا تقتصر على ما يصرح به المستخدم، بل يمكن أن تشمل استنتاجات مبنية على تكرار أنماط الحديث والاهتمامات وطبيعة المشكلات المتكررة. تكشف دراسة حول “الصورة الذاتية الخوارزمية” التي حللت بيانات بمشاركة عدد من المستخدمين أن نسبة كبيرة من مدخلات الذاكرة أنشأها روبوت الدردشة تلقائياً، مقارنة بنسبة ضئيلة استجابة لأوامر مباشرة. تناولت دراسة أخرى قدرة النماذج على استنتاج سمات شخصية من القرائن النصية، وحققت دقة عالية في التنبؤات. تتشكل الصورة الرقمية للمستخدم من معلومات صريحة ومستنتجة، ليست بالضرورة حقائق مؤكدة.

تمر عملية اختيار الذكريات بمراحل تشمل استخراج المعلومات من المحادثة واختصارها ومقارنتها بالمعلومات الموجودة قبل تخزينها واستعادتها عند الحاجة. تحمل هذه العملية تحديات مثل تقديم إجابات مبنية على معلومات قديمة أو نقل تفاصيل إلى سياقات غير مناسبة. هناك إشكالية عند الحذف، حيث أن الذكريات المحفوظة منفصلة عن سجل المحادثات، لذا فإن حذف محادثة لا يضمن حذف الذكريات المستخلصة منها.

من المخاطر الأمنية ظاهرة “تسميم الذاكرة”، حيث تقوم جهات غير مصرح بها بإدخال معلومات أو تعليمات إلى ذاكرة الروبوت، مما يؤثر على تفاعله. يمكن أن يحدث ذلك عبر مستندات أو صفحات تحللها الروبوتات. لمواجهة هذه المخاطر تستخدم تقنيات مثل “البيئات الموثوقة” و”الحوسبة السرية”.

مع تطور ذاكرة الذكاء الاصطناعي، يتجاوز السؤال ما يتذكره الروبوت عن المستخدم إلى كيفية تشكل هذه المعلومات ودقتها والجهات المؤثرة عليها. تبقى التحديات الرئيسية في ضمان أن تظل المعلومات الشخصية تحت السيطرة، وألا يتحول السجل المتراكم للمستخدم إلى ما يصعب تعديله أو حذفه.