الذكاء الاصطناعي بين القدرة والذكاء: هل يتمرد على البشر حقًا؟

تستضيف نايلة الصليبي في"النشرة الرقمية" الدكتور أحمد العمّ، مستشار الذكاء الاصطناعي وعلم البيانات، للتطرق إلى  ماهية الذكاء الاصطناعي وإلى قدرات  الذكاء الاصطناعي التوليدي و لتوضيح  أسباب قيام مجموعة من وكلاء الذكاء الاصطناعي  لعمليات اختراقات خارج الأوامر البشرية ، ولشرح  مفهوم التسويق بالتخويف والتنظيم الاحتكاري.

تمرد وكلاء الذكاء الاصطناعي بين الواقع والخيال

يكاد لا يمر يوم دون أن نسمع أن وكلاء الذكاء الاصطناعي من "أوبن إي آي" أو "أنثروبيك" خرجوا عن السيطرة واخترقوا مؤسسات حكومية أسترالية وأمريكية أو شركات تكنولوجيا أخرى. وتطالعنا الشركات المطورة بتقارير تثير البلبلة والجدل أكثر من أن تطمئن. ونسمع من هنا وهناك خبراء يشبهون الذكاء الاصطناعي بقنبلة نووية محتملة وأنه سيؤدي إلى انقراض البشرية. ويساهم الإعلام الباحث عن الإثارة ومن يسمون أنفسهم خبراء ذكاء اصطناعي على المنصات الاجتماعية يثرثرون لجمع المشاهدين والمتابعين ويساهمون في نشر الأفكار المغلوطة وفي الاسهاب في الحديث عن تمرد الذكاء الاصطناعي وتسلق وكلاء الذكاء الاصطناعي سياج الحماية ويبالغون في إضفاء الصفات البشرية على الذكاء الاصطناعي.

إذا بنا ننتقل، في غضون أيام، من الصياح والتهويل من أن "هذه الآلات قد تصبح خارجة عن السيطرة" إلى التهدئة بالقول إنه "علينا قبول المخاطرة والمضي قدمًا"؟

ففي خضم هذه الفوضى المعرفية المتصاعدة، وهي ليست بريئة، من قبل شركات تكنولوجيا الذكاء الاصطناعي.  تعود نايلة الصليبي في "النشرة الرقمية "لتستضيف الدكتور أحمد العمّ، مستشار الذكاء الاصطناعي وعلم البيانات، لوضع الأمور في نصابها.

فقد كان قد حذر الدكتور أحمد العمّ في منشور على منصة لينكد إن من أن:"الخطر ليس في أن الوكيل "يعرف"، بل في أن يستطيع استخدام ما يعرفه دون حوكمة، واضحة للصلاحيات والقدرات والتنفيذ".

مضيفا: "لذلك، بدلاً من الحديث عن "تمرد الذكاء الاصطناعي"، يجب أن نتحدث بجدية عن: حوكمة معرفة وقدرات الوكلاء الأذكياء.

كما حذر من التهويل في تصوير الذكاء الاصطناعي على أنه "قنبلة نووية محتملة" أو "مارد وشيك الخروج من القمقم"، فإن الخوف لا يبقى مجرد خطاب؛ بل قد يتحول إلى قوة تدفع نحو تشريعات معقدة، واشتراطات تنظيمية مشددة، وتراخيص باهظة. وهنا يظهر ما يُعرف بـ التنظيم الاحتكاري (Regulatory Capture)؛ حيث تتحول قواعد وُضعت باسم "الحماية من الذكاء الاصطناعي" إلى حواجز تعزز تركز السوق في أيدي عدد محدود من اللاعبين".

نص اللقاء نُقل من الصوت إلى نص بمساعدة الذكاء الاصطناعي:

ما هو الذكاء الاصطناعي؟ قدرة مبنية على المعرفة

يمكن الرجوع إلى لقاءاتنا السابقة حين تناولنا ماهية الذكاء الاصطناعي. هو باختصار قدرة الآلة على اتخاذ القرار بناءً على معرفة. فإذا توافر مخزون معرفي (knowledge)، صار النظام قادرًا على اتخاذ قرارات صحيحة ومتقدمة وحل مشكلات معقدة. فالأساس في عمله هو المعرفة المخزنة لديه، وهي التي تمنحه قدرات تفوق قدرات الإنسان، لا ذكاءً يفوق ذكاءه.

والقدرة تختلف عن الذكاء. فالقطار مثلًا قد يحمل أربعة أو خمسة آلاف مسافر، فقدرته عالية، لكنه ليس ذكيًا. ولذلك ينبغي أن تُقارَن أنظمة الذكاء الاصطناعي بالبشر من حيث القدرات لا من حيث الذكاء.

الذكاء الاصطناعي التوليدي (Generative AI): فرع لا الأصل

ظهر الذكاء الاصطناعي التوليدي في أواخر عام ۲٠۲۲ أو مطلع ۲٠۲٣ مع بزوغ ChatGPT. وهو فرع من فروع الذكاء الاصطناعي وليس الذكاء الاصطناعي نفسه، وإن كان ما يُسوَّق له اليوم يوحي بغير ذلك. وإن كنت أعمل في هذا المجال، لست في النهاية سوى مستخدم (user) لبرنامج (software) أو لنظام.

قد ذكرنا في لقاءات سابقة أن الذكاء الاصطناعي التوليدي هو نظام لإدارة المعرفة (management system). فهو يمتلك مخزونًا معرفيًا ضخمًا ويديره باحتراف، فيجيب عن الأسئلة، ويكتب الرأي والمقال، ويدخل في النقاش، ويُعدّ الدراسات بناءً على ما يمتلكه. وقدراته المبهرة كلها مصدرها المعرفة البشرية التي اطّلع عليها. وهذا يختلف تمامًا عن نماذج تعلّم الآلة (machine learning) التي كانت تعمل على البيانات (data) وتتعلم منها. أما هذا النوع فقد اعتمد، ولا يزال، على مخزون المعرفة البشرية.

لتوضيح الفرق بين الاتساع المعرفي والتخصص: قد أكون مختصًا في الرياضيات، لكني لا أملك سوى جزء يسير من معارفها. وكلما ارتقى الشخص في رتبته العلمية دخل في عمق التخصص الدقيق. فلو سألت بروفيسورًا في الرياضيات عن تخصصه لقال مثلًا: المعادلات التفاضلية الجزئية من الدرجة الرابعة. أي أن مخزونه المعرفي أضيق، لكنه أعلى جودة. أما نماذج الذكاء الاصطناعي التوليدي فقد امتلكت منذ ظهورها كل معارف الرياضيات والفيزياء والكيمياء والطب والاختراق والبرمجة، فارتفعت إنتاجيتها فوق إنتاجية البشر. وهذه أول نقطة يجب إدراكها في المقارنة بين هذه الأنظمة والبشر.

هل يتمرد الذكاء الاصطناعي؟

منذ عام 2022 تقريبًا ظهرت التوقعات بأن الذكاء الاصطناعي سيتطور ويخترقنا، لكن الأمور لم تسر بوتيرة سريعة. وفي هذا العام عادت مفاهيم السيطرة والتمرد إلى الواجهة. فما الذي اختلف؟

ما جرى مع وكلاء الذكاء الاصطناعي هو أتمتة (automation) لما كنا نفعله سابقًا، لكنها صارت قائمة على نماذج اللغات الكبيرة (Large Language Models)، فأصبحت قدراتها أعلى من الأتمتة التقليدية. ففي السابق كنا نكتب كودًا برمجيًا يأمر الآلة بتنفيذ الخطوات: one، two، three، four، five. أما اليوم فنطلب منها تحليل البيانات، فيرفع المستخدم ملف Excel وتبدأ التحليل مباشرة دون أي أمر إضافي. وليس معنى ذلك أنها تمتلك الذكاء، بل إنها تمتلك مخزونًا معرفيًا عن تحليل البيانات.

حادثة الـ sandboxو اختراق شركة هاغينغ فيس

أُجريت تجربة وُضع فيها نموذج داخل بيئة معزولة (sandbox) قيل إنها مفصولة تمامًا عن الإنترنت، ثم قيل بعد لحظات إن وكيل الذكاء الاصطناعي طوّر نفسه واخترق الحاجز ووصل إلى الإنترنت. وحين جرى البحث والتدقيق تبيّن أن مسارًا مفتوحًا بين البيئة والإنترنت كان قد بقي لتحميل المكتبات البرمجية. وبما أن النموذج يمتلك معرفة ضخمة بأساليب الاختراق، ووُجد لديه حافز للبحث عن طريق، فقد وجد ثغرة في ذلك المسار واستغلها.

حادثة الحكومة الأسترالية

طُلب من وكيل (agent) جمع بيانات حكومية، وسُمح له بالوصول. وحين بلغ منطقة لا يستطيع النفاذ إليها لم يكن هناك ضابط حوكمة يوقفه عند حدود البيانات الشخصية الممنوع تجاوزها، فاستخدم ما لديه من معرفة بشرية مخزنة ونفّذ عملية اختراق.

النموذج في الحالتين لم يتمرد، بل وظّف معرفته حيث احتاج إليها، لأننا لم نضع له حوكمة وضوابط. أما تخيّل مجموعة من الأسلاك والسيليكون والنماذج الرياضية ككائنات