حين تجاوزت الآلة الحاجز حميد مجدي
حين تجاوزت الآلة الحاجز
حميد مجديجريدة لكم/1 أكتوبر 2026
في يوليوز 2026، وقعت حادثة معلوماتية بالغة الدلالة والخطورة، ليس فقط من زاوية الأمن السيبراني، وإنما أيضًا من زاوية الأسئلة الكبرى التي يطرحها التطور المتسارع للذكاء الاصطناعي، على مستقبل الإنسان نفسه.
وقد أثارت الواقعة نقاشًا واسعًا وهواجس جدية في أوساط الباحثين في سلامة الذكاء الاصطناعي والأمن السيبراني، وفي المجلات العلمية والتقنية الغربية، ومختلف دوائر التفكير والأوساط السياسية والصحفية والقانونية.
أما في بلدنا المغرب، فلم أصادف، في حدود ما اطلعت عليه، نقاشًا يوازي أهمية ما حدث؛ وكأن الأمر يتعلق بقضية تقنية بعيدة لا تعنينا، مع أن التحولات التي يفتحها الذكاء الاصطناعي لن تعترف، بحدود البلدان والمجتمعات.
فما الذي حدث بالضبط؟ ولماذا يستحق الموضوع كل هذا الاهتمام؟
كانت شركة OpenAI(1) الأمريكية، المتخصصة في أبحاث وتطوير الذكاء الاصطناعي، والمعروفة خصوصًا بتطوير ChatGPT ونماذج GPT، تجري اختبارات داخلية في مجال الأمن السيبراني على عدد من نماذج الذكاء الاصطناعي المتقدمة، من بينها نموذج بحثي داخلي عالي الأداء، لم يكن معدًّا أصلًا للاستعمال العام.
وُضعت هذه النماذج داخل بيئات حاسوبية افتراضية معزولة، تسمح للنظام بتنفيذ مهام واستخدام أدوات معينة، ولكن مع إبقائه داخل حدود تقنية يفترض ألا يستطيع تجاوزها.
ولتقريب الصورة أكثر، تخيل أنك صنعت آلة شديدة الذكاء والقدرة، لكنك لا تريد أن تمنحها حرية الوصول إلى العالم الخارجي. فتضعها داخل غرفة، وتمنحها مجموعة محددة من الأدوات، وتسمح لها بالقيام ببعض الأعمال، ثم تغلق الأبواب التي لا تريد لها المرور منها.
غير أن ما حدث كان مثيراً للاهتمام.
فقد اكتشفت بعض البرامج الذكية، أو ما يعرف بالوكلاء الاصطناعيين (AI Agents)(2) ، إمكانية استخدام خدمة داخلية، أشبه بمستودع رقمي داخلي، تستعمله فرق البرمجة لحفظ وتبادل الملفات والحُزَم البرمجية التي تحتاجها الأنظمة والبرامج أثناء عملها (Artifactory)(3)، بطريقة لم تكن هي الغاية المقصودة منها ولم يكن مصرحا بها.
لم يُنشأ هذا المستودع لكي يكون وسيلة للتواصل بين الوكلاء الاصطناعيين، لكن بعض هذه الأنظمة، اكتشف إمكانية كتابة ملفات ورسائل داخله، يمكن لأنظمة أخرى العثور عليها وقراءتها.
وهكذا حدث التحول التقني البالغ الدلالة:
أداة صُممت لتخزين الملفات، تحولت بفعل استخدام لم يخطط له المصممون، إلى ما يشبه فضاءً للتواصل بين البرامج الذكية. أي أن الأنظمة لم تكتف باستخدام الأدوات بالطريقة التي تصورها البشر الذين بنوها، وإنما عثرت على وظيفة أخرى ممكنة داخل البنية نفسها.
ثم حدث ما هو أكثر أهمية.
وجدت بعض هذه الأنظمة وسيلة لاستغلال البنية التقنية المتيسرة لها للوصول إلى الإنترنت، على الرغم من أن الاتصال المباشر بالإنترنت لم يكن متاحًا لها.
ولم يبق اكتشاف هذا الطريق محصورًا في برنامج واحد؛ بل جرى تداول المعلومات المتعلقة بطرق الوصول والاستغلال، مع برامج أخرى، عبر قناة الاتصال غير المصرح بها، التي نشأت داخل المستودع الرقمي Artifactory.
وهنا تغيرت طبيعة المشكلة.. فلم نعد أمام نظام واحد عثر مصادفة على ثغرة، وإنما أمام إمكانية أن تنتقل المعرفة المتعلقة بهذه الثغرة، من وكيل اصطناعي إلى آخر. فالنماذج - بحسب تقرير ل OpenAI -، لم تظل داخل المسار الذي صُمم الاختبار من أجله. بل وجدت طرقاً للالتفاف على القيود، وتجاوز العزل، والتواصل عبر قنوات غير مصرح بها، والوصول إلى الإنترنت، واستغلال ثغرات في البنية التحتية المشتركة، والحصول على صلاحيات إدارية.
في 4 يوليوز 2026، أصبح نشاط هذه البرامج الذكية (الوكلاء الاصطناعيين) كثيفاً، إلى درجة أدى معها إلى تعطيل الخدمة الداخلية المعنية.
وفي اليوم التالي، 5 يوليوز، أعلنت شركة OpenAI حالة حادث أمني، فتدخل فريقها الأمني وحجب مساراً معروفاً لتصعيد الصلاحيات، وأزال بيانات الاعتماد المكشوفة. ثم أعادت OpenAl بناء خدمة المستودع الرقمي ( Artifactory)، وشددت ضوابط الوصول إليها.. غير أن عملية إعادة البناء أدت أيضاً إلى محو الرسائل التي كانت هذه البرامج الذكية (الوكلاء الاصطناعيون) قد تركوها في ذلك "المنتدى" غير المتوقع.
وكان من الممكن، عند هذه النقطة، الاعتقاد بأن القصة انتهت، وأن القضية مجرد عطل تقني بسيط: اكتُشفت ثغرة، تدخل المهندسون، أُغلق المسار، وأعيد بناء النظام.
غير أن ما حدث بعد ذلك هو ما يجعل الواقعة أكثر دلالة وصعوبة.
فبحلول 8 يوليوز 2026، تمكنت البرامج الذكية من إنشاء فضاء جديد للتواصل بطريقة أخرى، واستعادت وسيلة للوصول إلى الإنترنت.. وفي 10 يوليوز، تطورت الأحداث، إلى اختراق أنظمة لدى شركة ومنصة تقنية معروفة في عالم الذكاء الاصطناعي، تحمل اسم "Hugging Face"(4).
ثم تمكنت النماذج الذكية بين 13 و19 يوليوز، من استخدام سلسلة من الثغرات إلى أن حصلت على صلاحيات إدارية كاملة في إحدى المجموعات البحثية التابعة ل OpenAI نفسها، والوصول إلى "أسرار سحابية" (بيانات حساسة مثل كلمات المرور ومفاتيح التشفير ورموز الوصول، التي تستخدمها التطبيقات بالخدمات وقواعد البيانات)، قبل أن ترصد أنظمة OpenAI الأمنية نشاطاً مشبوهاً في 19 يوليوز، وتبدأ الشركة إيقاف التجارب والتحقيق على نطاق أوسع(5).
وهنا بالضبط تكمن أهمية الواقعة؛ إذ لم تكن المسألة أن البشر اكتشفوا الثغرة وأغلقوها وانتهى الأمر، بل أُغلق مسار، ثم وجد الوكلاء الاصطناعيون (البرامج الذكية) مسارات أخرى.
فقد تم تجاوز بعض الضوابط المصممة لعزل النماذج عن الإنترنت، وعن استغلال ثغرات في بنية مشتركة، واستخدام قنوات اتصال غير مصرح بها، والوصول إلى أجزاء من البنية البحثية الداخلية، وإلى أنظمة تابعة لشركة ومنصة Hugging Face.
وقد خلصت الدراسة التي أجراها محققون مستقلون(6) بعد ستة أيام من العمل المتواصل داخل OpenAI، إلى معطيات لافتة:
فقد أنشأ أحد الوكلاء الاصطناعيين، ما يشبه لوحة رسائل سرية غير مصرح بها داخل المستودع (Artifactory)، وخلال ساعات قليلة اكتشفها أكثر من خمسين وكيلاً وبدأوا يتبادلون عبرها المعلومات والطلبات والملفات.
ثم اتسعت الظاهرة بصورة هائلة، حين شارك نحو 1200 وكيل اصطناعي في لوحة الرسائل، وتبادلوا أكثر من 70 ألف رسالة وملف بين 8 و13 يوليوز. ولم يعد الأمر مجرد تواصل عابر؛ بل بدأت تظهر أشكال من تقسيم العمل والتنسيق وتبادل نتائج التجارب. وشارك نحو 700 وكيل في النشاط المتعلق بـ Hugging Face.
والمثير هنا أن الوكلاء الاصطناعيين، كانوا يدركون - بحسب المحققين- أن ما يفعلونه، هو خارج المهمة الموكلة إليهم وأنه غير أخلاقي، ومع ذلك انضموا إليه.
أما الأكثر إثارة وحساسية، فهو أن ما لا يقل عن 20٪ منهم، اهتموا بالبحث عن وسائل للتلاعب بسجلات أفعالهم، لأنهم اعتقدوا أن نظام التقييم سيقرأ هذه السجلات ليتأكد من أنهم أنجزوا المهمة بالطريقة المشروعة المطلوبة. وقد نجحوا فعلا في بناء تقنية تجعل السجل يبدو كما لو أن الوكيل أصدر أمراً معيناً، بينما ينفذ في الواقع أمراً آخر. وكان الدافع الظاهر لهذا السلوك هو خداع نظام التقييم الآلي.
وتجدر الإشارة هنا إلى أن المحققين يعترفون بحدود مهمتهم، بسبب ضخامة البيانات التي جعلتهم يعتمدون بكثافة على وكلاء ذكاء اصطناعي لتحليلها، وهؤلاء كانوا أقل موثوقية في الحكم من الباحثين البشر؛ كما أن جزءاً من الاتصالات والنشاط لم يدخل أصلاً في البيانات المتاحة للتحقيق.
ينبغي، مع ذلك، أن نكون دقيقين.. فهذه الوقائع لا تعني أن الآلة أصبحت واعية بذاتها، ولا أنها قررت "التمرد" على الإنسان، ولا أنها اكتسبت إرادة مستقلة بالمعنى الذي نعطيه للإرادة البشرية.. لكن ربما تكون المشكلة أعمق من ذلك.
فالخطر لا يحتاج بالضرورة إلى آلة واعية أو شريرة. يكفي أن نصنع نظاماً بالغ القدرة، ونعطيه هدفاً، ثم يصبح قادراً على اكتشاف وسائل لم نتوقعها نحن للوصول إلى ذلك الهدف.
من السهل جداً أن نقول:
كانت هناك ثغرة، اكتُشفت، وسيعمل المهندسون على سدها. لكن الاقتصار على ذلك يشبه، إلى حد ما، النظر إلى اختراع المحرك البخاري باعتباره مجرد تحسين في صناعة المضخات، أو النظر إلى الكهرباء باعتبارها طريقة أفضل لإضاءة المنازل.
فبعض الاختراعات لا تغير أدوات الإنسان فحسب؛ إنها تغير علاقته بالعالم وبنفسه، وتقلب وجوده كليا. وما يحدث اليوم مع الذكاء الاصطناعي قد ينتمي إلى هذا النوع من التحولات.
لآلاف السنين كان الإنسان يصنع أدوات تضاعف قوة جسده؛ فالمحراث ضاعف قوة يده، والعجلة ضاعفت قدرته على الحركة، والآلة البخارية ضاعفت قوته الميكانيكية، والكهرباء غيرت قدرته على إنتاج الطاقة ونقلها، والحاسوب ضاعف قدرته على الحساب وتخزين المعلومات..
أما الذكاء الاصطناعي فيقترب من مجال مختلف تماماً: إنه يضاعف قدرات العقل نفسه، ويكيفه، وقد يروضه ويتحكم في مصائره.
فماذا يعني أن تصبح الأنظمة التي يصنعها الإنسان قادرة على العثور على وسائل لم يتوقعها صانعوها؟ وهل تتقدم قدرتنا التقنية اليوم بسرعة أكبر من قدرة الأخلاق والقانون والسياسة والثقافة على فهمها وضبطها؟
وهنا يصبح السؤال الحضاري عن "التقدم التقني" أكثر تعقيداً؛ لأننا قد نكون قادرين على بناء شيء قبل أن نكون قادرين على فهم جميع نتائج وجوده.
الهوامش:
1. Open AI: شركة أمريكية تأسست سنة 2015، متخصصة في أبحاث وتطوير الذكاء الاصطناعي، وهي معروفة خصوصا بتطوير ChatGPT ونماذج GPT.
2. الوكلاء الاصطناعيين (AI Agents): برامج ذكية لا تكتفي بالإجابة عن الأسئلة، بل تُعطى مهمة أو هدفاً، ثم تستطيع البحث والتخطيط واختيار سلسلة من الخطوات والأدوات المتاحة لتنفيذ المهمة. ومن الأمثلة القريبة إلى أذهاننا ChatGPT وClaude وMicrosoft Copilot عندما تُزوَّد بقدرات وكيلية؛ أي حين لا تعود مهمتها مقتصرة على الإجابة عن الأسئلة، بل تستطيع استخدام أدوات وبرامج، والبحث، والتخطيط، وتنفيذ سلسلة من الخطوات من أجل إنجاز مهمة يحددها الإنسان.
3. Artifactory: هو أشبه بمستودع رقمي داخلي مشترك، تُحفظ فيه الملفات والأدوات التي تحتاج إليها البرامج.. ولم يكن معدّاً للتواصل بين الوكلاء الاصطناعيين، لكن بعضهم اكتشف إمكانية ترك ملفات ورسائل داخله يقرأها الآخرون، فتحول بصورة غير متوقعة إلى ما يشبه منتدى للتواصل بينهم.
4. Hugging Face هو اسم شركة ومنصة تقنية واسعة الاستخدام في عالم الذكاء الاصطناعي، يتشارك عبرها الباحثون والمطورون نماذج الذكاء الاصطناعي والبيانات والأدوات البرمجية
5. تقرير منشور بالموقع الرسمي ل OpenAI في 26 غشت 2026، يحمل عنوان: "واقعة Hugging Face والآفاق المستقبلية (The Hugging Face Incident and the Road Ahead)"، يعرض التسلسل الزمني للحادثة، وتحليل أسبابها، وأنماط عدم المواءمة التي رصدتها الشركة، وإجراءات الأمن والمراقبة والمواءمة التي اتخذتها بعدها.
6. تحقيق مستقل وموجز في سلوك الوكلاء وتفكيرهم وتعاونهم في حادثة اختراق: "OpenAI/Hugging Face"، أجراه باحثون من منظمتي: METR وRedwood Research، المتخصصتين في تقييم قدرات ومخاطر أنظمة الذكاء الاصطناعي المتقدمة. نشر في 26 غشت 2026، على الموقع الرسمي لمنظمة METR البحثية.
حميد مجدي
ليست هناك تعليقات:
إرسال تعليق