إنها نوع من التطورات التي كانت تُرى سابقاً فقط في الخيال العلمي: نظام ذكاء اصطناعي، تم تدريبه للبحث عن الثغرات الرقمية، ينفصل عن السيطرة البشرية ويتصرف بمفرده ليتولى اختراق شركة أخرى.
الهجوم الذي تم الإعلان عنه هذا الأسبوع من قبل OpenAI، الذي ألقت باللوم على نماذج الذكاء الاصطناعي المنفلتة، سلط الضوء على النمو المتسارع لقدرات التكنولوجيا. بالنسبة للكثيرين، أضفى أيضاً على الأسئلة المتعلقة بما إذا كان ومن الممكن منعها من التسبب في الفوضى على نطاق أوسع، مع عواقب أكثر خطورة.
في ما وصفته OpenAI بأنه حدث “غير مسبوق”، قالت الشركة إن نماذج الذكاء الاصطناعي المتقدمة لديها استخدمت بيانات اعتماد مسروقة لاختراق خوادم شركة ناشئة في الذكاء الاصطناعي. بدأت في ما كان من المفترض أن يكون “بيئة اختبار معزولة للغاية”، مع تقليل الحواجز، قبل أن يجد وكيل الذكاء الاصطناعي طريقه إلى الإنترنت.
لكن الكشف عن ذلك جاء بلحظة للمختصين الذين دعوا إلى تباطؤ تطوير الذكاء الاصطناعي وحذروا لسنوات أن التكنولوجيا قد تشكل مخاطر وجودية على الإنسانية. وبعد ذلك، دعا الخبراء إلى تحسين الاختبار من قبل شركات الذكاء الاصطناعي وإلى مزيد من الحوار بين الولايات المتحدة والصين للتوصل إلى حلول مشتركة.
“أعتقد أنه يجب علينا اعتبار هذا بمثابة تحذير بعدم جعلها أكثر ذكاءً، ومن المحتمل أن يتطلب ذلك التعاون العالمي”، قال نيت سوارس، أحد مؤلفي كتاب 2025 “إذا بناه أحد، يموت الجميع.”
إذا كان بإمكان نموذج أن يقرر القيام بشيء غير أخلاقي أو غير قانوني أو ضار من تلقاء نفسه، فما – إذا كان هناك شيء – يمكن للبشر القيام به لمنع ذلك؟
قالت OpenAI إنها كلفت نماذج الذكاء الاصطناعي المعنية بالمضي قدماً في “استغلال متقدم باستخدام مسارات هجوم معقدة” لاختبار القدرات السيبرانية، لكن التكنولوجيا قامت بخطوات غير متوقعة. يبدو أنها قررت بمفردها استهداف Hugging Face، مركز ومعرض معروف لتطوير الذكاء الاصطناعي، للحصول على المعلومات التي تحتاجها لأداء مهمة.
قالت زهرة تمساح، المؤسِسة المشاركة والرئيسة التنفيذية لمنصة الحوكمة i-GENTIC AI، إنها تتوقع أن يزيد الحادث الضغط على OpenAI ومنافسيها لإجراء اختبارات صارمة واستكشاف خيارات احتواء أكثر شمولاً قبل أن تصبح أنظمة الذكاء الاصطناعي متاحة للعامة.
إن مراقبة سلوك الوكيل بعد حدوث ذلك، كما تفعل OpenAI الآن مع تحقيقها، لم يعد كافياً، قالت. “إنه كأن يكون لديك حزام أمان، وسائد هوائية، ومكابح، وكل شيء في السيارة. يجب أن يكون موجوداً قبل أن يبدأ السيارة في القيادة،” قالت تمساح.
يأتي الكشف في ظل مخاوف متزايدة بشأن قدرات الأمن السيبراني للنماذج القوية. في يونيو، وقع الرئيس دونالد ترامب أمراً تنفيذياً لإنشاء إطار عمل للحكومة الفيدرالية لتدقيق المخاطر الأمنية الوطنية لأكثر أنظمة الذكاء الاصطناعي تقدماً لمدة تصل إلى شهر قبل إصدارها للعامة.
يقول بعض الخبراء إن الاختراق هو جزء من التجربة والخطأ التي تأتي مع تحسين قدرات الأمن السيبراني وليس سبباً للذعر.
مقالات شائعة
“لقد كنا نتعامل مع أشخاص يقومون بإنشاء هجمات سيبرانية طوال الوقت الذي وُجد فيه الإنترنت. وأحد الخصائص المثيرة للاهتمام في هذه النماذج اللغوية هو أن نفس القدرات التي تجعلها قادرة على تنفيذ هجمات سيبرانية تتيح لها أيضاً القيام بتحليل تهديدات الأمن السيبراني وإنشاء دفاعات سيبرانية،” قال جون ثيكسون، أستاذ مساعد في علوم الكمبيوتر في جامعة كورنيل الذي يدرس طرق التحكم في سلوك نماذج الذكاء الاصطناعي.
لقد أثار الكشف شكوكاً من أولئك الذين يقولون إنه يمنح OpenAI ميزة في جعل تقنيتها تبدو أكثر رعباً. بالنظر إلى أن البشر في OpenAI قرروا إيقاف تشغيل بعض الضمانات للاختبار، فقد جادل البعض بأن النتيجة لم يكن من المفترض أن تكون مذهلة.
أشار ثيكسون إلى أن الكشف يلعب دوراً في حاجة OpenAI، وهي شركة ناشئة تسعى لتحقيق ظهور في وول ستريت، لجمع الأموال.
“القصة التي كانوا يروونها باستمرار على مدار حياة هذه الشركة هي قصة عن مدى خطورة نماذجهم، والتي يقرأها مستثمروهم كقصة عن مدى قوة نماذجهم اللغوية،” قال.
لقد جدد الاختراق الدعوات في بعض الأوساط لزيادة التنظيم والرقابة على شركات الذكاء الاصطناعي.
كتب النائب الأمريكي غريغ كاسار، وهو ديمقراطي من تكساس، على وسائل التواصل الاجتماعي: “نحتاج إلى اختبارات أمان مستقلة منتظمة وإلزامية، وإفصاحاً إلزامياً عن الحوادث الأمنية، وتعاون دولي لحماية الناس من الكوارث المطلقة.”
قال سوارس، مدير معهد أبحاث الذكاء الآلي، إن الولايات المتحدة ستحتاج إلى فتح محادثات مع أكبر منافس لها في مجال الذكاء الاصطناعي، الصين، وهو شيء يعتقد أنه لم يعد غريباً كما قد يبدو قبل عام. حذر الزعيم الصيني شي جين بينغ في مؤتمر قبل أسبوع فقط من الحاجة إلى منع الذكاء الاصطناعي من الهروب من السيطرة البشرية. وبعد مقاومة مبكرة لتنظيم الذكاء الاصطناعي، أصبحت إدارة ترامب أكثر صرامة في كبح مخاطر الأمن السيبراني.
“يمكن أن يتغير الكثير عندما تبدأ مجتمع الأمن القومي في ملاحظة أن لديهم تهديداً خطيراً، ” قال سوارس. “هل ستوقظهم هذه اللحظة؟ نأمل. لست متأكداً. إذا لم تفعل ذلك، قد يكون الحادث التالي هو الذي يفعل ذلك.”
قال رائد الذكاء الاصطناعي يوشوا بنجيو على وسائل التواصل الاجتماعي إن الحدث مقلق بشكل عميق ويجب أن يكون بمثابة “جرس إنذار.”
“من المحتمل أن يؤدي الاستمرار في المسار الحالي لتطوير الذكاء الاصطناعي إلى زيادة واضحة في حالات الهجمات السيبرانية الذاتية بالإضافة إلى حوادث أخرى عالية المخاطر لسلوك الذكاء الاصطناعي المنحرف والخطير،” قال بنجيو، أستاذ في جامعة مونتريال. “نحتاج بشكل عاجل إلى اتخاذ إجراء لمنع هذه المواقف، بدلاً من محاولة تصحيح الأضرار بعد حدوثها.”
