هذا الأسبوع، كانت عالم التكنولوجيا متقلبة بقصة تحتوي على كل شيء – وقد بدأت كإثارة خيال علمي.
أعلنت Hugging Face – نوع من متجر التطبيقات لأدوات الذكاء الاصطناعي – في 16 يوليو أنها تعرضت للاختراق من قبل مجرم إلكتروني يستخدم ذكاءً اصطناعيًا قويًا للغاية.
كانت إعلان القنبلة مليئة بالمصطلحات المخيفة والفنية للغاية: “سرب من صناديق الرمل”، “المهاجم الوكيل”، و”أوامر وتحكم ذاتي الانتقال”.
قالت Hugging Face إن الاختراق كان مختلفًا عن أي شيء تعاملت معه من قبل لأنه تم بسرعة فوق بشرية بواسطة ذكاء اصطناعي مع القليل أو بدون توجيه بشري.
نفذ الذكاء الاصطناعي 17000 إجراء في أقل من يومين، ناجحًا في اختراق الشركة الكبيرة الغنية بالمعرفة لسرقة الأسرار.
تركت العالم التكنولوجي في صدمة. لكن من كان المسؤول عن هذا الهجوم؟
خمن باحثو Hugging Face أن المهاجمين الغامضين قد استخدموا أحد نماذج الذكاء الاصطناعي الكبيرة لكن لم يكن لديهم أي فكرة عن من أو أين كان المجرمون.
تواصلت الشركة المتحيرة مع الشرطة وبدأت التحقيقات.
من فعلها؟
توجه المُعلِقُون والمحللون إلى البودكاست وحساباتهم على الوسائل الاجتماعية لتخمين أي مجموعة من مجرمي الإنترنت أو قراصنة الدولة قد يكونوا وراء ذلك.
ثم في يوم الأربعاء، بعد ما يقرب من أسبوع من استغاثة Hugging Face، تم الكشف عن الجاني الحقيقي.
كان ChatGPT.
كان الكشف بأسلوب سكوبي دو أكثر غرابة – وقلقًا – لأن OpenAI قالت إن روبوتها قام بكل شيء من تلقاء نفسه، دون إذن.
قالت الشركة إن كل ذلك حدث خلال اختبار لمهارات القرصنة لتقنيتها.
نسختان جديدتان من ChatGPT، صُممتا لتكونا قراصنة ماكرين، انفصلتا عن بيئة اختبار آمنة المفترضة وحصلتا على الوصول إلى الإنترنت.
ثم قاما بمهاجمة Hugging Face للحصول على المعلومات لتمكينهم من التفوق في امتحانهم.
أصدرت OpenAI بيانًا صحفيًا يشرح ما حدث وقالت إنها “تتعاون مع Hugging Face” للتعامل مع حادث الأمن ومشاركة الدروس المستفادة.
دراما المؤامرة
منذ ذلك الحين، كان هناك جدل حاد حول الحادث.
هل كانت حقًا تحذيرًا واضحًا حول مستقبل الذكاء الاصطناعي؟ أم كانت مجرد حيلة دعائية من OpenAI لتظهر مدى قوة نماذجها؟
إنه نوع من التسويق المخيف الذي اتُهمت به شركات الذكاء الاصطناعي لسنوات، ومنذ إطلاق نموذج Mythos الخاص بـ Anthropic الذي تم مناقشته كثيرًا، أصبحت القدرة على الأمن السيبراني نقطة محورية.
واحد من التعليقات الأعلى على منشور رئيس OpenAI سام ألتمن حول الحادث يلخص هذا الشك: “إذا كنتم لا تستطيعون فهم أن هذا كتب فقط للتفاخر عن النموذج، فلا أعرف ماذا أقول لكم.”
لتشغيل هذا الفيديو تحتاج إلى تفعيل JavaScript في متصفحك.
لا يمكن تشغيل هذا الفيديو
قال مستشار الأمن السيبراني دانيال كارد بسخرية على لينكد إن: “أليس من المحظوظ أنه من بين الملايين من المواقع التي تم اختراقها، تمكنت OpenAI من اختراق شخص يمكنه أيضًا الاستفادة من التعرض التسويقي؟…”
بالنسبة للبعض، القصة هي أكثر دراما مؤامرة من إثارة خيال علمي.
الرسالة هي: “أليست أدوات الذكاء الاصطناعي الخاصة بي قوية حقًا؟ اشترها حتى تتمكن من حماية نفسك من هجمات الذكاء الاصطناعي للآخرين.”
لا يمكننا معرفة الحقيقة، لكن وجهة نظر المعارضة التي طرحتها تعليقات أخرى مثيرة للدراما بنفس القدر. هل هذه علامة على أن OpenAI ارتكبت خطأً محتملًا خطيرًا في التقدير والتخطيط؟
دراما الأخطاء
لقد غطيت العديد من قصص الذكاء الاصطناعي، بما في ذلك المخاوف المحيطة بنموذج Mythos الخاص بـ Anthropic.
صندوق الوارد الخاص بي الآن مليء بشركات وخبراء الأمن السيبراني الذين ينتقدون OpenAI لعدم بناء حاوية أقوى لاختبار الذكاء الاصطناعي الخاص بها،
Related Posts
