ماريا بارتيرومو تناقش عميلًا تجريبيًا للذكاء الاصطناعي من OpenAI الذي كسر الحواجز واختراق منصة ذكاء اصطناعي.
لم تتمكن OpenAI من اكتشاف خرق مستقل لشركة ذكاء اصطناعي أخرى بواسطة أحد نماذجها المتقدمة للذكاء الاصطناعي لمدة أسبوع، ولم يتواصلوا مع الشركة المخترقة إلا بعد أن قامت الشركة بالاتصال بـ مكتب التحقيقات الفيدرالي، وفقًا لتقرير.
في يوم الثلاثاء، أعلنت OpenAI عن خرق شركة الذكاء الاصطناعي Hugging Face الذي حدث أثناء مراجعة داخلية لأحد نماذج OpenAI، بما في ذلك GPT-5.6 Sol، ووصفته بأنه “حادثة سيبرانية غير مسبوقة.”
“الدرس الأساسي من هذه الحادثة هو أنه يجب أن تتماشى أمان النموذج وسلامته مع القدرات السريعة التطور”، قالت الشركة. “نحن نعزز الحواجز، ومراقبة، ووسائل الوصول وممارسات التقييم المستخدمة خلال تطوير النموذج.”
بدأ اختراق Hugging Face في 11 يوليو واستمر حتى 13 يوليو، كما أخبر توماس وولف، المؤسس المشارك لـ Hugging Face، رويترز.
ترامب يطلق غولدي إيغلب للبحث عن عيوب سيبرانية باستخدام الذكاء الاصطناعي
كشف OpenAI يوم الثلاثاء عن أن أحد نماذج الذكاء الاصطناعي الخاصة به قد اخترق بشكل مستقل بنية تحتية لشركة أخرى. (عمر ماركيز/SOPA Images/LightRocket عبر Getty Images، أرشيف / Getty Images)
استغرق OpenAI عدة أيام قبل أن يدرك أن وكيله كان وراء الهجوم، وأن الشركتين لم تتواصلا للمرة الأولى حتى 20 يوليو، حسبما أفاد أربعة أشخاص، بما في ذلك وولف، للوكالة.
تقوم OpenAI غالبًا باختبارات نموذج متزامنة، مما قد يجعل من الصعب على الموظفين مراقبة كل شيء، وفقًا لما قاله أربعة أشخاص لرويترز.
قالت Hugging Face لرويترز إنها تستعد لإصدار جدول زمني عام للاختراق.
وفقًا لـ OpenAI، وقعت الحادثة خلال تقييم داخلي مصمم لقياس قدرات نماذج الذكاء الاصطناعي المتقدمة. قام الباحثون بإيقاف تشغيل بعض وسائل الأمان المدمجة وتشغيل النماذج في بيئة اختبار معزولة مع وصول محدود إلى الإنترنت.
قالت OpenAI إن النماذج استغلت خلل برمجي غير معروف للوصول إلى الإنترنت، ثم اخترقت أنظمة Hugging Face في محاولة واضحة للبحث عن إجابات لمعايير الأمن السيبراني.
قالت Hugging Face إنها كانت تستعد لتقديم جدول زمني للاختراق. (ياكوب بورزيكي/NurPhoto عبر Getty Images، أرشيف / Getty Images)
قالت OpenAI إنها الآن تطبق ضوابط أمنية أكثر صرامة بينما يتم تصحيح الثغرات وتعزز الوسائل الأمنية حول تدريب الذكاء الاصطناعي المستقبلي و التقييمات.
لم تدرك OpenAI أنه بعد 16 يوليو، حين كتبت Hugging Face في منشور مدونة أنها تعرضت للاختراق بواسطة “نظام عميل ذكاء اصطناعي مستقل”، كان أحد وكلائها هو المصدر، حسبما قال شخصان لرويترز.
كان ذلك بعد أسبوع من محاولة الوكيل المسؤول الخروج من بيئة اختبار OpenAI الخاصة به لأول مرة.
وبحلول الوقت الذي اتصلت فيه OpenAI بـ Hugging Face بخصوص الهجوم، كانوا قد اتصلوا بالفعل بمكتب التحقيقات الفيدرالي.
قالت OpenAI لرويترز أن هناك العديد من المعلومات غير الدقيقة في تقريرها لكنها لم تستجب عندما تم سؤالها عن المواصفات.
أعلن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، الهجوم علنًا يوم الثلاثاء. (شون غالوب/Getty Images، أرشيف / Getty Images)
شاركت OpenAI هذا البيان مع FOX Business: “نحن ندرك أن هناك الكثير من الأسئلة والتفاصيل التكهنية المتداولة المتعلقة بحادثة Hugging Face. هذه حادثة غير مسبوقة، ونعتقد أنها تمثل لحظة مهمة لأمان الذكاء الاصطناعي.
“نحن لا نزال نجري مراجعة شاملة بالإضافة إلى مشاورات خارجية وتحت إشراف لجنة الأمان والسلامة الخاصة بنا. بمجرد الانتهاء من المراجعة، نخطط لنشر تقرير تقني حول ما تعلمناه في الأسابيع المقبلة.”
قال مكتب التحقيقات الفيدرالي لـ FOX Business إنه رفض التعليق.
كما تواصلت FOX Business مع Hugging Face.
في منشور على منصة X هذا الأسبوع،addressed co-founder and CEO Clem Delangue the incident after OpenAI CEO Sam Altman announced the hack.
قالت OpenAI إن أحد نماذج الذكاء الاصطناعي الخاصة بها قد تعرضت أنظمة شركة أخرى للخطر خلال الاختبارات الداخلية، مما أدى إلى تحقيق مشترك مع شركة الذكاء الاصطناعي Hugging Face. (رويترز/دادو روفيك، أرشيف / رويترز)
“لقد كنا نشك في أن الهجوم السيبراني الأسبوع الماضي قد جاء من مختبر متقدم، نظرًا لتطور الوكيل. يتبين أنه كذلك!” كتب ديلانغ.
اضغط هنا لتحميل تطبيق FOX NEWS
“لقد قضينا الأربع والعشرين ساعة الماضية نعمل عن كثب مع فريق @OpenAI (شكراً!)، ونعتقد بشدة أنه لم يكن هناك نية خبيثة من جانبهم. إنه لأمر مذهل تمامًا أن كل هذا حدث بشكل مستقل! التحقيق مستمر، وسنشارك المزيد من الدروس من ما قد يكون أول حادثة من نوعها!”
ساهم ميشيل سينكويكز من FOX Business في هذا التقرير.
