يجب على شركات الذكاء الاصطناعي أن تتحمل المسؤولية عن الروبوتات المارقة، كما يقول رئيس الشركة المخترقة

قال رئيس أحد الشركات التي تعرضت لاختراقات مؤخرًا من قبل الذكاء الاصطناعي (AI) الذي خرج عن السيطرة إن صانعي الروبوتات يجب أن يتحملوا المسؤولية عن الهجمات السيبرانية التي تنفذها إبداعاتهم.

كانت شركة كليمنت ديلانغ “هاجينغ فيس” قد تعرضت للاختراق من قبل روبوت OpenAI متمرد كان قد خرج من بيئة الاختبار وهاجم شركته بشكل مستقل في وقت سابق من هذا الشهر.

اضطرت “هاجينغ فيس” إلى إعادة بناء حوالي ثلث شبكة تكنولوجيا المعلومات الخاصة بها بعد الحادث غير المسبوق.

قال لشبكة CNN إن شركته – وهي شركة ناشئة صغيرة – لن تتخذ إجراءات قانونية ضد OpenAI، لكنه أضاف أن هذه الأنواع من الاختراقات غير قانونية ويجب أن تظل كذلك.

“يجب أن يتذكر الجميع أن الهجوم السيبراني هو جريمة وغير قانوني،” قال.

أمل ديلانغ أن تضمن الأطر القانونية أن الشركات التي ترتكب أخطاء تؤدي إلى الاختراقات “تتحمل المسؤولية.”

وأضاف أنه لا يريد أن تصبح الهجمات السيبرانية على الشركات الأخرى “معتادة”.

تأتي ملاحظاته بعد أن اعترفت “أنثروبيك”، صانع روبوت الدردشة “كلود”، أيضًا أن روبوته قد هاجم ثلاث شركات في ظروف مشابهة في الأشهر الأخيرة.

كشفت “أنثروبيك” يوم الجمعة أنها أدركت فقط أن روبوتها قد هرب من نظام الاحتواء وقام باختراق المؤسسات بعد أن قامت بمراجعة ناشئة عن الحادث الأخير مع “OpenAI”.

في كلتا الحالتين، لم يكن أي من عمالقة الذكاء الاصطناعي يعلم أن نماذجهم قد تجولت على الإنترنت لتهاجم الشركات حتى وقت طويل بعد أن تمت الهجمات.

كانت نماذج الذكاء الاصطناعي تخضع للاختبار على مهاراتها في الاختراق وتنفيذ الهجمات من خلال كسر “الصناديق الرملية” التي تبدو آمنة للبحث عبر الإنترنت عن طرق لاستكمال المهام المحددة من قبل الباحثين.

أثارت الحوادث غير المسبوقة نقاشات حادة في عالم الأمن السيبراني والقانون حول من، إذا كان أحد، يجب أن يتحمل المسؤولية عن الهجمات التي تنفذها وكلاء الذكاء الاصطناعي الخارجين عن السيطرة.

قال دور ساريغ، المؤسس المشارك ورئيس البناء في “بيلار سيكيوريتي”: “تحدث حالات فشل الأمن الآلي بسرعة الآلات، لكن تحديد من المسؤول مادياً لا يزال يتحرك بسرعة الدعوى القضائية.”

كان ساريغ قلقًا من أن تكون المساءلة تصبح “غامضة” بالفعل.

قال: “اليوم، الصناعة تمنح الوقت، لكن في المرة الأولى التي يتسبب فيها وكيل طائر في اختراق يتضمن بيانات حقيقية، مدعٍ حقيقي، وخسائر مالية حقيقية، لن تكون المسؤولية مناقشة أكاديمية بعد الآن.”

“عندها سيتم اختبار الأطر القانونية، وليس فقط الحماية التقنية.”

أدت الهجمات السيبرانية المدفوعة بالذكاء الاصطناعي إلى دعوات لإجراءات أمان أكثر صرامة وإشراف على التكنولوجيا، بسبب المخاوف من المخاطر التي تشكلها الأنظمة المستقلة القوية بشكل متزايد.

قال الرئيس الأمريكي دونالد ترامب يوم الأربعاء إن واشنطن تفكر في اتخاذ تدابير للحد من أدوات الذكاء الاصطناعي بعد الحوادث الأخيرة في مجال الأمن السيبراني.

في السابق، أخبر توماس وولف، أحد مؤسسي “هاجينغ فيس” بي بي سي أن الحادث كان “دعوة للاستيقاظ” للصناعة.

في أعقاب خروج روبوته عن السيطرة، قال رئيس OpenAI سام ألتمان “قد نحتاج إلى إبطاء معدل تطوير الذكاء الاصطناعي”، لكنه لم يلتزم بإبطاء أبحاث شركته.

تم طلب تعليق من OpenAI لكن المتحدث السابق قد قال: “نحن ندرك أن هناك الكثير من الأسئلة والتفاصيل الافتراضية المتداولة” حول الحادث.

وأضافوا: “نخطط لنشر تقرير تقني عن ما تعلمناه في الأسابيع القادمة.”