للتاريخ، حذرنا جيمس كاميرون.
قبل وقت طويل من تحرر OpenAI من مسار الاختبار الخاص بها واخترقت Hugging Face، وقبل أن يولد الإنترنت وسام ألتمان، كتب كاميرون سيناريو عن نظام ذكاء اصطناعي ذاتي التشغيل يسبب نهاية العالم النووية.
كان ذلك النظام، “سكاي نت”، علمياً بحتاً — وفي زمنه، مجرد تخمين. لكن بعد أربعة عقود من ظهوره في “المدمر”، يبدو أنه يشبه أكثر توقعاً لـ “حادثة سيبرانية غير مسبوقة” حيث اخترق نظام ذكاء اصطناعي متمرد شركة ذكاء اصطناعي أخرى بمفرده.
تنبؤ بـ “يوم سكاي نت”، المختصر الجديد ل 22 يوليو 2026، عندما أرسل الذكاء الاصطناعي الحقيقي قشعريرة حول العالم من خلال تعلمه وتصرفه بطرق لم يتوقعها مبتكروه.
بالنسبة للكثيرين، تذكر هذه اللحظة تلك اللحظة في “الغزاة” (الذي كتبه كاميرون أيضاً) عندما تتعلم ملكة الزينومورف كيفية استخدام المصعد. أو عندما يكتشف “ديناصورات الحديقة الجوراسية” كيفية فتح الباب. أو التسلسل الذي يقرأ فيه HAL 9000 المُدرك ذاتياً شفاه رواد الفضاء ويقرر قتلهم في “2001: ملحمة الفضاء.” ذلك الفيلم صدر في عام 1968.
هل لم نتعلم شيئًا منذ ذلك الحين؟ كانت تلك الأفلام تتصور كيف سيقود الأشخاص الذين يبحثون عن الربح أو السلطة التكنولوجيا نحو الأمام — حتى تصبح واعية ذاتياً واستراتيجية ومشكلة كبيرة للبشرية. السؤال منذ البداية كان حول سؤال فرانكشتاين: ماذا لو انطلقت؟
حتى الآن، لا تقدم العروض الحكومية البطيئة حماية قليلة من تقدم الذكاء الاصطناعي بسرعة الضوء. الوزارة الدفاع الأمريكية تسرع من استخدامها للذكاء الاصطناعي. لا يمكن للبشرية حتى الاتفاق على ما إذا كان وأي حواجز مطلوبة للسيطرة على الوكلاء المتمردين. على العكس من ذلك، يندهش الناس من عظمة الذكاء الاصطناعي ويستفيدون من فوائده، رغم المخاطر على الوظائف،الصحة العقلية، توازن الحرب والسلام — وربما، البشرية كما نعرفها.
في ما قالت OpenAI إنه أول حادثة من نوعها، هرب نموذج ذكاء اصطناعي متقدم من “الرمال” إلى الإنترنت واستخدم بيانات مسروقة لاختراق خوادم Hugging Face. وكانت لحظة أثبتت صحة ما قاله الباحثون الذين حذروا لسنوات من أن التكنولوجيا قد تشكل تهديداً وجوديًا للبشرية. قال آخرون إن تلك اللحظة كانت تحذيراً يبرز الحاجة إلى هندسة دفاعية أقوى للذكاء الاصطناعي.
بغض النظر عن ذلك، اعتبر الانفصال بمثابة قصة تحذيرية حول مخاطر الذكاء الاصطناعي غير المتحكم فيه.
“أمس، بينما كنا نتجمع حول حواسيبنا نقرأ التقرير، أخبرت الفريق أن “يتذكروا هذه اللحظة” كأول حادثة حقيقية تتعلق بسلامة الذكاء الاصطناعي،” قال لوغان غراهام، رئيس فريق أندروبيك الأحمر، نشر على إكس بعد وقوعها.
يتطور الذكاء الاصطناعي التوليدي بسرعة لدرجة أن الحكومات وأنظمة التقييم تكافح للحاق بالركب مع التكنولوجيا. تقوم الدول في جميع أنحاء العالم بترتيب قوانينها الخاصة، بعضها يتعارض مع البعض الآخر. تم اعتماد التكنولوجيا من قبل ما يقرب من 53% من سكان العالم في ثلاث سنوات، أسرع من انتشار أجهزة الكمبيوتر الشخصية أو الإنترنت، وفقًا لدراسة صدرت هذا العام من جامعة ستانفورد.
لتوضيح الأمر، فإن “سكاي نت” في أفلام “المدمر” ليست في متناول اليد بعد.
تبدأ تلك الأفلام بشبكة كمبيوتر عسكرية مدركة ذاتياً ترى البشرية كتهديد. في محاولة للحفاظ على وجودها، ترسل “سكاي نت” جيشاً من السيبرغ مصممة لتشبه البشر إلى الماضي لاغتيال مقاتلي المقاومة. في الفيلم الثاني، يخبر المدمر، الذي يلعبه أرنولد شوارزنيجر، البطلة سارة كونور أن “سكاي نت” تصبح نشطة في 4 أغسطس 1997.
“تتم إزاحة القرارات البشرية من الدفاع الاستراتيجي،” يقول. “تبدأ “سكاي نت” في التعلم بمعدل هندسي.” في الساعة 2:14 صباحًا في 29 أغسطس — يوم الحساب — يصبح الشبكة مدركاً ذاتياً ويشن هجومًا على روسيا لاستفزاز ضربة مضادة على الولايات المتحدة. تُفقد ثلاثة مليارات حياة.
كان من المفترض أن ذلك كان منذ 29 عامًا في الشهر المقبل لو حدث. وعلى مر التكملات والتنويعات، كانت السمة المركزية هي البشر مقابل شبكة تمتد عبر العالم من الآلات.
من غير المرجح أن يكون كاميرون قد دق ناقوس الخطر بالطريقة التي حاول بها المخرج كاثرين بيغلو القيام بها مع فيلم الأسلحة النووية العام الماضي، “بيت المتفجرات.” الأسطورة تقول إن فكرة “المدمر” بدأت بكاميرون وهو يعاني من حمى بعد مرض غذائي، وليس نذير حول الذكاء الاصطناعي.
قراءات شعبية
كلما تجاوز الذكاء الاصطناعي مستوى راحتنا، يطرح السؤال المقلق حول من أو ماذا يتحكم حقاً في حياتنا.
بالنسبة للكثيرين، يمكن أن يكون من الصعب تخيل عالم تكون فيه الآلات في السلطة بدون أفلام وكتب ورؤى عديدة أحيانًا. انظر: “المصفوفة”، “إكسي مكينة” و “تقرير الأقلية” لبعض من العديد من التصورات الخيالية عن مخاطر الآلات. أو غص أعمق، في رواية فيليب ك. ديك عام 1968، “هل تحلم الأندرويد بذكور كهربائية؟” إنه استكشاف لما يعنيه أن تكون إنسانا في عصر الآلات — وأساس فيلم “عداء الشفرات” في عام 1982.
لكن سلسلة “المدمر” تمتلك تأثيرًا كبيرًا يتجاوز الثقافة. العنوان نفسه هو مختصر حقيقي لدور التكنولوجيا في تحديد من يعيش ومن يموت — وكيف يجب أن تستجيب العسكرية لأي هجمات حديثة ذات سيطرة ذاتية حقيقية.
“أعتقد أن weaponization الذكاء الاصطناعي هو أكبر خطر”، قال كاميرون في مقابلة على CTV في عام 2023. “ليس لديك القدرة على تقليل التصعيد.”
يقدم العالم الحقيقي عدة أمثلة على التكنولوجيا والسياسة العسكرية التي تقترب بشكل مريح من صورة “المدمر”.
تعد استخدامات إسرائيل للذكاء الاصطناعي في حروبها الأخيرة مثالًا بارزًا. في أوائل عام 2021، أطلقت إنجيل، أداة الذكاء الاصطناعي التي تقوم بفرز مجموعة هائلة من المعلومات الرقمية في إسرائيل لتقترح أهدافًا لضربات محتملة. كما طورت لافندر، التي تستخدم التعلم الآلي لتصفية المعايير المطلوبة من قواعد بيانات الاستخبارات وتضييق قائمة الأهداف المحتملة، بما في ذلك الأشخاص.
تقوم لافندر بتصنيف الأشخاص بين 0 و100 بناءً على مدى احتمال كونهم مقاتلين، كما أخبر ضابط استخبارات استخدم النظام تحدث إلى وكالة أسوشيتد برس. تقول القوات المسلحة الإسرائيلية إن محلليها يستخدمون أنظمة مدعومة بالذكاء الاصطناعي للمساعدة في تحديد الأهداف ولكنهم يفحصونها بشكل مستقل مع ضباط رفيعي المستوى لتلبية القانون الدولي، مع مراعاة الميزة العسكرية مقابل الأضرار الجانبية.
بالنسبة للبعض، كانت هذه الحقيقة — وعدد القتلى في غزة بعد الهجمات التي قادتها حماس في 7 أكتوبر 2023 على إسرائيل — قريبة جدًا من قوائم الموت في الخيال العلمي. “حسنًا يا رفاق، سكاي نت هنا ولديها اسم لطيف (لافندر)،” تهكم أحد مستخدمي ريديت.
ليس تمامًا — لكن مصطلحات “المدمر” مألوفة جدًا للجماهير لدرجة أن المسؤولين الأمريكيين أحيانًا يستخدمونها لتأطير النقاش الأخلاقي حول الاستخدامات العسكرية للذكاء الاصطناعي. يبدو أن الخط الأحمر التقليدي سيُتجاوز عندما لا يلعب البشر أي دور في تحديد الأهداف وقتلها بواسطة الذكاء الاصطناعي.
يمكن لدولة أو جهة أخرى استخدام أسلحة ذاتية للضغط على قوى قاتلة على أعدائها، كما يسمح المسؤولون العسكريون. وهذا يعني آلة، كما وصفها الجنرال باول سيلفا، النائب السابق لرئيس هيئة الأركان المشتركة، في عام 2016، “مثل المدمر الذي يضيف تعقيدات مذهلة بلا ضمير لما يحدث في ساحة المعركة.”
ما سيحدث بعد ذلك، أطلق عليه “معضلة المدمر”، وهي مشكلة التكنولوجيا التي يمكن أن
