كيف تحافظ على السيطرة مع تسارع الذكاء الاصطناعي في فوضى الأمور

مشكلة الهشاشة – مشكلة وقت التشغيل

عندما تتحدث المؤسسات عن مخاطر الشيفرات الناتجة عن الذكاء الاصطناعي، يميل الحديث إلى التنقل نحو مخاوف وقت البناء: من راجع طلب الدمج، سواء كان النموذج قد تخيل تبعية، مدى شمولية اختبار الناتج قبل شحنه. هذه أسئلة عقلانية، لكنها أيضًا غير كافية بشكل متزايد.

الانكشاف الحقيقي ليس في ما يتم كتابته، بل في ما يتم تنفيذه. بحث من Apiiro وجد أن المطورين المدعومين بالذكاء الاصطناعي ينتجون من ثلاث إلى أربع مرات من الشيفرات أكثر من أقرانهم، وعشرة أضعاف النتائج الأمنية. مع تسارع سرعة التطوير، تنمو أساسات الشيفرات بشكل أسرع، وتتكاثر التكاملات وتزداد مساحة سلوك الإنتاج بما يتجاوز ما يمكن لأي فريق تدقيقه بشكل شامل. للأسف، لا تظهر الفجوات الأمنية والموثوقية دائمًا في المراجعة.

ليس الأمر أن الذكاء الاصطناعي يولد شيفرات سيئة بمعدل أعلى من البشر، على الرغم من أنه أحيانًا يفعل. جوهر مشكلة الانتروبي هو أن الذكاء الاصطناعي يولد المزيد من الشيفرات، بسرعة أكبر، مع احتكاك أقل في كل خطوة، ولم تقم المؤسسات بتحديث نماذج التحكم الخاصة بها لتتناسب مع تلك الوتيرة. النتيجة هي أنظمة تبدو مستقرة حتى، أحيانًا بشكل كارثي، لا تكون كذلك.

نموذجين للفشل، إجابة واحدة صحيحة

في مواجهة تلك الهشاشة، عادة ما تلجأ المؤسسات إلى أحد ردين. الأول هو القيود: إبطاء الاعتماد، تشديد بوابات المراجعة، تقييد السياقات التي يُسمح فيها باستخدام أدوات الذكاء الاصطناعي. الثاني هو القبول: التحرك بسرعة، والشحن بشكل عدواني، ومعالجة المشكلات عند ظهورها. لا يمكن تبرير أي من الموقفين على نطاق واسع.

تضحي القيود بسرعة المنافسة على مذبح راحة العملية. في الأسواق التي تتراكم فيها اعتماد الذكاء الاصطناعي بشكل ربع سنوي، فإن المؤسسات التي تتردد تُعرض نفسها لخطر عدم الجدوى. من ناحية أخرى، يعامل القبول الهشاشة الخفية كضريبة قابلة للإدارة على السرعة بدلاً من أن تكون خطرًا هيكليًا. هذا يميل إلى الاستمرار… حتى يتم إعادة تعيينه من خلال خرق أو فشل كبير.

السؤال هو كيفية ممارسة سيطرة ذات مغزى على الأنظمة التي لا يمكن التنبؤ بسلوكها بالكامل في وقت البناء. يتطلب ذلك تغيير نموذج السيطرة نفسه.

سلامة وقت التشغيل، أساس حوكمة الذكاء الاصطناعي

المبادئ التي حكمت أمان الشبكات لسنوات تنطبق مباشرة على هذا التحدي. تم بناء هندسة الثقة المنعدمة على الاعتراف بأن نماذج الأمان المعتمدة على المحيط لا يمكن أن تأخذ بالحسبان تعقيد البيئات الحديثة. تنطبق نفس المنطق على سلوك البرمجيات الناتج عن الذكاء الاصطناعي: الافتراض بالثقة بناءً على خط أنابيب بناء نظيف هو المعادل البرمجي للافتراض بالثقة بناءً على موقع الشبكة. كلتا الافتراضين تفشل تحت الضغط، وتقرير أمان الشيفرات GenAI من Veracode، الذي اختبر أكثر من 100 نموذج لغوي كبير عبر أربع لغات برمجة، وجد أن 45% من الشيفرات الناتجة عن الذكاء الاصطناعي قدمت ثغرات من OWASP Top 10.

مقاربة أكثر ديمومة تعالج الناتج الناتج عن الذكاء الاصطناعي كغير موثوق به بشكل افتراضي وتفرض التحقق باستمرار في الإنتاج. هذا يعني ثلاثة أشياء في الممارسة العملية.

أولاً

افترض أن الناتج الناتج عن الذكاء الاصطناعي يحمل خطرًا سلوكيًا بغض النظر عن مدى شمولية مراجعته قبل النشر. عملية المراجعة قيمة، ولكنها غير كافية. يحتاج الأنظمة إلى أن تكون مزودة بأدوات حتى يمكن اكتشاف سلوك غير متوقع في الإنتاج واتخاذ إجراء.

ثانياً

نقل السيطرة من وقت البناء إلى وقت التشغيل. إن فرض السياسات التي تعيش حصريًا في خط أنابيب CI/CD هشة بحكم تصميمها. توفر ضوابط وقت التشغيل التي تفحص السلوك الفعلي كما يحدث بدلاً من السلوك المتوقع كما تم نمذجته أساسًا أكثر مرونة للحوكمة في البيئات عالية السرعة. تتزايد حدة المشكلة بسرعة: باحثون في مشروع مشروع Vibe Security Radar تتبعوا 35 ثغرة جديدة في مارس 2026 فقط التي كانت مباشرة نتيجة للشيفرات الناتجة عن الذكاء الاصطناعي، ارتفاعًا من ست ثغرات في يناير من نفس العام.

ثالثاً

تطبيق التفتيش المستمر وفرض القوانين على أنظمة الإنتاج. لقد كانت فحص الحزمة العميق لفترة طويلة حجر الزاوية في أمان الشبكات لأن ذلك يمكّن المؤسسات من تقييم الحركة الفعلية بدلاً من الحركة المفترضة. نفس المبدأ يتم تطبيقه على سلوك التطبيق: ما تفعله النظام في الإنتاج يميل إلى الانجراف عن الخط الأساسي مع مرور الوقت. إن القياسات على هذا المستوى تحول الانتروبي من مسؤولية تتراكم بشكل غير مرئي إلى حالة قابلة للقياس والإدارة.

الرؤية – الميزة التنافسية

المؤسسات التي ستؤدي بشكل أفضل في بيئة مدفوعة بالذكاء الاصطناعي ليست تلك التي تتحرك بحذر أكبر. بل هي التي تتحرك بشكل عدواني مع وجود طبقة سلامة وقت التشغيل تحتها: الفحص العميق، والكشف السلوكي الذكي، والتنفيذ الذي يعمل باستمرار بدلاً من كونه متقطعًا. تدعم البيانات حول اعتماد الثقة المنعدمة هذا: المؤسسات التي تنفذ هندسات الثقة المنعدمة تواجه 76% أقل من الاختراقات الناجحة، مع تكاليف الاختراق المتوسطة التي تبلغ 38% أعلى لأولئك الذين لا يمتلكونها.

هذه ليست حجة محافظة ضد اعتماد الذكاء الاصطناعي؛ بل على العكس. إن الأساس الذي توفره الرؤية أثناء وقت التشغيل هو بالتحديد ما يجعل الاعتماد العدواني مستدامًا. يمكن للفرق التي ترى ما تفعله أنظمتها بالفعل في الإنتاج، وتستجيب للانحرافات السلوكية قبل أن تتراكم، أن تتحمل الضغط بشكل أكبر عند الحدود مقارنةً بالفرق التي تعمل في الظلام.

سيستمر الذكاء الاصطناعي في التسارع وستستمر قواعد الشيفرات في النمو؛ ستظل الهوة بين ما يتم مراجعته وما يتم تنفيذه في اتساع. ستجد المؤسسات التي تستجيب من خلال الاستثمار في التحكم أثناء وقت التشغيل أن الانتروبي، إذا تم إدارته بشكل صحيح، يصبح مصدرًا للتفريق التنافسي بدلاً من أن يكون مصدرًا للخطر. أما التي لا تفعل ذلك فستتراكم لديها الهشاشة بهدوء، وتكتشف ذلك على حسابها.

مجلس تكنولوجيا فوربس هو مجتمع بالدعوة فقط لقادة التكنولوجيا والمدراء التنفيذيين العالميين من الطراز الأول. هل أؤهل؟