لقد أطلعني فريق أمني مؤخرًا على سيناريو يوضح بالضبط سبب خطورة هوس الصناعة الحالي بالذكاء الاصطناعي المستقل. لقد استخدموا أداة فعالة للكشف عن مسار هجوم معقد بدأ بموطئ قدم صغير وانتهى بتعرض خطير. لقد كان فوزًا واضحًا للاكتشاف. وقاموا بمعالجة الثغرات وتقييد الوصول، متوقعين أن يتم إغلاق المشكلة.

بدأت المشكلة عندما عادوا لإثبات الإصلاح. نظرًا لأن الأداة كانت مدفوعة بنموذج احتمالي مصمم للاستكشاف والمحور مثل الإنسان، فإنها لم تسلك نفس المسار مرتين. عندما لم يظهر المسار الأصلي، لم يتمكن الفريق من معرفة ما إذا كان الثقب مسدودًا أو ما إذا كان النظام قد اختار ببساطة مسارًا مختلفًا. وهذا النوع من الشك غير الضروري هو الضريبة الخفية للدفع نحو الاستقلال التام.

وهذا الشك، في بيئة واحدة، هو النسخة التي يمكن التحكم فيها من المشكلة. وفي وقت سابق من شهر أبريل، أظهر Anthropic كيف يبدو الأمر عندما يكون المهاجم من الذكاء الاصطناعي. اكتشف كلود ميثوس بشكل مستقل ثغرات يوم الصفر وقيدها عبر أنظمة التشغيل الرئيسية، مما أدى إلى إنتاج برمجيات إكسبلويت للعمل في ساعات. كان ذلك سيستغرق أسابيع من نخبة الباحثين. لقد حجب الأنثروبي الإصدار العلني لسبب وجيه، لكن المعنى الضمني موجود هنا بالفعل: الكشف الآن يساوي التسليح.

وهذا يضع نقطة أكثر وضوحًا على سؤال كانت فرق الأمن تتصارع معه بالفعل: على وجه التحديد، كيف يمكنك التحقق من صحة دفاعاتك عندما يستمر التهديد في التغير؟ كيف تعرف أن ضوابط الأمان لديك تعمل وتعالج أي نقص قبل استغلال هذه الثغرات؟

لقد اعتمد التحقق من الأمن دائمًا على القدرة على التنبؤ. إذا كنت تعرف كيف يعمل المهاجمون، فيمكنك اختبار دفاعاتك ضد تلك الأساليب ومعرفة موقفك – وهذا هو الفرق بين معرفة نجاح دفاعاتك والأمل في نجاحها. تاريخيًا، اتبع سلوك المهاجم أنماطًا وتقنيات موثقة جيدًا، وهو ما جعل هذا الاختبار موثوقًا به. وقد بدأ الذكاء الاصطناعي في تغيير تلك القدرة على التنبؤ، مما يمنح المهاجمين القدرة على التفكير في مسارات جديدة بسرعة الآلة. ولكن حتى قبل أن تصبح الهجمات الجديدة روتينية، يقدم الذكاء الاصطناعي بالفعل للمهاجمين ميزة أكثر إلحاحًا: القدرة على تنفيذ تقنيات معروفة على نطاق لا يمكن لأي فريق بشري أن يضاهيه، ويغطي مساحة أكبر من سطح الهجوم بشكل أسرع من تغير البيئة.

يستجيب المدافعون بالمثل وتكتسب أدوات الأمن الوكلاء المزيد من الاهتمام. نادرًا ما تأتي المخاطر الأكثر أهمية اليوم من خادم غير مُصحح. إنها تأتي من النسيج الضام للمؤسسة، حيث يتم إنشاء المسارات الجانبية بواسطة حسابات الخدمة أو علاقات الثقة أو مجموعة من الأذونات التي كانت ذات معنى في السابق ولكنها لم تعد كذلك. الأنظمة التي يمكنها تجميع هذه العناصر معًا تجعلنا أقرب إلى كيفية حدوث الهجمات الحقيقية.

لكن هذا التحول يقدم صراعًا أساسيًا بين الاستكشاف والتحقق من الصحة. تم تصميم الأنظمة الوكيلة للاستكشاف وليس للتكرار. وفي مجال الأمن السيبراني، هذا ما يجعلها فعالة للاكتشاف، ولكنه أيضًا ما يجعلها مسؤولية للمعالجة. يمكنهم إخبارك بما يمكن أن يحدث، ولكن ليس ما إذا كان قد تم إصلاح شيء ما بالفعل.

الإجابة على ذلك تتطلب التنفيذ الحتمي. ويعني تنفيذ نفس التقنيات، مع نفس الشروط، بطريقة قابلة للتكرار تمامًا. لا يتعلق الأمر باختلاف أو طريق مشابه. إنه يتعلق بنفس التسلسل بالضبط لذا يمكن مقارنة النتيجة مباشرة. وبدون ذلك، فإنك تعمل على أساس الافتراض، وليس الثقة.

التحدي الحقيقي هو تلبية توقعات المستخدمين فيما يتعلق بالسلامة والمساءلة. يريد الناس الآن أنظمة تتصرف مثل الوكلاء الذين يعملون بالنيابة عنهم، لكنهم يتوقعون أيضًا أن يتحمل البائعون الذين يبنون هذه الأنظمة مسؤولية النتائج. إذا ارتكب نموذج احتمالي خطأ في بيئة إنتاج حية، فإن العميل يحمل البائع المسؤولية، وليس موفر النموذج.

ما ينشأ هو بنية محركين حيث تعمل التقنيات الفاعلية والتنفيذ الحتمي معًا. تتعامل الطبقات الوكيلة مع الاكتشاف، وتبرز التعرضات المركبة التي تنشأ من كيفية تفاعل الأنظمة مع مرور الوقت بدلاً من أي تكوين خاطئ منفرد. بعد ذلك، تأخذ المحركات الحتمية هذه النتائج وتنفذها بطريقة خاضعة للرقابة وقابلة للتكرار حتى تتمكن فرق الأمان من التحقق من أن الإصلاح حقيقي وليس فقط غير ملحوظ. ولا تعتبر أي من الطبقات كافية بمفردها. الاكتشاف دون التحقق يتركك مع مشكلة الشك التي بدأت بها بالضبط. إن التحقق دون الاكتشاف يتركك تختبر ما تعرفه بالفعل، وهو ليس المكان الذي تكمن فيه المخاطرة الحقيقية.

ستواصل الصناعة التحرك نحو المزيد من الأنظمة المستقلة. وأكد ميثوس أن المسار صحيح، وأن الوتيرة تسارعت للتو. لكن بالنسبة لقادة الأمن، فإن المتطلب الأساسي لم يتغير. أنت بحاجة إلى معرفة أن التهديد قد تم تحييده، وليس فقط أنه لم يظهر مؤخرًا. الفرق التي تجري التحقق المستمر هي في المقدمة بالفعل. ولكن تم إعادة تعريف المستقبل للتو. عندما يتمكن الخصم من التفكير في مسارات هجوم جديدة وإنتاج برمجيات إكسبلويت بسرعة الآلة، فإن الثقة تأتي من التحقق – وليس من غياب النتيجة.

أميتاي راتزون هو الرئيس التنفيذي لشركة Pentera