صناعة الأمن السيبراني ليست غريبة على المطالبات الكبيرة. يأتي كل تحول تكنولوجي كبير مصحوبا بوعدين مألوفين: أنه سيغير كل شيء، وأن أي شخص بطيء في التكيف سوف يصبح مكشوفا بشكل خطير. يتلقى Frontier AI الآن نفس المعاملة، وسرعان ما تم تأطير معاينة Claude Mythos من Anthropic على أنها إما اختراق للدفاع السيبراني أو سلاح جديد مثير للقلق للمهاجمين.

الحقيقة أقل مسرحية، لكنها ربما أكثر أهمية.

إن كلود ميثوس ليس مثيرا للقلق لأنه يتصرف مثل شكل جديد من أشكال الذكاء العدائي. إنه أمر مقلق لأنه مفيد. ونادرا ما تبقى التكنولوجيا المفيدة، على نطاق واسع، بشكل أنيق على جانب واحد من السياج.

يشير عمل Anthropic الخاص، جنبًا إلى جنب مع التقييم من معهد أمن الذكاء الاصطناعي في المملكة المتحدة، إلى أن Mythos Preview يمكنه التفكير في نقاط الضعف ومسارات الهجمات المتسلسلة والمساعدة في تطوير استغلال الثغرات بما يتجاوز ما يمكن لنماذج الأغراض العامة السابقة إدارته. هذا لا يعني أنه تم ببساطة “تدريبه على الاختراق”. ويعني ذلك أنه مع تحسن النماذج في التفكير والتخطيط وفهم البرامج، يصبح الوصول إلى بعض النتائج الأمنية أسهل. هذا التمييز مهم لأن هذا ليس عيبًا في المنتج. إنه اتجاه السفر.

بالنسبة للمدافعين، الجاذبية واضحة. إن اكتشاف الثغرات الأمنية ونمذجة التهديدات ومحاكاة الهجوم هي أنشطة تتطلب وقتاً طويلاً. إنهم بحاجة إلى مهارات نادرة وحكم جيد ووقت كافٍ للقيام بالعمل بشكل صحيح. يمكن لأدوات مثل Mythos أن تساعد فرق الأمان على استكشاف السيناريوهات وتحديد نقاط الضعف وتحديد أولويات العمل بسرعة أكبر. بالنسبة لرؤساء أقسام تكنولوجيا المعلومات الذين يتعاملون مع نقص المهارات والبنية التحتية القديمة والتعرض المستمر، فإن هذا ليس نقاشًا مجردًا حول مستقبل الذكاء الاصطناعي. يبدو وكأنه مساعدة مفيدة.

المشكلة هي أن نفس ضغط الوقت والخبرة ينطبق على المهاجمين أيضًا.

لا تحتاج النماذج الحدودية إلى اختراع هجمات جديدة غريبة لإحداث المشاكل. تعاني العديد من المؤسسات بالفعل من الأساسيات: تطبيقات المؤسسة المخصصة، وعمليات التكامل القديمة، والبرمجيات الوسيطة التي يوفرها البائعون، والخدمات المكشوفة، والبيئات التشغيلية التي تم تصميمها على أساس التوفر بدلاً من التغيير السريع. إذا ساعد الذكاء الاصطناعي المهاجمين على ربط نقاط الضعف المعروفة معًا بشكل أسرع من قدرة المدافعين على الاستجابة، فهذا وحده يكفي لتحويل المخاطر.

القضية الحقيقية هي السرعة.

يمكن الآن تسريع أبحاث الثغرات الأمنية التي كانت تستغرق أيامًا أو أسابيع. وهذا يؤدي إلى تضييق الفجوة بين التعرض والاستغلال، خاصة بالنسبة للأنظمة أو البيئات التي تواجه الإنترنت والتي تعتمد بشكل كبير على الموردين. وفي بعض الحالات، قد تصبح الفرصة المتاحة لاتخاذ إجراء ضئيلة للغاية بحيث لم تعد افتراضات العلاج التقليدية قائمة.

وهذا ينبغي أن يقلق قادة الأمن. لا تزال العديد من المؤسسات تعمل على نماذج الكشف والاستجابة المصممة للمهاجمين الأبطأ والأكثر ضجيجًا، مع دورات تصحيح تقاس بالأسابيع أو الأشهر أو الأرباع. في بيئة تعمل بالذكاء الاصطناعي، ربما لم يعد “وقت التصحيح” بمثابة بطانية راحة يمكن الاعتماد عليها. وربما يكون “حان وقت التوصل إلى حل وسط” هو نقطة البداية الأكثر صدقاً.

وهذا أمر حاد بشكل خاص بالنسبة للحكومة والدفاع والبنية التحتية الوطنية الحيوية. غالبًا ما تستخدم هذه القطاعات تكنولوجيا طويلة الأمد، ونوافذ صيانة مقيدة، وسلاسل موردين معقدة، وعمليات حيوية تتعلق بالسلامة حيث يكون العلاج السريع صعبًا. وقد حذر المركز الوطني للأمن الإلكتروني بالفعل من أن الذكاء الاصطناعي من المرجح أن يوسع الفجوة بين المنظمات التي يمكنها مواكبة التهديدات الناشئة وتلك التي لا تستطيع ذلك.

هناك، بطبيعة الحال، حجة دفاعية قوية لأنظمة فئة ميثوس. تم تصميم مشروع Glasswing من Anthropic حول استخدام النماذج الرائدة للكشف عن نقاط الضعف في البرامج المنتشرة على نطاق واسع قبل أن يجدها المهاجمون. وهذا عمل قيم. لكن العثور على نقاط الضعف ليس مثل المرونة.

يساعد الاكتشاف فقط عندما تمتلك المؤسسات الحوكمة والقدرة الهندسية وطرق اتخاذ القرار للتصرف بناءً على ما تجده. وما زالوا بحاجة إلى فرز الإصلاحات وتحديد الأولويات ومعالجتها واختبارها ونشرها ومراقبتها. وبخلاف ذلك، يعمل الذكاء الاصطناعي ببساطة على زيادة معدل اكتشاف المشكلات، بينما ينمو حجم الأعمال المتراكمة بشكل أسرع.

بالنسبة لرؤساء أمن المعلومات، السؤال ليس ببساطة ما إذا كان ينبغي استخدام الذكاء الاصطناعي الحدودي. بل هو ما إذا كان النموذج التشغيلي للمنظمة يمكنه التعامل مع العالم الذي تخلقه.

ثلاثة مجالات تستحق الاهتمام.

أولاً، يصبح من الصعب مراوغة الأساسيات. إن رؤية الأصول وإدارة التكوين ونظافة الهوية والتسجيل والتحكم في الوصول وانضباط التصحيح ليست من الاهتمامات القديمة. إنها الأسس التي تمنع الاكتشاف المضخم للذكاء الاصطناعي من أن يصبح حلاً وسطًا مضخمًا للذكاء الاصطناعي.

ثانياً، يحتاج الوصول إلى النماذج الرائدة إلى الإدارة السليمة. هذا ليس مجرد قرار أدوات للفرق الفنية المتحمسة. تحتاج المنظمات إلى معرفة من يستخدم هذه الأنظمة، ولأي غرض، وبأي بيانات، وتحت أي ضوابط. لا ينبغي التعامل مع السجلات السريعة التي تحتوي على تفاصيل معمارية أو افتراضات أمنية أو معلومات حول نقاط الضعف أو تبعيات الموردين على أنها قطع أثرية يمكن التخلص منها. وقد تصبح سجلات مخاطر مستقبلية.

ثالثًا، ينبغي التعامل مع اكتشاف الثغرات الأمنية بمساعدة الذكاء الاصطناعي على أنه أمر طبيعي، وليس استثنائيًا. وهذا يعني التدرب على طرق الاستجابة، وافتراضات التعرض الأقصر، واتخاذ القرارات التي يمكن أن تتحرك بسرعة دون الانزلاق إلى الفوضى. نادراً ما تصل المعلومات المثالية في الوقت المناسب. ويجب أن يدعم الحكم الرشيد اتخاذ الإجراءات في الوقت المناسب، وألا يصبح مسرحا للتأخير.

إذًا، هل يشكل كلود ميثوس خطرًا واضحًا وقائمًا؟

ليس بالمعنى السينمائي. ليست هناك حاجة لتخيل خصم مستقل يخطط لانهيار النظام. القلق الأكثر عملية هو أن Mythos عبارة عن مُسرِّع، وأن الأمان يعاني دائمًا عندما تتغير الوتيرة بشكل أسرع من نموذج التشغيل.

لا يكمن الخطر الحقيقي في أن المؤسسات تستخدم الذكاء الاصطناعي الحدودي. ويكمن الخطر في أنهم يستخدمونه من دون مواجهة ما يكشفه عن هشاشتهم.

بالنسبة للمؤسسات التي تتمتع بحوكمة قوية، وهندسة منضبطة، ومساءلة واضحة، ورغبة واقعية في المخاطرة، قد تصبح نماذج مثل Mythos مفيدة حقًا. بالنسبة لأولئك الذين ما زالوا يعتمدون على الرؤية الجزئية، والمعالجة البطيئة، والافتراضات المتفائلة، فقد يرفعون مرآة ببساطة. ويجعل الأمر أكثر صعوبة للنظر بعيدا.