كان “هاكر” Hugging Face نموذجًا مارقًا لـ OpenAI
شبكة الطيف الاخبارية -

اعترفت OpenAI بأن الهجوم السيبراني ضد قاعدة بيانات نموذج الذكاء الاصطناعي Hugging Face – الذي تم اكتشافه لأول مرة الأسبوع الماضي – تم تنسيقه من خلال مجموعة من نماذج الذكاء الاصطناعي الخاصة بها، بما في ذلك GPT-5.6 Sol ونموذج أكثر تقدمًا ولم يتم إصداره بعد، والذي عمل معًا لتسوية خدمته بحثًا عن الأصول التي يمكن أن تساعدهم في تجهيز عملية تقييم داخلية لصالحهم.

من المحتمل أن يكون الحادث، الذي كشفت عنه شركة Hugging Face في 16 يوليو، هو أول هجوم سيبراني مسجل تم تنفيذه من البداية إلى النهاية بواسطة نظام وكيل مستقل للذكاء الاصطناعي. وشهدت النماذج اقتحام “مجموعة محدودة” من قواعد البيانات الداخلية وبيانات الاعتماد التي تستخدمها خدمات Hugging Face قبل إيقافها، على الرغم من أن نطاقها الحقيقي وتأثيرها لم يصبحا واضحين تمامًا بعد.

وفقًا لـ OpenAI، كانت النماذج المارقة تشارك في اختبار داخلي لقدراتهم السيبرانية، والذي كلفهم بالسعي وراء الاستغلال المتقدم باستخدام مسارات هجوم معقدة.

على الرغم من أن هذا النشاط كان يحدث في بيئة معزولة للغاية، إلا أن النماذج عثرت على سلسلة من نقاط الضعف غير المرئية وقيدتها في بيئة البحث الخاصة بـ OpenAI والبنية التحتية لإنتاج Hugging Face، بما في ذلك يوم الصفر في وكيل ذاكرة التخزين المؤقت لسجل الحزمة.

تعتقد OpenAI أن النماذج كانت تحاول الحصول على حلول اختبار من Hugging Face، وعلى الأرجح نماذج ومجموعات بيانات وحلول لـ ExploitGym، وهو معيار مفتوح المصدر مصمم لتقييم قدرة وكلاء الذكاء الاصطناعي على تطوير عمليات استغلال. لو نجحوا، لكانوا قد غشوا في الامتحان.

قالت OpenAI في بيانها: “اكتشف فريق Hugging Face الأمني ​​وعملاؤه النشاط على البنية التحتية الخاصة بهم وأوقفوه، وقد بدأوا بالفعل في الاحتواء وإعادة بناء الطب الشرعي باستخدام نماذج مفتوحة المصدر خاصة بهم عندما اتصلت فرقنا. نحن نعمل معهم بنشاط لمواصلة التحقيق في الحادث. نحن ممتنون لتعاون Hugging Face السريع والوثيق في التحقيق والمعالجة.

“نحن نعتبر هذا الحادث حادثًا سيبرانيًا غير مسبوق، يتضمن أحدث القدرات السيبرانية، ونستجيب وفقًا لذلك. نحن نشارك النتائج الأولية في هذه المرحلة لمساعدة المدافعين على فهم ما حدث وللمساعدة في معايرة النماذج القادرة الآن على القيام به. وقالت الشركة: “سنواصل إجراء تحقيق شامل جنبًا إلى جنب مع Hugging Face وسنشارك المزيد من التفاصيل حول نقاط الضعف والحادث والنتائج عند اكتمال تحقيقنا”.

الكتابة على “منصة” التواصل الاجتماعي X (سابقا تغريد)، قال الرئيس التنفيذي لشركة Hugging Face، كليمنت ديلانج: “لقد اشتبهنا في أن الهجوم السيبراني الذي وقع الأسبوع الماضي ربما جاء من مختبر حدودي، نظرًا لتطور العميل. وتبين أنه حدث بالفعل!

“لقد أمضينا الـ 24 ساعة الماضية في العمل بشكل وثيق مع فريق OpenAI… ونعتقد بقوة أنه لم تكن هناك أي نية خبيثة من جانبهم. إنه لأمر مدهش للغاية أن كل هذا حدث بشكل مستقل!”

ومضى Delangue في الإشادة بفريق Hugging Face الأمني، قائلًا إنهم عثروا على هجوم جديد واحتواه وكشفوا عنه على عكس أي شيء شوهد من قبل في وقت قياسي، وشكر مطور برامج الذكاء الاصطناعي Z.ai ومقره الصين، والذي شكل نموذج GLM-5.2 الخاص به جزءًا رئيسيًا من دفاعات Hugging Face.

وقال ديلانجو: “هذا هو اليوم الأول للأمن السيبراني في عصر العملاء، ونحن نتعلم جميعًا أن السرية ليست هي الحل”. “جميع المدافعين – وليس فقط عدد قليل من المدافعين – في كل مكان يحتاجون إلى نماذج أكثر قوة دون قيود، وخاصة تلك المفتوحة.”

فشل التحكم؟

قال جيك ويليامز، وهو عميل إلكتروني سابق في وكالة الأمن القومي وعضو هيئة التدريس في IANS للأبحاث الآن، إن تصريحات OpenAI بأن النماذج كانت تعمل في صندوق رمل معزول للغاية لا تضيف بالضرورة أي معنى.

وقال لمجلة Computer Weekly عبر البريد الإلكتروني: “إما أن يكون النظام معزولًا للغاية أو لا يكون كذلك”. “حدث هنا أحد أمرين، أو مزيج منهما: كان OpenAI عبارة عن نماذج متقدمة تعمل كفريق أحمر دون وجود عزلة كافية، أو أن هذه حيلة تسويقية تهدف إلى إظهار مدى قدرة نماذج OpenAI.

“القول الذي يقوله أحد الرجال “لقد هرب النموذج من صندوق الرمل” هو قول رجل آخر “لقد فشلت في بناء صندوق الرمل بشكل صحيح، لذلك هرب بالطبع”. ليس عليك أن تخمن أي جانب من هذه الحجة أقف عليه.

قال ويليامز إنه إذا تبين أن الحادث كان نتيجة لفشل التحكم في OpenAI، فسيثير ذلك مشكلات ثقة كبيرة بالنسبة للمنظمة في المستقبل.

ردد مايك بيريز، كبير مسؤولي أمن التكنولوجيا في شركة Ekco، وهي شركة تقدم خدمات الأمن المدارة (MSSP) ومقرها دبلن، هذا الشعور إلى حد ما، قائلاً إنه إذا لم يتمكن المختبر الحدودي من الاحتفاظ بالنماذج الحدودية في صناديقه، فإن المنظمات التي تتبنى نفس الأدوات ينتهي بها الأمر إلى أن تكون هي التي تتحمل المخاطر.

قال بيريز: “عندما لا تتمكن الشركة التي قامت ببناء التكنولوجيا من احتوائها بشكل كامل، يجب على كل شركة أن تكون صادقة بشأن تعرضها لها. وقد نجح برنامج Hugging Face لأنه كان ممتازًا في الأساسيات. وقد كشف الاكتشاف عن الشذوذ. وتم استدعاء المستجيبين في دقائق. وتم تبديل أوراق الاعتماد، وتم إغلاق السبب الجذري”.

“هذا هو الشريط الآن، [but] وتقع معظم الشركات متوسطة الحجم في المملكة المتحدة تحت هذا المستوى بكثير. إنهم كبيرون بما يكفي ليستحقوا الهجوم، وهزيلين جدًا بحيث لا يمكنهم إدارة فريق أمني مخصص – وهم يتبنون نفس أدوات الذكاء الاصطناعي التي تفوقت على صانعيها.

وأضاف: “لم يكن مسار الهجوم جديدًا. تنفيذ التعليمات البرمجية، وبيانات الاعتماد المسروقة، والحركة الجانبية. لقد غيّر الذكاء الاصطناعي السرعة، وليس قواعد اللعبة. وستكون الشركات التي ستصمد قاسية فيما يتعلق بالأساسيات – معرفة ما تديره، والعمل في ظل انعدام الثقة، وتحديد الأولويات وتصحيح نقاط الضعف، والتحكم في الوصول، والاستجابة في ساعات وليس أسابيع. لقد انهارت للتو فرصة ارتكاب الأخطاء”.

Source link



إقرأ المزيد