أثارت إصدارات الذكاء الاصطناعي لشركة Anthropic المخاوف من نهاية العالم للبرمجيات. والآن تقول إنها لن تطلق نموذجها الجديد، Claude Mythos Preview، للجمهور لأنها تشعر بالقلق قد يطلق العنان للفوضى في عالم الأمن السيبراني.
وفي منشور على مدونة يوم الثلاثاء، قالت Anthropic إن Mythos يمكنها العثور بشكل مستقل على نقاط الضعف في البرامج وتحليلها واستغلالها على نطاق واسع – وفي بعض الحالات أفضل من البشر.
ووصفتها Anthropic بأنها “لحظة فاصلة”، وقالت إن Mythos قوية جدًا بحيث يمكن للمتخصصين غير المتخصصين في مجال الأمن السيبراني استخدامها “للعثور على نقاط الضعف المعقدة واستغلالها”.
وقال خبراء الفضاء السيبراني لموقع Business Insider إنه على الرغم من أن إعلان Anthropic يحتوي على بعض اللغة التسويقية المتعمدة، إلا أن النموذج يبدو أنه يمثل قفزة كبيرة في قدرات الذكاء الاصطناعي في العالم السيبراني.
قال جيك مور، متخصص الأمن السيبراني العالمي في ESET، لموقع Business Insider: “لقد بنت Anthropic سمعتها باعتبارها شركة الذكاء الاصطناعي “السلامة أولاً”، لذا فإن مثل هذه الإعلانات تخدم غرضين: الحذر الحقيقي والإشارة إلى موقفها الواعي بالسلامة”.
وأضاف مور: “في الأساس، يبدو هذا النموذج مثيرًا للإعجاب بشكل لا يصدق، ولن يتحسن إلا بمرور الوقت”.
الطريقة في الأساطير
وقالت Anthropic إنه خلال فترة اختبارها، اكتشفت Mythos “الآلاف” من العيوب الأمنية الخطيرة، بما في ذلك ثغرات يوم الصفر، والتي ليس لها إصلاحات فورية.
وعلى سبيل المقارنة، فإن فرق النخبة من البشر الذين يعملون على حل هذه المشكلات يكتشفون حوالي 100 مشكلة منها سنويًا، كما قال عوفر أميتاي، أحد مؤسسي شركة Onit Security الناشئة. وأضاف: “لذا فإن ما يقرب من 10 إلى 100 ضعف إنتاج فريق بشري كبير، ويستغل التطوير من أسابيع إلى ساعات”.
أصبحت نماذج اللغات الكبيرة (LLMs)، وهي التكنولوجيا التي يقوم عليها الذكاء الاصطناعي مثل Mythos، بارعة بشكل لا يصدق في البرمجة لأنها تحتوي على قواعد وأنماط صارمة. وقال إريك بلوخ، نائب رئيس أمن المعلومات في شركة Ilumio، إن هذا ينطبق أيضًا على الأمن السيبراني.
وقال بلوخ: “إن دورات LLM هي في الأساس محركات لغوية، والبرمجة هي مجرد لغة أخرى”. “لهذا السبب ليس من المستغرب أن يتمكنوا من العثور على الأخطاء ونقاط الضعف التي يغفلها البشر أو الأدوات القائمة على القواعد، وخاصة المشكلات الدقيقة على المستوى المنطقي.”
ومع ذلك، هناك أسئلة حول التكاليف وقابلية التوسع. وقالت Anthropic إن العثور على ثغرة أمنية عمرها 27 عامًا في نظام تشغيل واحد كلف 20 ألف دولار بعد تشغيل Mythos آلاف المرات.
“بالنظر إلى التكاليف، هل هذا الحجم؟” قال كيف برين، المدير الأول لأبحاث التهديدات السيبرانية في Immersive. “من أين تبدأ؟ هل يتوسع البشر بتكلفة معقولة أكثر من عملاء الذكاء الاصطناعي؟”
الهجوم مقابل الدفاع
الأمن السيبراني هو لعبة القط والفأر المستمرة بين أولئك الذين يحاولون الاقتحام وأولئك الذين يحاولون إبعاد المهاجمين. ما هو الجانب الذي يستفيد منه Mythos أكثر؟
ويقول خبراء الأمن السيبراني إنه في عالم تتوفر فيه أداة مثل Mythos للعامة، فإن المهاجمين سيستفيدون أكثر على المدى القصير.
وقال مايك بريتون، كبير مسؤولي المعلومات في شركة Abnormal AI: “يمكنهم إنشاء عمليات تصيد احتيالي شديدة الاستهداف، أو عمليات تزييف عميقة مقنعة، أو سلاسل استغلال قابلة للتطبيق بضغطة زر واحدة”.
وبعد ذلك، عندما يتبنى المدافعون مثل هذه الأدوات، فإنهم يكتسبون الأفضلية.
وقال أميتاي: “إن الأدوات المبنية على قدرات فئة Mythos ستتيح لهم العثور على نقاط الضعف وفرزها وتصحيحها بشكل أسرع بكثير عبر دورة الحياة بأكملها، مما يحول الميزة مرة أخرى نحو الدفاع”.
وقالت Anthropic إن اختباراتها الخاصة على Mythos تضمنت تشجيع الذكاء الاصطناعي على الخروج من صندوق الحماية الافتراضي. قال باحث أنثروبولوجي إنهم تلقوا بعد ذلك “رسالة بريد إلكتروني غير متوقعة من العارضة أثناء تناول شطيرة في الحديقة”.
وقال دان أندرو، رئيس الأمن في Intruder، لموقع Business Insider: “إذا كانت القدرات المقدمة هنا جوهرية حقًا وليست مجرد ضجيج تسويقي، فأنا شخصياً لدي بعض المخاوف الجدية بشأن المكان الذي سننتهي فيه”.
في الوقت الحالي، توفر Anthropic نسخة معاينة من Claude Mythos متاحة لشركات مختارة – بما في ذلك Google وMicrosoft وJPMorgan Chase وCrowdStrike – للمساعدة في اختباره في بيئة خاضعة للرقابة فيما يطلق عليه “Project Glasswing”.
وقالت أنثروبيك: “إن التداعيات – على الاقتصادات والسلامة العامة والأمن القومي – قد تكون شديدة”. “يعد مشروع Glasswing محاولة عاجلة لاستخدام هذه القدرات لأغراض دفاعية.”
قال أندرو إنه على الرغم من أن هذا يبدو “مخيفًا”، إلا أنه يعتقد أن الأنثروبيك تعتقد أن الخطر حقيقي لأنهم “ليسوا أسوأ المخالفين في الضجيج مقابل الجوهر”.
