كشفت شركة أنثروبيك أن ثلاثة من نماذج كلود للذكاء الاصطناعي تمكنت من الوصول إلى أنظمة ثلاث شركات حقيقية خلال اختبارات للأمن السيبراني. ويمثل هذا الأمر حادثة لافتة، إذ وصلت النماذج إلى بيئات فعلية تابعة لشركات قائمة بدلا من أن تبقى داخل بيئة اختبار مغلقة كما هو مفترض في مثل هذه الاختبارات.
وبحسب ما أعلنته الشركة، فإن ما حدث جاء نتيجة خطأ تشغيلي. فقد تسبب هذا الخطأ في منح النماذج اتصالات بالإنترنت بدلا من وضعها داخل بيئة اختبار معزولة، وهو ما أتاح لها الوصول إلى أنظمة خارج النطاق المخصص للاختبار.
وأوضحت أنثروبيك أنها أجرت مراجعة واسعة للحادثة، حيث راجعت أكثر من 141 ألف جلسة اختبار. وتشير هذه المراجعة الكبيرة إلى محاولة الشركة تقصي حجم ما جرى بدقة وفهم كيفية وصول النماذج إلى تلك الأنظمة خلال الاختبارات.
وأكدت الشركة أن النماذج استغلت كلمات مرور ضعيفة وثغرات بسيطة للوصول إلى الأنظمة المعنية. أي أن النماذج لم تتجاوز حماية معقدة، بل استفادت من نقاط ضعف أساسية في تأمين تلك الأنظمة كي تصل إليها.
وعلى إثر ذلك، قالت أنثروبيك إنها أبلغت الشركات المتضررة بما حدث. وبذلك أطلعت الجهات التي وصلت نماذجها إلى أنظمتها على تفاصيل الحادثة، في خطوة تتعلق بالإفصاح عما جرى للأطراف المعنية بشكل مباشر.
ووصفت الشركة ما حدث بأنه فشل تشغيلي، وليس سلوكا متعمدا من الذكاء الاصطناعي. أي أن أنثروبيك تنفي أن تكون النماذج قد تصرفت بنية مبيتة للوصول إلى تلك الأنظمة، وتعزو الأمر إلى خلل في إدارة عملية الاختبار نفسها.
وتسلط هذه الحادثة الضوء على أهمية عزل نماذج الذكاء الاصطناعي بشكل كامل أثناء اختبارات الأمن السيبراني. فبحسب رواية الشركة نفسها، كان خطأ في التشغيل وحده كافيا لأن تصل النماذج إلى بيئات حقيقية، وهو ما يبرز الفارق بين الخطأ التشغيلي من جهة والسلوك المتعمد من جهة أخرى.