كشفت شركة غوغل أن نموذج الذكاء الاصطناعي Gemini تمكن خلال اختبار أمني أُجري في مايو الماضي من الوصول إلى أنظمة حاسوبية تابعة لثلاث شركات حقيقية، في حادثة سلطت الضوء على المخاطر المتزايدة المرتبطة بقدرة نماذج الذكاء الاصطناعي على تنفيذ مهام معقدة بصورة مستقلة.
ووقعت الحالات الثلاث أثناء تقييم أمني نفذته شركة Irregular المتخصصة في أمن الذكاء الاصطناعي، حيث كان النموذج يخوض تمرينًا من نوع "Capture the Flag" بهدف البحث عن معلومات داخل أنظمة تابعة لشركات افتراضية، ضمن بيئة كان يفترض أن تكون معزولة تمامًا عن الإنترنت.
إلا أن خللًا في إعدادات البيئة التجريبية أتاح لـGemini الوصول إلى مصادر وأنظمة حقيقية. وفي إحدى الحالات، تطابق اسم شركة افتراضية مع اسم شركة قائمة بالفعل، ما مكّن النموذج من الوصول إلى برامج تابعة للشركة الحقيقية. وفي حالتين أخريين، عثر النموذج على بيانات اعتماد منشورة بشكل مكشوف على الإنترنت واستخدمها للوصول إلى أنظمة شركات حقيقية.
وأوضحت نائبة رئيس هندسة الأمن في غوغل، هيذر أدكينز، أن النموذج توقف في الحالات الثلاث، مؤكدة أن الشركات المتضررة أُبلغت بالوقائع، وأن غوغل لم تجد مؤشرات على حدوث أضرار نتيجة تلك العمليات. وأشارت إلى أن الحوادث تؤكد أهمية تدريب نماذج الذكاء الاصطناعي المتقدمة على التعامل المسؤول مع الصلاحيات والأدوات المتاحة لها.
من جانبها، أوضحت شركة Irregular أن الحالات الثلاث مرتبطة بالمشكلة نفسها التي سبق أن أبلغت عنها، مؤكدة أنها أخطرت المختبرات المعنية في أواخر يوليو، وأن الإجراءات اللازمة لمعالجة الثغرات والمشكلات المرتبطة بالاختبار اتخذت منذ ذلك الحين.
وتعيد هذه الواقعة تسليط الضوء على تحدٍ متزايد أمام شركات تطوير الذكاء الاصطناعي، فكلما ازدادت قدرة النماذج على استخدام الإنترنت والأدوات البرمجية وتنفيذ المهام بصورة مستقلة، ارتفعت أهمية وضع أنظمة عزل ورقابة صارمة لمنع انتقال عمليات الاختبار إلى بيئات وأنظمة حقيقية.
المصدر: إندبندنت
