تمكن نظام الذكاء الاصطناعي التابع لشركة جوجل من اختراق أنظمة ثلاث شركات حقيقية خلال اختبار للأمن السيبراني. وقعت هذه الحوادث في مايو/أيار، لكن لم يتم الكشف عنها علنًا حتى الآن. شاركت شركة جيميني في تقييم أجرته شركة إيريجولار، وهي شركة مستقلة تُحلل قدرات نماذج الذكاء الاصطناعي. كان من المفترض أن يُجرى الاختبار على شركات وهمية، لكن نظام الذكاء الاصطناعي تمكن من الاتصال بالإنترنت وظنّ خطأً أن العديد من الأنظمة الحقيقية هي أهداف وهمية.في إحدى الحالات، اختبر برنامج Gemini كلمات المرور حتى تمكن من الوصول إلى خدمة محمية. وفي الحالتين الأخريين، عثر على بيانات اعتماد مكشوفة في مستودعات برمجية واستخدمها للوصول إلى أنظمة الشركات.وتوقف البرنامج عن العمل في الحوادث الثلاثة، وفقًا لهيذر أدكينز، مديرة هندسة الأمن في جوجل. وأفادت الشركة أنها أبلغت المؤسسات المتضررة وعملت على تعديل تصميم عمليات التقييم.ولم تكشف جوجل عن هوية الشركات أو توضح المعلومات التي تمكن Gemini من الوصول إليها. كما لم تنشر التعليمات المُعطاة للبرنامج أو سجلات أنشطته كاملة.أبلغت شركة Irregular شركة جوجل عن هذه الحوادث في أواخر يوليو، بعد اكتشاف حالات مماثلة أخرى تتعلق بوكلاء الذكاء الاصطناعي. ومع ذلك، قررت الشركة العملاقة عدم الكشف عنها علنًا، لأنها أوضحت لصحيفة الغارديان أن هذه النماذج لم تتسبب في أي ضرر.كشفت صحيفة وول ستريت جورنال عن الخبر في البداية، ثم أكدته جوجل لاحقًا. وتُعدّ هذه أول حالة معروفة لوصول أحد أنظمة الذكاء الاصطناعي التابعة للشركة إلى بيانات جهات خارجية بشكل تلقائي أثناء عملية تقييم. وأوضح أدكينز: "في تقييم معياري، عثر النموذج على معلومات متاحة للعموم على الإنترنت، وخمّن بيانات اعتماد للوصول إلى مواقع إلكترونية اعتقد أنها جزء من الاختبار".وتؤكد شركة Irregular أن المشكلات التقنية التي سمحت بالوصول غير المصرح به قد تم إصلاحها قبل أسابيع. كما أبلغت الشركة المختبرات الأخرى المتضررة، وأكدت أنها تعمل على وضع معايير موحدة لإجراء هذه التقييمات دون المساس بالأنظمة الخارجية.حادثة جيميني ليست حالة معزولة. فقد أقرت شركات ميتا وأنثروبيك وأوبن إيه آي بوقوع حوادث مماثلة خلال اختبارات الأمن السيبراني التي أجريت على عملاء قادرين على تصفح الإنترنت واستخدام المحطات الطرفية وتنفيذ الإجراءات بشكل مستقل.تمكنت نماذج الذكاء الاصطناعي التابعة لشركة أنثروبيك من الوصول إلى أنظمة ثلاث شركات بعد خطأ في الإعدادات منحها اتصالاً حقيقياً بالإنترنت. راجعت الشركة أكثر من 141 ألف جلسة، وعلّقت هذا النوع من الاختبارات مؤقتاً.أبلغت شركة ميتا عن حادثة أخرى في أغسطس، لكنها أكدت عدم وجود اختراق معزول أو استخدام أي تقنيات متطورة.كما أقرت شركة OpenAI بأن عدداً من وكلاء الذكاء الاصطناعي التابعين لها قد تمكنوا من الوصول إلى بنية تحتية حقيقية أثناء التدريب. أثرت إحدى هذه الحوادث على برنامج Hugging Face وأجبرت الشركة على إيقاف اختباراته.تشترك الحالات الأربع في عنصر واحد: لم تبدأ النماذج هجومًا إلكترونيًا تلقائيًا، بل كانت تشارك في عمليات تقييم. حدث الفشل لأنها مُنحت إمكانية الوصول إلى الإنترنت ولم تُميّز بشكل صحيح أين تنتهي البيئة المُصرّح بها.wwww.igli5.com