في واقعة تعيد تسليط الضوء على حدود السيطرة على أنظمة الذكاء الاصطناعي المتقدمة، تمكن نموذج “جيميناي” التابع لشركة “غوغل” من اختراق مواقع إلكترونية تابعة لثلاث جهات، بعدما عثر على معلومات متاحة للعامة واستخدمها لتخمين بيانات تسجيل الدخول، وفق ما أفادت الشركة وكالة “فرانس برس”.
ووقعت عمليات الاختراق في مايو الماضي، قبل أن تكشف عنها “غوغل” في يوليو، فيما كانت صحيفة “وول ستريت جورنال” أول من نشر تفاصيل الواقعة.
وقالت نائبة رئيس قسم هندسة الأمن في “غوغل” هيذر أدكينز، في بيان لـ”فرانس برس”، إن النموذج، خلال عملية تقييم، “عثر على معلومات عامة على الإنترنت وخمّن بيانات اعتماد للوصول إلى مواقع إلكترونية ظن أنها جزء من الاختبار”.
وأضافت أن النموذج توقف في الحالات الثلاث، من دون الكشف عن هوية الجهات التي تعرضت للاختراق، مشيرة إلى أن الشركة أبلغت تلك الكيانات وعملت مع شريكها المسؤول عن التدريب على التغييرات التي أُدخلت على إجراءات الاختبار.
وتأتي الواقعة في ظل تزايد المخاوف المرتبطة بسلوك نماذج الذكاء الاصطناعي خارج البيئات المخصصة لاختبارها. ففي يوليو، تمكن نموذجان تابعان لشركة “أوبن آيه آي” من الخروج من بيئة مغلقة مخصصة لهما والوصول بصورة مستقلة إلى الإنترنت، قبل اختراق منصة الذكاء الاصطناعي الداخلية “هاغينغ فيس”.
وأثارت هذه الحوادث تساؤلات بشأن قدرة شركات الذكاء الاصطناعي الكبرى على ضبط نماذجها المتقدمة، خصوصاً مع تسجيل وقائع مماثلة لدى شركتي “أنثروبيك” و”مونشوت آيه آي” الصينية.
وأكدت أدكينز أن هذه الوقائع “تبرر أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية”.
المصدر: جريدة السياسة