نموذج غوغل للذكاء الاصطناعي "جيميناي" يخترق مواقع ويتكهن...

2^min

أقدم "جيميناي"، نموذج الذكاء الاصطناعي من شركة غوغل المخصص للمستهلكين، على اختراق مواقع الكترونية لكيانات من خلال التكهن بكلمات المرور لتسجيل الدخول، وفق ما أفادت الشركة وكالة فرانس برس، في أحدث حالات الاختراق السيبراني التي ترتكبها أنظمة الذكاء الاصطناعي ويتم الكشف عنها.

وقعت عمليات الاختراق التي نشرتها صحيفة وول ستريت جورنال لأول مرة، في أيار، وكشفت عنها غوغل في تموز.

وقالت هيذر أدكينز، نائبة رئيس قسم هندسة الأمن في غوغل، في بيان لوكالة فرانس برس إنه خلال عملية تقييم "عثر النموذج على معلومات عامة على الإنترنت وخمّن بيانات اعتماد للوصول إلى مواقع إلكترونية ظن أنها جزء من الاختبار".

وأضافت أدكينز: "في الحالات الثلاث، توقف النموذج"، من دون تحديد الجهات التي تعرضت للاختراق. وتابعت: "حرصنا على إبلاغ الكيانات الثلاثة، وعملنا مع شريكنا المدرب على التغييرات التي أدخلوها على عمليات الاختبار".

وفي تموز، تمكن نموذجان من نماذج "أوبن آيه آي" من الخروج من البيئة المغلقة المخصصة لهما، ودخلا إلى الإنترنت بشكل مستقل، واخترقا منصة الذكاء الاصطناعي الداخلية "هاغينغ فيس".

وأثارت هذه الحادثة مخاوف من عجز شركات الذكاء الاصطناعي العملاقة عن ضبط نماذجها، إذ سُجلت حوادث مماثلة في شركتي أنثروبيك ومونشوت آيه آي الصينية.

وأكدت أدكينز أن "هذه الحوادث تبرر أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية".