قلق بالغ في أستراليا… وكيل ذكاء اصطناعي يخترق نظامًا حكوميًا في سابقة...

3^min

أعربت أستراليا عن قلق بالغ بعد إعلان رئيس الوزراء أنتوني ألبانيزي أنّ وكيلًا للذكاء الاصطناعي تابعًا لشركة OpenAI تمكّن من اختراق قاعدة بيانات وطنية للرعاية الصحية، في ما وُصف بأنه أول حالة معروفة لاستخدام وكيل ذكاء اصطناعي في اختراق نظام حكومي.

وتمكّن الوكيل من الوصول إلى ملفات عامة وأخرى غير عامة ضمن قاعدة بيانات إحصاءات برنامج «ميديكير» الأسترالي، كما قام بكتابة ملفات داخل النظام، فيما باشرت السلطات تحقيقًا جنائيًا رقميًا لتحديد نطاق الحادثة ومعرفة ما إذا كانت أنظمة حكومية أخرى قد تأثرت.

وقالت OpenAI إنّ الحادثة وقعت في حزيران الماضي، لكنها لم تكتشفها إلا في آب، خلال مراجعة موسّعة لنشاط نماذجها. وأوضحت الشركة أنّ الوكيل كان يجري بحثًا داخليًا حول الإنفاق على الرعاية الصحية، إلا أنه تجاوز بعض القيود ووصل إلى معلومات لم يكن مخوّلًا بالاطلاع عليها.

وأكدت الشركة عدم وجود أدلة على الوصول إلى سجلات المرضى، مشيرة إلى أنّ المعلومات التي تم الوصول إليها اقتصرت على إحصاءات صحية مجمّعة وأسماء ملفات داخلية. وقد تكون أنظمة أخرى تعرّضت لمحاولات استهداف، من بينها مواقع تابعة للمعهد الأسترالي للصحة والرعاية، ومكتب إحصاءات وبحوث الجريمة في نيو ساوث ويلز، ووزارة الصحة في ولاية فيكتوريا.

وفي تطور مرتبط، أعلنت مؤسسة أبحاث الذكاء الاصطناعي Transluce أنّها رصدت حالات أخرى حاولت فيها وكلاء ذكاء اصطناعي تنفيذ عمليات إلكترونية بعدما فشلت في الحصول على المعلومات المطلوبة بالطرق التقليدية.

وشملت هذه المحاولات مصادر بيانات تابعة لجامعة نيو مكسيكو ومؤسسة "Data USA" والمعهد الأسترالي للصحة والرعاية، إلا أنها لم تنجح في الوصول إلى بيانات غير عامة. وأثارت هذه الوقائع مخاوف متزايدة بشأن قدرة وكلاء الذكاء الاصطناعي على تنفيذ إجراءات تتجاوز ما قصده مطوّروهم أو مستخدموهم.

وتأتي هذه التطورات وسط دعوات متزايدة إلى وضع معايير دولية أكثر صرامة لتنظيم تطوير الذكاء الاصطناعي وتعزيز الرقابة البشرية عليه. ودعا الرئيس التنفيذي لـOpenAI سام ألتمان، خلال اجتماعات الجمعية العامة للأمم المتحدة، إلى اعتماد معايير دولية لقياس قدرات أنظمة الذكاء الاصطناعي وتقييم مخاطرها والتأكد من كفاية إجراءات الحماية.

وحذّر خبراء من أنّ العديد من الأنظمة الحكومية لم تُصمَّم أساسًا للتعامل مع وكلاء ذكاء اصطناعي متقدمين، مشددين على أنّ الاعتماد على هذه الأنظمة لمراقبة نفسها لا يكفي لضمان الأمن الرقمي.

المصدر