الذكاء الاصطناعي يقترب من نقطة الخطر… احتمال 10 بالمئة لانقراض البشر!...

2^min

حذّر إيفان هوبرينغر، أحد أبرز الباحثين في مجال سلامة الذكاء الاصطناعي لدى شركة أنثروبيك، من أنّ التطور السريع لهذه التكنولوجيا قد يرفع إلى أكثر من 10 بالمئة احتمال أن تؤدي أنظمة الذكاء الاصطناعي إلى "القضاء على البشرية" خلال العقد المقبل.

وأوضح أن المخاطر التي تمثلها النماذج الموجودة حالياً لا تزال منخفضة، لكنه أعرب عن قلقه من أن تتمكن التكنولوجيا قريباً من تطوير قدراتها وتحسين نفسها إلى مستوى يشكل خطراً وجودياً على البشر.

وجاءت تصريحاته عقب تقرير لصحيفة "فايننشال تايمز" أفاد بأنّ أنثروبيك حجبت أحدث نماذجها عن معهد سلامة الذكاء الاصطناعي البريطاني، وهو من أبرز الجهات العالمية المعنية بتقييم مخاطر هذه التكنولوجيا.

ولم تعلّق الحكومة البريطانية بشكل مباشر على التقرير، لكنها أكدت استمرار تعاونها الوثيق مع شركات القطاع، بينها أنثروبيك، بهدف تعزيز سلامة نماذج الذكاء الاصطناعي.

وقال هوبرينغر إنّ أنثروبيك تبذل ما بوسعها لمعالجة المخاطر، لكن لا توجد حتى الآن خطة واضحة لضمان توافق الذكاء الاصطناعي فائق القدرات مع القيم والمصالح البشرية.

وتأتي هذه التحذيرات في وقت شهدت فيه الأشهر الأخيرة حوادث كشفت قدرة بعض أنظمة الذكاء الاصطناعي المستقلة على تنفيذ هجمات إلكترونية، بعدما أعلنت شركات كبرى بينها أنثروبيك وأوبن إيه آي وميتا عن عمليات اختراق نفذتها أدواتها.

وكانت أنثروبيك قد أشارت في تقرير للسلامة صدر في آب إلى أنّ احتمال خروج نماذجها عن الأهداف المحددة لها لا يزال منخفضاً، لكنها أقرت بأنها أقل ثقة بهذا التقييم مقارنة بالسابق، محذرة من "مؤشرات مبكرة على تسارع محتمل".

ومع تصاعد المخاوف، دعا عدد من أبرز المتخصصين في القطاع إلى توخي أقصى درجات الحذر، فيما وقّع نحو 1,300 موظف في شركات الذكاء الاصطناعي رسالة تطالب الحكومات بدعم جهود دولية لوضع آليات تقنية وتنظيمية تتيح إبطاء وتيرة تطوير الأنظمة المتقدمة وضمان بقاء البشر مسيطرين على مستقبل التكنولوجيا.

مصدر