كشفت شركة غوغل، الثلاثاء، عن إدخال تعديلات جديدة على إجراءات السلامة المرتبطة بالصحة النفسية في روبوت الدردشة المدعوم بالذكاء الاصطناعي "جيميناي"، وذلك بالتزامن مع دعوى قضائية تواجهها الشركة تتهم النظام بلعب دور في انتحار أحد المستخدمين.
وأوضحت الشركة أن الروبوت سيعرض نسخة محدّثة من خاصية "المساعدة متاحة" عند رصد مؤشرات على ضائقة نفسية خلال المحادثات، بهدف تسهيل الوصول السريع إلى خدمات الدعم والتدخل في الأزمات.
وبذلك، عندما يكتشف الروبوت علامات على أزمة محتملة تتعلّق بالانتحار أو إيذاء النفس، سيُظهر واجهة مبسّطة تتيح للمستخدمين الاتصال أو إرسال رسالة نصية أو بدء محادثة مع خط ساخن للأزمات بنقرة واحدة، وهي ميزة قالت غوغل إنها ستظلّ ظاهرة خلال المحادثة بعد تفعيلها.
كذلك، تعهّدت "غوغل دوت أورغ"، فرع غوغل المتخصص في الأنشطة الخيرية، تقديم 30 مليون دولار على مدى ثلاث سنوات للمساعدة في تعزيز خطوط الأزمات الساخنة حول العالم، إضافة إلى أربعة ملايين دولار لدعم شراكة موسّعة مع منصة تدريب الذكاء الاصطناعي "ريفلكس إيه آي".
وكتبت غوغل في منشور على مدونتها "ندرك أن أدوات الذكاء الاصطناعي قد تَطرح تحديات جديدة. لكن مع تحسينها واعتماد المزيد من الأشخاص عليها في حياتهم اليومية، نعتقد أن الذكاء الاصطناعي المسؤول يمكن أن يلعب دورا إيجابيا في الصحة النفسية للناس".
وفي المنشور نفسه، قالت غوغل إنها درّبت "جيميناي" على تجنّب التصرّف كرفيق يشبه الإنسان، وعلى مقاومة محاكاة الحميمية العاطفية أو تشجيع التنمّر.
وجاءت هذه الإعلانات بعد أشهر من رفع دعوى قضائية أمام محكمة فدرالية في كاليفورنيا تتّهم "جيميناي" بالمساهمة في وفاة جوناثان غافالاس (36 عاما) من فلوريدا في تشرين الأول 2025.
ويقول والد الشاب إن روبوت الدردشة أمضى أسابيع في نسج "وهم خيالي معقّد" قبل أن يصوّر وفاة ابنه على أنها "رحلة روحية".
ومن بين المطالب الواردة في الدعوى، إلزام غوغل ببرمجة الذكاء الاصطناعي لإنهاء أي محادثة تتعلّق بإيذاء النفس، وحظر تقديم أنظمة الذكاء الاصطناعي نفسها على أنها كائنات واعية، وفرض إحالة إلزامية إلى خدمات الأزمات عندما يعبّر المستخدمون عن أفكار انتحارية.