ألقت السلطات البرازيلية القبض على مزارع يبلغ من العمر 36 عاماً بعد أن أبلغت شركة "OpenAI" ومكتب التحقيقات الفيدرالي الأميركي عن محادثات مرعبة أجراها مع روبوت "ChatGPT" على مدار شهرين، كشفت عن مخطّطات لإيذاء ابنه البالغ من العمر 8 سنوات، واستهداف آخرين، ثمّ إنهاء حياته.
وتشير التحقيقات إلى أنّ الاستياء من دفع نفقة الطفل كان الدافع المرجّح للمخطّط، حيث اقتصر تواصل الأب مع ابنه على الالتزامات المالية فقط. ونوقش خلال المحادثات سيناريوهات شملت قتل الابن، وشنّ هجمات على مدارس وكنائس، واستهداف تجّار مخدّرات وضبّاط شرطة لافتعال مواجهة مسلّحة تنهي حياته.
كما بحث المشتبه به عن مواد شديدة السمّ مثل "الريسين"، وادّعى عرضه مبلغ 50 ألف ريال على مأجورين، مستخدماً أساليب إعادة صياغة الأسئلة للتحايل على قيود الأمان في المنصة. وأسفرت عملية تفتيش منزله عن ضبط أربع زجاجات تحتوي على مواد مشبوهة تخضع للفحص الجنائي، وحبل معقود يشير لنوايا انتحارية، إضافة إلى مصادرة هاتفه المحمول لمعرفة ما إذا اتخذ خطوات تنفيذية ملموسة.
وجاء تحرك الشرطة السريع قبل موعد التنفيذ المفترض لإنقاذ الطفل، إلا أنه أُطلق سراح المشتبه به لاحقاً تحت المراقبة الإلكترونية والتدابير الاحترازية دون توجيه تهم رسمية حتى الآن، نظراً لأنّ القانون البرازيلي لا يعاقب عادةً على الأفعال التحضيرية المجرّدة ما لم تدخل حيّز التنفيذ الفعلي، وهو ما استند عليه محامي الدفاع مؤكّداً أن موكّله كان مجرّد "يتفوه بترهات ويتحدّث عن خيالات" دون ارتكاب أي جرم.
وتثير هذه الحادثة إشكالات قانونية وأخلاقية معقّدة حول الحدود الفاصلة بين المراقبة وحماية المجتمع، حيث قدّمت "OpenAI" رسائل المستخدم للشرطة دون تسليم ردود "ChatGPT"، ممّا اعتبره خبراء قانونيون نقصاً يخل بسياق المحادثة الكاملة.
كما يحذّر مختصون في القانون الرقمي من التوسّع في التحقيقات بناءً على تقييمات الخوارزميات، داعين لإرساء قواعد واضحة تضمن التدخل فقط في حالات التهديد المباشر والملموس دون السقوط في فخ المراقبة المفرطة للمستخدمين.