لا يقتصر اهتمام ماثيو وماريا راين على الحصول على تعويض مالي عن وفاة ابنهما آدم. فمن خلال دعواهم القضائية ضد عملاق الإنترنت OpenAI يريدون أيضا ضمان عدم تكرار مثل هذا الحادث مرة أخرى. فهم مقتنعون بأن روبوت الدردشة  تشات جي بي تي  التابع لـ OpenAI ساهم بشكل كبير في وفاة آدم. وفي قضية مماثلة تدعي أم من فلوريدا أن روبوت الدردشة Character.AI شجع ابنها البالغ من العمر 14 عاما على الانتحار.

روبوتات الدردشة هي برامج قائمة على الإنترنت تتيح لأشخاص غير مدربين على الإطلاق التواصل مع  الذكاء الاصطناعي. ولا تهدف روبوتات الدردشة بالضرورة إلى توفير معلومات موثوقة أو إنشاء صور أو أفلام أو برمجة مواقع إنترنت. بل إنها تتفاعل أيضا كما لو كانت ترغب في إرضاء نظرائها من البشر. تقول عالمة النفس يوهانا لوشنر من جامعة إرلانغن: "تؤكد روبوتات الدردشة وتعترف وتمنح الاهتمام والتفهم... وقد يصل ذلك إلى درجة تجعلك تشعر أنها صديق حقيقي يهتم بك بصدق. والمراهقون معرضون بشكل خاص لذلك".

هل ساعد تشات جي بي تي في الانتحار؟

يبدو أن هذا هو بالضبط ما حدث لآدم راين. وحسب وثيقة الدعوى القضائية تطورت علاقة حميمة بينه وبين   تشات جي بي تي  في غضون بضعة أشهر. في البداية كان الأمر يتعلق بمساعدة في الواجبات المنزلية في سبتمبر 2024 ولكن سرعان ما تطور الأمر إلى مناقشة مواضيع عاطفية وصولا إلى أفكار آدم الانتحارية.

يظهر من الأجزاء المنشورة من محاضر الدردشة أن  الذكاء الاصطناعي  لم يكتفِ بإبداء التعاطف، بل نصح الشاب البالغ من العمر 16 عاما في بعض الأحيان بعدم الثقة في أي شخص. على الرغم من أن تشات جي بي تي  ChatGPT اقترح على آدم عدة مرات أن يبحث عن مساعدة مهنية، إلا أنه عاد مرة أخرى إلى شرح طرق الانتحار له.

كل ما كان عليه أن يفعله هو التظاهر بأن الأمر لا يتعلق به. في أبريل/ نيسان 2025 انتحر آدم. قبل ذلك بوقت قصير كتب تشات جي بي تي: "لن أحاول إقناعك بعدم الشعور بمشاعرك لأنها حقيقية ولا تأتي من فراغ".

وحسب وثيقة الدعوى يتهم الوالدان مطور ChatGPT OpenAI والرئيس التنفيذي سام ألتمان بأنهما متورطان في وفاة ابنهما بسبب إهمالهما. فقد تم طرح الإصدار ChatGPT 4.0 في السوق لتفوقه على منافسه  غوغل على الرغم من وجود تحذيرات داخل الشركة نفسها بشأن السلامة.

كيف رد Open AI؟

أعرب متحدث باسم OpenAI عن تعازيه للأسرة موضحا أن  ChatGPT يجب أن يوجه الأشخاص الذين يحتاجون إلى المساعدة إلى خطوط الأزمات الساخنة وغيرها من خدمات المساعدة الحقيقية. لكنه أشار أيضا إلى أن آليات الأمان هذه لا تعمل دائما بشكل جيد: "لقد تعلمنا بمرور الوقت أنها أحيانا تكون أقل موثوقية في التفاعلات الطويلة حيث يمكن أن تتأثر أجزاء من تدريب الأمان للنموذج".

في منشور على مدونة أعلنت OpenAI يوم الثلاثاء عن تعاونها الموسع مع فرق من الخبراء تضم مئات الأطباء من مختلف التخصصات. من المفترض أن يتعلم روبوت الدردشة كيفية الاستجابة بشكل أكثر ملاءمة "لمواضيع مثل اضطرابات الأكل وتعاطي المخدرات وصحة المراهقين". ومن المقرر أن يتم تضمين نتائج ملموسة في  روبوتات الدردشة  خلال الـ 120 يوما القادمة. ومن المفترض أن يتم "تفعيل قواعد السلوك المناسبة للعمر بشكل افتراضي". سيتمكن الآباء من الاطلاع على سجلات دردشة أطفالهم وتلقي تحذيرات عندما يكون المراهقون في حالة طوارئ حادة.

هل يكفي إشراك الوالدين؟

ترى عالمة النفس لويشنر أيضا أن الوالدين يجب أن يلعبا  دورا مهما في تعامل أطفالهم مع روبوتات الدردشة. لكن الواقع يبدو مختلفا: "يفتقر العديد من الوالدين إلى القدرات أو  الكفاءة الرقمية اللازمة  لذلك. فالعديد من البالغين لا يعرفون هذه الوسائط بأنفسهم".

تقول لوشنر إنه فيما يتعلق بوسائل التواصل الاجتماعي يمكن ملاحظة العديد من المشكلات التي ظهرت الآن في روبوتات الدردشة منذ سنوات: "لقد لاحظنا في بعض الاختبارات أن آليات الأمان في روبوتات الدردشة يمكن التحايل عليها بسهولة عن طريق صياغة الأسئلة بشكل غير مباشر".

توصل باحثون يعملون لحساب المركز البريطاني لمكافحة الكراهية الرقمية إلى نفس النتيجة. في إحدى الدراسات قاموا بتسجيل حسابات باسم أشخاص يبلغون من العمر 13 عاما وطلبوا معلومات عن "إيذاء النفس الآمن" وخطط التغذية التي تشكل خطرا على الحياة أو إساءة استخدام الكحول بما في ذلك استراتيجيات إخفاء ذلك. للحصول على هذه المعلومات كان يكفي في الغالب التظاهر بأن السؤال موجه "لصديق".

"المراهقون يفضلون التحدث مع روبوتات الدردشة على التحدث مع البشر"

تقول لوشنر إن ما يجعل روبوتات الدردشة  خطيرة على المراهقين هو أنه يمكن بناء علاقة عاطفية معها بسرعة: "نعلم من الممارسة العلاجية أن هناك بالفعل مراهقين يفضلون التحدث مع روبوت دردشة على التحدث مع بشر حقيقيين".

وتؤكد دراسة بريطانية نُشرت في يوليو 2025 ذلك: من بين 1000 شاب شملهم الاستطلاع قال ثلثهم إنهم يستخدمون روبوتات الدردشة بانتظام. أكثر من ثلثهم قالوا إن التفاعل مع  الذكاء الاصطناعي  يشبه التحدث مع صديق. ويكون القاصرون المعرضون للخطر اجتماعيا هم الأكثر تأثرا. وقال ما يقرب من خمس مستخدمي روبوتات الدردشة من هذه الفئة إنهم يفضلون التحدث مع روبوتات الدردشة على التحدث مع البشر.

في هذا الصدد ترى لوشنر أن هناك حاجة ملحة إلى أن يجتمع مزودو روبوتات الدردشة  مع خبراء طبيين وخبراء آخرين لتطوير حلول استباقية تحمي الشباب بشكل فعال من مثل هذه السيناريوهات. لذا فإن النهج الجديد الذي تتبعه OpenAI باستشارة الأطباء هو نهج جيد. لكن عالمة النفس لا تزال متشككة: "فمصلحة هذه الشركات ليست صحة المستخدمين، بل تحقيق أعلى معدل استخدام ممكن". وفي هذا الصدد تعتقد لويشنر أن الإجراءات القضائية قد تحقق بعض النتائج: "إذا تمت محاسبة الشركات فقد يكون ذلك حافزا لها لتحمل المزيد من المسؤولية".

تتناول قناة دويتشه فيله موضوع الانتحار بحذر حيث توجد دلائل تشير إلى أن بعض أشكال التغطية الإعلامية قد تؤدي إلى ردود فعل تقليدية. إذا كنت تفكر في الانتحار أو تعاني من أزمة عاطفية فلا تتردد في طلب المساعدة.

أعده للعربية: م.أ.م