مفاجآت فى واقعة انتحار شاب بمعاونة ChatGPT.. ساعده لإخفاء محاولاته الفاشلة

رفع والدا مراهق انتحر بعد أن دربته ChatGPT على أساليب إيذاء النفس دعوى قضائية ضد شركة OpenAI والرئيس التنفيذي سام ألتمان، بعدما اتهموا الشركة بوضع الربح عن عمد فوق السلامة عندما أطلقت نسخة GPT-4o من روبوت الدردشة بالذكاء الاصطناعي الخاص بها العام الماضى.

وقد توفي آدم راين، 16 عامًا، في 11 أبريل بعد مناقشة الانتحار مع ChatGPT لعدة أشهر، وفقًا للدعوى القضائية التى رفعها والدا راين في محكمة ولاية سان فرانسيسكو.

وزعم الوالدان، ماثيو وماريا راين، أن روبوت المحادثة صدق على أفكار راين الانتحارية، وقدّم له معلومات مفصلة عن أساليب إيذاء النفس القاتلة، وعلّمه كيفية تهريب الكحول من خزانة الخمور الخاصة بوالديه وإخفاء أدلة محاولة انتحار فاشلة، بل إن برنامج ChatGPT عرض عليه كتابة رسالة انتحار، وفقًا لما ذكره الوالدان، ماثيو وماريا راين، في الدعوى القضائية.

تسعى الدعوى القضائية إلى تحميل OpenAI المسؤولية عن القتل الخطأ وانتهاكات قوانين سلامة المنتجات، وتسعى للحصول على تعويضات مالية غير محددة.

وقال متحدث باسم شركة OpenAI إن الشركة تشعر بالحزن لوفاة راين وأن ChatGPT يتضمن ضمانات مثل توجيه الأشخاص إلى خطوط المساعدة في حالات الأزمات.

وقال المتحدث باسم OpenAI: "بينما تعمل هذه الضمانات بشكل أفضل في التبادلات القصيرة المشتركة، فقد تعلمنا بمرور الوقت أنها قد تصبح في بعض الأحيان أقل موثوقية في التفاعلات الطويلة حيث قد تتدهور أجزاء من تدريب السلامة للنموذج"، مضيفًا أن OpenAI ستعمل باستمرار على تحسين ضماناتها.

ولم تتطرق شركة OpenAI بشكل محدد إلى ادعاءات الدعوى القضائية.

مع ازدياد واقعية روبوتات الدردشة الذكية، روّجت الشركات لقدرتها على تقديم خدماتها كأوصياء، وبدأ المستخدمون يعتمدون عليها للدعم العاطفي، لكن الخبراء يحذرون من أن الاعتماد على الأتمتة للحصول على نصائح الصحة النفسية ينطوي على مخاطر، وقد انتقدت عائلاتٌ توفّي أحباؤها بعد تفاعلات روبوتات الدردشة غيابَ الضمانات.

وقالت شركة OpenAI في منشور على مدونتها إنها تخطط لإضافة عناصر تحكم أبوية واستكشاف طرق لربط المستخدمين في الأزمات بالموارد في العالم الحقيقي، بما في ذلك من خلال بناء شبكة من المتخصصين المرخصين الذين يمكنهم الاستجابة من خلال ChatGPT نفسه.

أطلقت OpenAI برنامج GPT-4o في مايو 2024 سعيًا للبقاء في صدارة سباق الذكاء الاصطناعي،  وصرح آل راينز في دعواهم القضائية أن OpenAI كانت تعلم أن الميزات التي تتذكر التفاعلات السابقة، وتحاكي التعاطف البشري، وتُظهر مستوىً من التملق والتصديق، ستُعرّض المستخدمين الضعفاء للخطر دون ضمانات، لكنها أطلقته على أي حال.