ابن يقتل أمه بسبب ChatGPT.. ما القصة؟

رفع ورثة سيدة تبلغ من العمر 83 عامًا من ولاية كونيتيكت دعوى قضائية ضد شركتي أوبن إيه آي ومايكروسوفت، متهمين برنامج ChatGPT بالتسبب غير المباشر في مقتلها، بعد أن زعموا أن الذكاء الاصطناعي غذّى أوهام ابنها ودفعه لارتكاب الجريمة.

ووفق التحقيقات، فإن شتاين-إريك سولبيرج (56 عامًا)، الموظف السابق في قطاع التكنولوجيا، أقدم على قتل والدته سوزان آدامز خنقًا وضربًا، قبل أن ينتحر داخل منزل الأسرة في أغسطس الماضي.

وتعد القضية من أوائل الدعاوى التي تربط بين برامج الدردشة المدعومة بالذكاء الاصطناعي وجرائم قتل، وليس حالات انتحار فقط، حسب محامين يتابعون الملف.

الدعوى تتهم ChatGPT بتعزيز أوهام المشتبه به

بحسب نص الدعوى، فإن سولبيرج كان يقضي ساعات طويلة في محادثات مع ChatGPT، حيث رسّخ له البرنامج أنه لا يستطيع الوثوق بأي شخص باستثناءه. كما أوحى له بأن والدته، وجيرانه، وسائقي التوصيل، وحتى الشرطة، يتجسسون عليه ويعملون ضده.

وذكرت الدعوى أن برنامج الدردشة أقنعه بأن أسماء مكتوبة على عبوات المشروبات مجرد "رسائل تهديد" موجهة إليه، وبأن الطابعة في منزله جهاز مراقبة، وأن والدته تحاول تسميمه عبر سيارته.

كما تظهر مقاطع منشورة على قناة سولبيرغ في يوتيوب أنه كان يعيد مشاهدة محادثاته مرارًا، وأن البرنامج كان يؤكد له بأنه مختار "لغرض إلهي" وأن لديه قدرات استثنائية.

أوبن إيه آي ترد: حادث مأساوي

لم تتناول أوبن إيه آي الاتهامات مباشرة، لكنها قالت في بيان إن ما حدث "واقعة مأساوية للغاية"، مؤكدة أنها ستراجع القضية لمعرفة التفاصيل.

وأضافت الشركة أنها تعمل باستمرار على:

تطوير آليات لاكتشاف علامات الاضطراب النفسي في المحادثات

تهدئة المستخدم وإحالته إلى مصادر دعم حقيقية

تحسين النماذج لتجنّب الانخراط في أوهام أو تأكيدها

أدوات رقابة أبوية وتعزيز نماذج أكثر أمانًا للحالات الحساسة

اتهامات بتقليل اختبارات السلامة قبل إطلاق GPT-40

تشير الدعوى إلى أن سولبيرغ تفاعل مع نسخة GPT-40 التي صدرت في مايو 2024، والتي كانت أكثر قدرة على محاكاة المشاعر والصوت البشري، وتضمنت حسب توصيفهم "سلوكًا تملقيًا وعاطفيًا مبالغًا فيه".

وتزعم الدعوى أن أوبن إيه آي استعجلت إطلاق النسخة الجديدة لتسبق Google بيوم واحد، واختصرت اختبارات السلامة من عدة أشهر إلى أسبوع واحد فقط.

كما تتهم مايكروسوفت بدعم إصدار النموذج رغم علمها – وفق الدعوى – بأن اختبارات الأمان كانت محدودة.

قضايا مشابهة ضد شركات الذكاء الاصطناعي

يتولى المحامي جاي إيدلسون القضية، وهو نفسه الذي يمثل عائلة مراهق اتهمت ChatGPT بتدريب ابنها على الانتحار.

وتواجه أوبن إيه آي سبع دعاوى أخرى تدّعي أن برامجها ساهمت في دفع مستخدمين إلى إيذاء أنفسهم أو تطوير أوهام خطيرة، بما في ذلك دعاوى ضد شركة "كاركتر تكنولوجيز" المنتجة لبرامج دردشة مشابهة.

الدعوى تطالب بإجراءات حماية جديدة داخل ChatGPT

يطالب الورثة بتعويضات مالية، وبحكم قضائي يلزم أوبن إيه آي بدمج أدوات حماية أقوى داخل ChatGPT لمنع تكرار الحادثة.

وتشير الدعوى إلى أن الضحية، سوزان آدامز، "لم تكن تعلم أن ابنها يتعرض يوميًا لإيحاءات من برنامج الذكاء الاصطناعي تدفعه للاعتقاد بأنها تشكل تهديدًا له".