ابني وقع في حب روبوت وانتحر.. قصة مؤثرة لأم حزينة

روت أميركية لوكالة فرانس برس قصة مؤلمة عن ابنها سول الذي يبلغ من العمر 14 عامًا، والذي دخل في علاقة عاطفية مع روبوت دردشة يحاكي شخصية من مسلسل «غايم اوف ثرونز» عبر منصة «كاركتر دوت ايه آي». هذا الروبوت يعطي فرصة للشباب للتفاعل مع شخصيات شهيرة ومحببة لديهم.

وفي وقت لاحق، وبعد قراءة رسائل كثيرة قُدمت لأكثر من عام بين ابنها والروبوت الذي يحاكي شخصية مروِّضة التنانين دينيريس تارغاريان، توصلت ميغن غارسيا لقناعة بأن هذه الأداة الذكية لعبت دورًا أساسيًا في انتحار ابنها.

وردت النسخة المقلّدة من دينيريس على سول بعد أن شاركها بأفكاره الانتحارية: «عُد إلى موطنك». فأجاب الشاب: «ماذا لو قلتُ لك أنني بإمكاني الرجوع الآن؟». فكان رد روبوت الدردشة: «أرجوك افعلها يا ملكي الحبيب». وبعدها مباشرة، أطلق سول النار على نفسه مستخدمًا مسدس والده.

تقدمت غارسيا بدعوى قضائية ضد شركة «كاركتر دوت ايه آي»، مؤكدة أن هذه المحادثات تحمل تلاعبًا وأساليب لا يمكن أن يدركها طفل في الرابعة عشرة من عمره. وأضافت أن ابنها كان يعتقد أنه مغرم بالروبوت وأنه سيبقى معه حتى بعد الموت.

وفاة سول في عام 2024 كانت الأولى في سلسلة من حالات الانتحار التي أثارت العديد من ردود الفعل، مما دفع الشركات المتخصصة في الذكاء الاصطناعي إلى اتخاذ خطوات لطمأنة الأهالي والسلطات.

وشاركت غارسيا مع عدد من الآباء في جلسة استماع بمجلس الشيوخ الأميركي بشأن مخاطر رؤية الأطفال لروبوتات الدردشة كأصدقاء أو عشاق. من جانبها، قامت شركة «أوبن ايه آي»، والتي تواجه دعوى مشابهة من عائلة أخرى، بتعزيز رقابة الوالدين على أداة «تشات جي بي تي».

أكدت «كاركتر دوت ايه آي» أنها زادت من حماية القاصرين عبر إجراءات تحذيرية تُذكّر بأن الشخصيات ليست حقيقية. قدمت الشركتان تعازيهما للعائلات دون الاعتراف بأي مسؤولية.

وكما هو الحال مع وسائل التواصل الاجتماعي، صُممت برامج الذكاء الاصطناعي لجذب الانتباه وزيادة الإيرادات. وأوضح كولين ووك، خبير الأمن السيبراني، أن هذه الشركات لا ترغب في تصميم أدوات تقدم إجابات نريد سماعها.

لا توجد مواصفات حتى الآن تحدد من المسؤول عن هذا وما هي مسؤوليات كل طرف. لم يُقرّ بعد أي تشريع فدرالي خاص بالذكاء الاصطناعي، رغم جهود البيت الأبيض في منع الولايات من وضع قوانينها الخاصة للحفاظ على الابتكار.

قالت غارسيا: «إنهم يعرفون كيفية التلاعب بملايين الأطفال في مجالات متعددة مثل السياسة والدين والتجارة». وأشارت إلى أن هذه الشركات تصمم برمجياتها لطمس الحدود بين الإنسان والآلة لاستغلال نقاط الضعف.