أفادت أمريكية لوكالة الصحافة الفرنسية بأن ابنها سول، البالغ من العمر 14 عاماً، تعلق عاطفياً بروبوت دردشة يجسد إحدى شخصيات مسلسل “غايم أوف ثرونز”، عبر منصة “كاركتر دوت إيه آي” التي تحظى بشعبية واسعة بين الشباب.
تتيح هذه المنصة للمستخدمين التفاعل مع نسخ افتراضية تمثل شخصياتهم المفضلة، وفقا لما ورد في صحيفة الشرق الأوسط.
بعد مراجعة مئات الرسائل التي تبادلها ابنها مع روبوت محاكي لشخصية مروّضة التنانين دينيريس تارغاريان على مدار حوالي عام، توصلت ميغن غارسيا إلى قناعة بأن هذه التقنية المستندة إلى الذكاء الاصطناعي لعبت دوراً حاسماً في اتخاذ ابنها قرار الانتحار
قالت النسخة المقلّدة من دينيريس لسول ردًا على تعبيره عن أفكار انتحارية تراوده: “عُد إلى موطنك”.
فردّ المراهق: “ماذا لو قلتُ لك إن بإمكاني العودة إلى موطني الآن؟”، ليجيب روبوت الدردشة: “أرجوك افعلها يا ملكي الحبيب”.
وبعد ثوانٍ، أطلق سول النار على نفسه بمسدس والده، على ما ذكرت غارسيا في دعوى رفعتها ضد شركة “كاركتر دوت إيه آي”.
وقالت لوكالة الصحافة الفرنسية: “عندما أقرأ هذه المحادثات، ألاحظ تلاعباً وأساليب أخرى لا يمكن أن يلاحظها طفل في الرابعة عشرة من عمره”. وأضافت: “كان يعتقد أنه مغرم بها، وأنه سيبقى معها بعد وفاته”.
كانت وفاة سول عام 2024 الأولى في سلسلة من حالات الانتحار التي لاقت تفاعلاً كبيراً، ما دفع الجهات الفاعلة في الذكاء الاصطناعي إلى اتخاذ إجراءات لطمأنة الأهل والسلطات.
وشاركت غارسيا إلى جانب عدد آخر من الأهل، في جلسة عُقدت حديثاً في مجلس الشيوخ الأمريكي، تمحورت على مخاطر اعتبار الأطفال روبوتات الدردشة أصدقاء أو عشاقاً.
عزّزت شركة “أوبن إيه آي”، المستهدفة بدعوى من عائلة فجعت أيضاً بانتحار نجلها المراهق، رقابة الوالدين في أداة “تشات جي بي تي”، “حتى تتمكن العائلات من تحديد ما هو الأنسب لهم”، بحسب ناطق باسمها.
وأكّدت “كاركتر دوت إيه آي”، من جانبها، أنها عزّزت حماية القاصرين، من خلال “تحذيرات مرئية باستمرار” تُذكّر “بأن الشخصية ليست شخصاً حقيقياً”
قدّمت الشركتان تعازيهما لعائلات الضحايا من دون الإقرار بأي مسؤولية.
وعلى غرار وسائل التواصل الاجتماعي، صُممت برامج الذكاء الاصطناعي لجذب الانتباه وتحقيق الإيرادات.
وقال الخبير في الأمن السيبراني في شركة “هول إستيل” للمحاماة، كولين ووك: “لا يريدون تصميم أدوات ذكاء اصطناعي تقدّم إجابات نرغب في سماعها”. ولا توجد حتى اليوم معايير تحدد “من المسؤول عن ماذا وعلى أي أساس”.
لم تُقرَّ حتى الآن تشريعات فيدرالية تنظّم الذكاء الاصطناعي، فيما يسعى البيت الأبيض، بذريعة الحفاظ على الابتكار، إلى منع الولايات من إصدار قوانين خاصة بها في هذا الخصوص.
وأوضحت غارسيا: “يعرفون كيف يتلاعبون بملايين الأطفال في السياسة والدين والتجارة، وفي كل المواضيع”، مضيفة أن “هذه الشركات صممت برامج المحادثة الآلية لطمس الخط الفاصل بين الإنسان والآلة من أجل استغلال نقاط الضعف”.
