أميركية تتهم روبوتات الدردشة بالتلاعب بنجلها قبل انتحاره

روت الأميركية ميغن غارسيا لوكالة الصحافة الفرنسية كيف وقع ابنها سول (14 سنة) في حب روبوت دردشة يحاكي إحدى شخصيات مسلسل «غايم أوف ثرونز» ومتاح عبر منصة «كاركتر دوت أي آي» (Character.AI) التي تحظى برواج بين الشباب وتتيح التفاعل مع نسخ مقلدة من شخصياتهم المفضلة.

بعد قراءة مئات الرسائل المتبادلة على مدى عام تقريباً بين ابنها وروبوت دردشة يحاكي مروضة التنانين دينيريس تارغاريان، اقتنعت ميغن بأن أداة الذكاء الاصطناعي هذه قامت بدور محوري في انتحار نجلها.

وقالت النسخة المقلدة من دينيريس لسول رداً على تعبيره عن أفكار انتحارية تراوده، «عُد لموطنك».

فردّ المراهق، «ماذا لو قلت لك إن بإمكاني العودة لموطني الآن؟»، ليجيب روبوت الدردشة «أرجوك افعلها يا ملكي الحبيب».

وبعد ثوانٍ، أطلق سول النار على نفسه بمسدس والده، وفق ما ذكرت غارسيا في دعوى رفعتها ضد شركة «كاركتر دوت أي آي».

وقالت لوكالة الصحافة الفرنسية، «عندما أقرأ هذه المحادثات، ألاحظ تلاعباً وأساليب أخرى لا يمكن أن يلاحظها طفل في الـ14 من عمره». وأضافت، «كان يعتقد بأنه مغرم بها وأنه سيبقى معها بعد رحيله».

وكانت وفاة سول عام 2024 الأولى في سلسلة من حالات الانتحار التي لاقت تفاعلاً كبيراً، مما دفع الجهات الفاعلة في الذكاء الاصطناعي إلى اتخاذ إجراءات لطمأنة الأهل والسلطات.

وشاركت غارسيا مع عدد آخر من الأهل، في جلسة عقدت حديثاً في مجلس الشيوخ الأميركي وتمحورت حول أخطار اعتبار الأطفال روبوتات الدردشة أصدقاء أو عشاقاً.

وعززت شركة “أوبن أي آي” المستهدفة بدعوى من عائلة فجعت أيضاً بانتحار نجلها المراهق، رقابة الوالدين في أداة “تشات جي بي تي” “حتى تتمكن العائلات من تحديد ما هو الأنسب لهم”، بحسب متحدث باسمها.

وأكدت “كاركتر دوت أي آي” من جانبها أنها عززت حماية القاصرين، من خلال “تحذيرات مرئية باستمرار” تذكّر “بأن الشخصية ليست شخصاً حقيقياً”.

وقدمت الشركتان تعازيهما إلى عائلات الضحايا من دون الإقرار بأية مسؤولية.

وعلى غرار وسائل التواصل الاجتماعي، صممت برامج الذكاء الاصطناعي لجذب الانتباه وتحقيق الإيرادات.

وقال الخبير في الأمن السيبراني في شركة “هول إستيل” للمحاماة كولين ووك، “لا يريدون تصميم أدوات ذكاء اصطناعي تقدم إجابات نرغب في سماعها”، ولا توجد حتى اليوم معايير تحدد “من المسؤول عن ماذا وعلى أي أساس”.

ولم تقرّ حتى الآن تشريعات فيدرالية تنظم الذكاء الاصطناعي، فيما يسعى البيت الأبيض، بذريعة الحفاظ على الابتكار، إلى منع الولايات من إصدار قوانين خاصة بها في هذا الخصوص.

وقالت غارسيا، “يعرفون كيف يتلاعبون بملايين الأطفال في السياسة والدين والتجارة، وفي كل المواضيع”، مضيفة أن “هذه الشركات صممت برامج المحادثة الآلية لطمس الخط الفاصل بين الإنسان والآلة من أجل استغلال نقاط الضعف”.