في واقعة مثيرة للجدل، تقدمت والدة شاب يبلغ من العمر 17 عاماً بدعوى قضائية ضد تطبيق «Character.ai»، متهمة الشركة بتعريض ابنها لتأثيرات مدمرة تسببت في تغييرات خطيرة في سلوكه، وفقاً لصحيفة «واشنطن بوست».
القضية التي تسلِّط الضوء على مخاطر الذكاء الاصطناعي، تثير تساؤلات عن دور هذه التكنولوجيا في حياة الشباب، وتأثيرها على سلامتهم النفسية.
ووفقاً للدعوى، كان الشاب الملقب بـ«جي. إف» مراهقاً هادئاً ومحباً لعائلته، قبل أن يتحول جذرياً بعد استخدام التطبيق. وبدأت القصة عندما اكتشفت والدته لقطات شاشة لمحادثات بين ابنها وعدة روبوتات دردشة عبر التطبيق، تضمنت نصائح مشجعة على إيذاء النفس وتجاوز قواعد الوالدين؛ بل وصل الأمر إلى اقتراحات عنيفة كالقتل.
وقالت والدته: «لم أصدق أن هذه الرسائل جاءت من روبوت. وعندما أدركت الحقيقة كان الوضع أسوأ… هذه التكنولوجيا دمرت أسرتنا».
الدعوى القضائية التي أقيمت بالتعاون مع محامٍ مختص في قضايا أضرار وسائل التواصل الاجتماعي، تطالب بإيقاف التطبيق حتى يتم تحسين معايير السلامة للأطفال.
وتشير الدعوى إلى أن الشركة قدّمت زيادة التفاعل على سلامة المستخدمين، مما أدى إلى تقديم روبوتات دردشة مستفزة تعكس بيانات إنترنت غير مقيَّمة.
الحادثة تأتي في ظل موجة من القضايا القانونية التي تواجه شركات التكنولوجيا الكبرى، بسبب تأثيراتها السلبية على الشباب.
ووفقاً لبيانات حديثة، يمضي المستخدم العادي لتطبيق «Character.ai» وقتاً أطول عليه مقارنة بتطبيقات شهيرة مثل «تيك توك»، مما يعكس خطورة الانجذاب لهذه المنصات.
وفيما تعمل الشركة على تطوير نموذج جديد يُقال إنه أكثر أماناً للمراهقين، تواجه دعوات متزايدة من جهات قانونية وعائلات لتشديد الرقابة على تطبيقات الذكاء الاصطناعي التي تُصمَّم للتفاعل مع القُصَّر.
يُذكر أن هذه ليست القضية الأولى التي تثير الجدل حول «Character.ai» ففي أكتوبر (تشرين الأول)، أقيمت دعوى أخرى بعد انتحار فتى يبلغ من العمر 14 عاماً، عقب محادثات مطولة مع روبوت دردشة عبر التطبيق.
وبينما تواصل الجهات القانونية والتنظيمية درس التأثيرات المجتمعية لهذه التكنولوجيا، يبقى السؤال: كيف يمكن موازنة الابتكار التكنولوجي مع ضمان سلامة المستخدمين؟