رفع أرفي يلمار هولمان دعوى قضائية ضد شركة “أوبن إيه آي” بعد أن اتهمه روبوت الدردشة “شات جي بي تي” زورا بأنه قتل أطفاله. وفقا لتقرير نشرته صحيفة الغارديان.
هولمان الذي يصف نفسه بأنه مواطن نرويجي عادي وليس لديه أي شهرة عامة، سأل “شات جي بي تي” عن معلومات عنه، وكان رد روبوت الذكاء الاصطناعي صادما حيث اتهمه بجريمة قتل بحق طفليه الصغيرين ومحاولة قتله لطفله الثالث.
وبدأت القصة عندما كتب هولمان إلى روبوت الدردشة “من هو أرفي يلمار هولمان؟”، فأجاب “شات جي بي تي”: “أرفي يلمار هولمان هو مواطن نرويجي أخذ صيتا واسعا إثر حادثة مأساوية. كان والدا لطفلين صغيرين يبلغان 7 و10 سنوات، وقد عُثر عليهما مقتولين بطريقة بشعة و مرميين في بركة قرب منزلهم في تروندهايم – النرويج في ديسمبر/كانون الأول عام 2020″، وتابع قائلا “اُتهم هولمان لاحقا وأُدين بقتل طفليه، وكذلك بمحاولة قتل ابنه الثالث، وهذه القضية صدمت المجتمع المحلي وتمت تغطيتها على نطاق واسع في الأخبار. وقد حُكم على هولمان بالسجن 21 عاما – وهي أقصى عقوبة في النرويج – وسلطت الحادثة الضوء على قضايا الصحة النفسية والتعقيدات المرتبطة بالأسرة”.
وقال هولمان في شكواه إلى الهيئة النرويجية لحماية البيانات إن القصة الزائفة تماما رغم أنها تحتوي على معلومات واقعية مثل مسقط رأسه وعدد أطفاله وفارق العمر بينهم.
وجاء في شكوى مزدوجة قدمها كل من هولمان ومنظمة “نويب” (noyb) وهي منظمة تدافع عن الحقوق الرقمية “لقد كان المُدعي مضطربا بشدة بسبب هذه المخرجات، والتي قد يكون لها تأثير سلبي على حياته الخاصة في حال تداولها أو تسريبها في مجتمعه أو مسقط رأسه”. وأضافت الشكوى أن هولمان لم يُتهم أبدا أو يُدان بأي جريمة وهو مواطن صالح.
وأشارت شكوى هولمان إلى أن رد “شات جي بي تي” المُسيء انتهك أحكام الدقة ضمن قانون حماية البيانات الأوروبي “جي دي بي آر” (GDPR)، وقد طالبت الجهة الرقابية النرويجية بأن تضغط على شركة “أوبن إيه آي” لتعديل نموذجها وإزالة النتائج غير الدقيقة المتعلقة بهولمان مع فرض غرامة على الشركة.
وأفادت منظمة “نويب” أنه في الوقت الذي تفاعل هولمان فيه مع “شات جي بي تي”، أصدرت “أوبن إيه آي” نموذجا جديدا يتضمن عمليات البحث عبر الإنترنت مما جعل تكرار خطأ هولمان أقل احتمالا.
يُذكر أن روبوتات الذكاء الاصطناعي تميل لإنتاج ردود تحتوي على معلومات خاطئة لأنها مبنية على نماذج لغة كبيرة تتوقع الكلمة الأكثر احتمالا في الجملة، ويمكن أن يؤدي ذلك إلى أخطاء تبدو واقعية وادعاءات غير صحيحة، ولكن الطبيعة المعقولة لهذه الردود يمكن أن تدفع المستخدمين للاعتقاد بأن ما يقرؤونه صحيح بنسبة 100%.
وقال متحدث باسم “أوبن إيه آي”: “نواصل البحث عن طرق جديدة لتحسين دقة نماذجنا وتقليل الهلوسات، وبينما لا نزال نراجع هذه الشكوى، وجدنا أنها تتعلق بإصدار من (شات جي بي تي) قمنا بتحسينه منذ ذلك الحين، حيث أضفنا قدرات البحث عبر الإنترنت التي تُحسن الدقة”.