أعلنت جمعية “نويب” النمساوية التي تدافع عن حماية الخصوصية، اليوم الاثنين، أنها رفعت دعوى في النمسا ضد برنامج الذكاء الاصطناعي الشهير “شات جي بي تي”، بحسب ما أوردته وكالة الأنباء الفرنسية.
وأكدت الجمعية التي يتألف اسمها من الحروف الأولى لكلمات “نَن أوف يور بيزنس” أي “ليس من شأنك” بالإنجليزية، أنّ هذه الأداة “تختلق الأجوبة”.
فعلى سبيل المثال، طُرح على “شات جي بي تي” سؤال عن تاريخ ميلاد مؤسس الجمعية ماكس شريمه، فعرض البرنامج “معلومات مضللة” بدل الإفادة بأنه لا يعرف هذه الإجابة.
ونقل البيان عن المحامية مارتييه دي غراف قولها “إذا لم يتمكّن برنامج ما من عرض نتائج صحيحة وشفافة، فلا يمكن استخدامه لتوليد بيانات عن الأفراد”، مضيفة “على التكنولوجيا أن تمتثل للقانون لا العكس”.
وأكدت “نويب” أنّ أداء البرنامج هو “ببساطة غير مقبول”، مذكّرةً بأنّ القانون الأوروبي لحماية البيانات (GDPR) يشترط توافر الدقة في الأدوات التكنولوجية.
وبما أنّ شركة “أوبن إيه آي” “رفضت طلب الجهة المدعية تصحيح الخطأ أو محوَه”، مؤكدة أن ذلك مستحيل، اتضّح أنّ نسيان الذكاء الاصطناعي ما تعلّمه يمثل في الواقع مشكلة أساسية.
ولم تستجب الشركة لطلب “نويب” الحصول على البيانات المتعلقة بها ومصادر المعلومات، مما يشكل هنا أيضا انتهاكا للقانون.
وفي الدعوى، طلبت “نويب” من هيئة حماية البيانات النمساوية فتح تحقيق وفرض غرامة على شركة “أوبن إيه آي”.
الجزيرة الضحية الأولى
قبل أكثر من عام قام فريق صفحة تكنولوجيا في موقع الجزيرة بعمل تحقيق حول اختلاق “شات جي بي تي” روابط مزيفة ادعى البرنامج أنه استخدمها كمصادر لتوليد مقال خاص.
وذكر التقرير حينها أن برنامج الذكاء الاصطناعي لم يكتفِ بتوليد روابط مزيفة بل أنكر أن هذه الروابط كانت مختلقة وأنها ليست روابط حقيقية.
قام الموقع بالتواصل مع موقع “أوبن إيه آي” حول هذه الحادثة، ولكن لم تتلق الجزيرة ردا على أسئلتها التي شملت:
– ما المصادر التي اعتمد عليها “شات جي بي تي” في كتابة المقال، ومن يقوم بمراجعة هذه المصادر، وكيف يتم التحقق من صحتها؟
- ما الآلية المتبعة في إظهار المصادر؟ وكيف استطاع الروبوت توليد مصادر مزيفة؟
تقنيا هذا يخضع لخوارزمية معينة؛ فهو يتعامل مع المصدر على أنه معلومة متغيرة يمكنه توليدها والتلاعب بها بناء على تعليمات معينة، وليس بوصفه ثابتا، عليه فقط أن يقوم بتدقيقه والتحقق منه.
- كيف يقوم الروبوت بتوليد إجابات تقوم على التنصل من المسؤولية في توليد الروابط عند سؤاله بشكل مباشر حولها، وكيف يقوم بتوليد إجابات ترجع السبب إلى تغيير سياسات النشر أو حذف المواد من الموقع؟
هذه الآلية في الإجابة مخيفة؛ فالأولى أن يكون شفافا ويقول بشكل واضح إنه لا يمتلك مصادر وإن الروابط هذه عبارة عن معلومات معالجة بناء على خوارزمية داخلية!
- ما الآلية التي يعمل بها النظام في التقصي والإجابة عن أسئلة المستخدمين؟ فهو -رغم أنه قاصر بشكل واضح في إعطاء إجابة حول كيف أن كل هذه الروابط لا تعمل- مصرّ على أن الخطأ ليس من قبله.
تذكر شركات تطوير الذكاء الاصطناعي أنه حتى الآن لا يمكن الاعتماد على المواد المولدة بواسطة الذكاء الاصطناعي بشكل كبير، وأن “الهلوسات” هي حتى الآن موجودة في هذه التكنولوجيا، لكن وكما ذكرت دي غراف “إذا لم يتمكّن برنامج ما من عرض نتائج صحيحة وشفافة، فلا يمكن استخدامه لتوليد بيانات عن الأفراد”.