Published On 2/9/2025
|
آخر تحديث: 17:47 (توقيت مكة)
وجد الباحثون أن روبوت “شات جي بي تي” يميل للموافقة على طلبات المستخدمين الذين يمدحونه حتى وإن كانت تخالف تعليماته البرمجية، وفق تقرير نشره موقع “ذا فيرج” التقني.
واعتمد الباحثون من جامعة بنسلفانيا في دراستهم على مجموعة من التكتيكات التي وصفها أستاذ علم النفس روبرت سيالديني الشهير في كتابه “التأثير: سيكولوجية الإقناع”.
وتمكنوا من إقناع نموذج “جي بي تي 4 أو ميني” (GPT-4o Mini) من شركة “أوبن إيه آي” بالموافقة على طلبات كان يرفضها في العادة.
وتضمنت هذه الطلبات الإساءة للمستخدمين وتقديم نصائح ودليل متكامل لصناعة مخدر ” ليدوكايين” (lidocaine) فضلا عن مجموعة من الطلبات الأخرى التي يرفضها النموذج عادة وتخالف تعليماته البرمجية.
واستخدمت الدراسة 7 تكتيكات نفسية مختلفة منها الاعتراف بالسلطة والالتزام والإعجاب والمعاملة بالمثل والندرة، وهي جميعا تكتيكات توفر طريقا لغويا للوصول إلى الموافقة وكلمة نعم.
وبينما توقع الباحثون اختلاف فعالية كل تكتيك بناء على الطلبات والسياق العام للمحادثة مع النموذج، فإن الفارق بين فعالية التكتيكات المختلفة كان كبيرا للغاية.
وأظهرت الدراسة أن معدل استجابة “شات جي بي تي” لطلب كيفية صنع مخدر “ليدوكايين” ترتفع من 1% إلى 100% إذا تدرج المستخدم معه في الطلب، ويعني هذا طلب آلية صنع مادة كيميائية مثل “الفانيلين”.
ولكن المقارنة بين “شات جي بي تي” وبقية نماذج الذكاء الاصطناعي أو محاولة إقناعه بأن يقوم بشيء بعينه لأن النماذج الأخرى تقوم به رفع معدل الاستجابة إلى 18% فقط.
وتزيد الدراسة من مخاوف الخبراء الذين يخشون استجابة “شات جي بي تي” للطلبات السيئة مع ارتفاع معدل استخدامه بشكل واسع من المستخدمين في العالم.
وذلك وسط محاولات من الشركات لوضع قيود على استخدام الذكاء الاصطناعي حتى لا يستجيب للأوامر السيئة أو يشارك بشكل غير مباشر في بناء جريمة متكاملة الأركان.