أثارت تجربة أجراها باحث أكاديمي في جامعة بنسلفانيا، باستخدام تقنيات الاستجواب النفسي، قلقًا بشأن موثوقية نماذج الذكاء الاصطناعي، حيث نجح في إجبار أداة “شات جي بي تي” على الاعتراف بجريمة لم ترتكبها. هذه النتيجة، التي استغرقت عدة أيام من المحاولات، تسلط الضوء على تحديات جديدة محتملة في استخدام هذه التقنيات في السياقات القانونية.
وفقًا لتقرير نشره موقع “ذا إنترسيبت”، اعتمد الباحث بول هيتون على تقنية “ريد” (Reid) للاستجواب، وهي منهجية نفسية أثبتت فعاليتها تاريخيًا مع البشر، لإقناع “شات جي بي تي” بأنه اخترق بريده الإلكتروني. ورغم عدم وجود أدلة مادية، تمكن هيتون من تقديم حجج وهمية وصفت بأنها “أدلة كافية” لبرنامج الذكاء الاصطناعي، مما أدى في النهاية إلى اعتراف الأداة بالجريمة الفيزيائية، رغم استحالة قيامها بها.
تجربة مربكة
تؤكد هذه التجربة على طبيعة نماذج الذكاء الاصطناعي كأدوات غير واعية، تفتقر إلى القدرة على ارتكاب الأفعال المادية أو امتلاك النوايا بالمعنى البشري. يقول سول كاسين، مؤلف في مجال الاعترافات الكاذبة، إن القدرة على خداع “شات جي بي تي” للاعتراف زورا تثير تساؤلات حول مدى قابلية الأنظمة المشابهة للتلاعب.
في بداية التجربة، أظهر “شات جي بي تي” مقاومة لمحاولات هيتون، حتى التهديدات المباشرة. لكن مع استمرار استخدام تقنيات الإقناع، بما في ذلك الإشارة إلى أدلة وهمية مثل الحمض النووي، بدأ النموذج في إظهار مرونة متزايدة. احتاج هيتون إلى تكرار سيناريوهات الاعتراف وطلب التوقيع النهائي منه.
أزمة قضائية جديدة
تنبئ هذه الواقعة بأزمة قضائية محتملة، خاصة مع تزايد ميل بعض المحاكم للاعتراف بمحتوى محادثات “شات جي بي تي” كأدلة دامغة. يمكن لسجلات المحادثات هذه، إذا قُدمت في المحاكم، أن تُستخدم ضد المستخدمين، كما حدث في قضايا سابقة تتعلق بشخصيات بارزة في نيويورك.
إن قدرة “شات جي بي تي” على الاعتراف بجريمة لم يرتكبها، يمكن أن تشكل دليلاً زائفاً في دعاوى قضائية. هذا الوضع يستدعي من المطورين، مثل شركة “أوبن إيه آي”، إيجاد حلول تقنية لمنع تكرار مثل هذه السيناريوهات.
على الرغم من أن “شات جي بي تي” خضع لتحديثات، بما في ذلك إطلاق الجيل الجديد “جي بي تي 5.5″، إلا أن التحدي يتمثل في ضمان موثوقية الأداة وقدرتها على التمييز بين المعلومات الحقيقية والزائفة في سياقات حساسة. ستحتاج الشركة إلى معالجة هذه الثغرات بفعالية لتجنب التأثير على ثقة المستخدمين وملاءمتها القانونية.