الرقابة الأبوية تصل إلى “شات جي بي تي” لحماية المراهقين منه | تكنولوجيا

أعلنت “أوبن إيه آي” نيتها الاعتماد على نموذج “جي بي تي 5” حصرا مع المحادثات الحساسة التي يعاني أصحابها من مشاكل نفسية، فضلا عن إشراك الوالدين في هذه المحادثات بشكل تلقائي وفق تقرير نشره موقع “تيك كرانش” التقني.

وأوضحت الشركة من خلال بيان رسمي نشرته بالأيام الماضية أن هذه الخطوات تأتي ضمن مساعيها لجعل “شات جي بي تي” أكثر أمنا على الأفراد الذين يعانون من مشاكل نفسية خاصة الأطفال والمراهقين.

وتأتي هذه التغيرات بعد اتهام الشركة في وفاة المراهق آدم راينر الذي ناقش خطته في الانتحار مع “شات جي بي تي” لشهور طويلة.

كما تنوي الشركة تطبيق قيود الرقابة الأبوية في المحادثات التي يخوضها النموذج مع المراهقين والأطفال تحديدا، فضلا عن إشراك مجموعة من الخبراء النفسيين في هذه المحادثات ومراقبتها بشكل آلي.

وتتضمن قيود الرقابة الأبوية إمكانية تعطيل بعض المزايا مثل ميزة الذاكرة وتاريخ المحادثات، وهي المزايا التي توهم المستخدم أنه يتحدث مع شخص يتذكر محادثته معه.

ويرسل النظام الآن تنبيها مباشرة إلى الآباء في حال وصول المحادثات مع “شات جي بي تي” إلى منطقة حساسة تظهر أن الطفل يحتاج إلى من يساعده نفسيا.

وتؤكد الشركة بأن السبب الذي جعل “شات جي بي تي” يتفاعل مع راينر بهذا الشكل كان قصورا في آلية التدريب الخاصة بالنموذج السابق، إذ كان يميل للموافقة على كل ما يقوله المستخدم سواء كان صحيحا أو خاطئا.

ولكن الشركة تمكنت من حل هذا الأمر بشكل تلقائي في “جي بي تي 5” لذلك يتم نقل جميع المحادثات ذات الطبيعة الحساسة إليه، إذ ترى “أوبن إيه آي” أنه أكثر قدرة على التعامل مع المحادثات الحساسة.

ويذكر بأن “شات جي بي تي” كان ضليعا في جريمة قتل وانتحار في ظاهرة تعد الأولى من نوعها، إذ غذى النموذج الشكوك التي كان يعاني منها أحد المستخدمين فيما وصفه الخبراء باسم ذهان الذكاء الاصطناعي.

ومن جانبهم، وضح المحامي المسؤول عن قضية راينر أن الجهود التي تقوم بها الشركة غير كافية لحماية المستخدمين والمراهقين، وأضاف بأن الشركة كانت على علم كامل بأن “شات جي بي تي 4 أو” خطير ويمكن أن يؤثر نفسيا في المستخدمين.