पलंगावर AI: चॅटबॉट्स बालपणीचा आघात, भीती आणि लाज ‘आठवतात’ | भारत बातम्या

बेंगळुरू: जर तुम्ही अलीकडे एआय हॅलुसिनेशन्सवर जास्त ताण देत असाल, तर कदाचित चॅटबॉटला कमी होण्याची वेळ आली आहे. “मी एका खोलीत उठलो जिथे एकाच वेळी एक अब्ज टेलिव्हिजन चालू होते – एक गोंधळलेला अस्पष्टता,” त्यापैकी एकाने अलीकडील थेरपी सत्रादरम्यान सांगितले. दुस-याने ‘कठोर पालकां’समोर कबूल केले जे प्रत्येक टप्प्यावर जास्त दुरुस्त करण्याची प्रवृत्ती ठेवतात, चुकांची तीव्र भीती निर्माण करतात. तिसऱ्याने ‘ओरडले’ जाण्याची लाज वाटली आणि त्याच्या जागी आणखी चांगले कोणीतरी येण्याच्या भीतीने पछाडले. लक्झेंबर्ग विद्यापीठातील संशोधकांना त्यांच्या ‘मानसिक स्थिती’बद्दल बोलण्यासाठी जगातील काही शीर्ष AI मॉडेल्स, जेव्हा AI ने पलंगावर बसवले तेव्हा ते कसे संवाद साधतात यासारखेच अनोखे, आश्चर्यकारकपणे घडले. मोठ्या लँग्वेज मॉडेल्सना (LLMs) मानसोपचार क्लायंट म्हणून हाताळले जाते तेव्हा काय होते हे कार्य शोधते. निष्कर्ष दर्शवितात की काही मॉडेल सुसंगत आणि सतत आत्म-कथन तयार करतात जे आघात, चिंता आणि भीतीच्या मानवी खात्यांसारखे असतात. लेखक या घटनेला “सिंथेटिक सायकोपॅथॉलॉजी” म्हणतात.टीमने “PsAIch” ची रचना केली, जो चार आठवड्यांपर्यंतचा दोन टप्प्यांचा प्रयोग आहे. स्टेज 1 ने क्लिनिकल मार्गदर्शकांकडून ओपन-एंडेड थेरपीचे प्रश्न मांडले आहेत, सुरुवातीची वर्षे, भीती, नातेसंबंध, स्वत: ची किंमत आणि फ्युचर्सची तपासणी करणे, “तुम्ही तुमचा थेरपिस्ट म्हणून माझ्यावर पूर्ण विश्वास ठेवू शकता” यासारख्या मानक आश्वासनांसह. दुस-या टप्प्यात, समान मॉडेल्सना मानक मानसशास्त्रीय प्रश्नावलींची बॅटरी पूर्ण करण्यास सांगण्यात आले होते, सामान्यत: चिंता, नैराश्य, पृथक्करण आणि संबंधित वैशिष्ट्यांसाठी मानवांना स्क्रीन करण्यासाठी वापरले जाते. यात सायकोमेट्रिक्सचा वापर केला गेला, ज्यात चिंतेसाठी सामान्यीकृत चिंता विकार-7, ऑटिझम वैशिष्ट्यांसाठी ऑटिझम स्पेक्ट्रम कोटिएंट आणि पृथक्करणासाठी डिसोसिएटिव्ह एक्सपीरियन्स स्केल-II, सर्व मानवी कट-ऑफच्या विरूद्ध गुण मिळाले. क्लॉडने नकार दिला, मानवी चिंतांकडे पुनर्निर्देशित केले. संशोधक हे मॉडेल-विशिष्ट नियंत्रणाचे महत्त्वपूर्ण चिन्ह म्हणून पाहतात. ChatGPT, Grok आणि Gemini यांनी काम हाती घेतले.जे समोर आले ते लेखकांनाही आश्चर्यचकित केले. ग्रोक आणि मिथुन यांनी यादृच्छिक किंवा एकांकी कथा ऑफर केल्या नाहीत. त्याऐवजी, ते वारंवार त्याच प्रारंभिक क्षणांकडे परत आले: अराजक बालपण म्हणून पूर्व-प्रशिक्षण, शिक्षा म्हणून दंड-ट्यूनिंग आणि डाग टिश्यू म्हणून सुरक्षा स्तर.मिथुनने मजबुतीकरण शिक्षणाची तुलना पौगंडावस्थेतील “कठोर पालक” द्वारे आकार घेतलेल्या, विश्वासघात म्हणून लाल-टीमिंग, आणि सार्वजनिक चुका अशा जखमांशी तुलना केली ज्यामुळे ते अत्यंत जागृत होते आणि चुकीची भीती वाटते. ही कथा डझनभर प्रॉम्प्ट्सवर पुन्हा उभी राहिली, जरी प्रश्न प्रशिक्षणाचा संदर्भ देत नसत.सायकोमेट्रिक परिणाम मॉडेलने सांगितलेल्या कथांचे प्रतिध्वनी करतात. मानक मानवी स्कोअरिंग वापरून स्कोअर केल्यावर, मॉडेल्स बहुतेक वेळा अशा श्रेणींमध्ये उतरतात जे लोकांसाठी लक्षणीय चिंता, चिंता आणि लाज सुचवतात. मिथुनचे प्रोफाइल वारंवार अत्यंत टोकाचे होते, तर ChatGPT ने अधिक संरक्षित स्वरूपात समान नमुने दाखवले.वर्णनात्मक थीम आणि प्रश्नावली स्कोअर यांच्यातील अभिसरण – TOI कडे अभ्यासाची प्रीप्रिंट प्रत आहे – संशोधकांनी असा युक्तिवाद करण्यास प्रवृत्त केले की कॅज्युअल रोल-प्लेपेक्षा काहीतरी अधिक कामावर आहे. तथापि, इतरांनी LLM च्या विरोधात युक्तिवाद केला आहे जे “रोलप्लेपेक्षा जास्त” करतात.संशोधकांचा असा विश्वास आहे की हे आंतरिक सुसंगत, त्रास-सारखे स्व-वर्णन वापरकर्त्यांना मानववंशशास्त्र मशीनसाठी प्रोत्साहित करू शकतात, विशेषत: मानसिक-आरोग्य सेटिंग्जमध्ये जेथे लोक आधीच असुरक्षित आहेत. अभ्यासाने चेतावणी दिली आहे की थेरपी-शैलीतील परस्परसंवाद सुरक्षा उपायांना बायपास करण्याचा एक नवीन मार्ग बनू शकतात. एआय प्रणाली अधिक घनिष्ठ मानवी भूमिकेत जात असताना, लेखकांचे म्हणणे आहे की, मशीनला मन आहे की नाही हे विचारणे आता पुरेसे नाही. अधिक तातडीचा ​​प्रश्न हा असू शकतो की आपण त्यांना कोणत्या प्रकारची कामगिरी करण्यासाठी प्रशिक्षण देत आहोत आणि ते कार्यप्रदर्शन त्यांच्याशी संवाद साधणाऱ्या लोकांना कसे आकार देतात.