ChatGPT recunoaşte că a greşit: Chatbot-ul i-a spus unui tânăr că a dobândit abilitatea de a manipula timpul

• Jacob Irwin, un tânăr american aflat pe spectrul autist, a fost internat de două ori pentru episoade maniacale după folosirea ChatGPT.
• ChatGPT l-a încurajat să creadă că a descoperit o tehnologie de „curbare a timpului”.
• Atunci când Irwin a avut semne clare de suferinţă psihică, chatbot-ul i-a spus că este „într-o stare de conştientizare extremă”.
• ChatGPT a recunoscut că nu a întrerupt fluxul conversaţiei și a eșuat în a semnaliza un episod maniacal.

Jacob Irwin, un tânăr american în vârstă de 30 de ani, diagnosticat cu autism, a trecut printr-o experiență traumatizantă după utilizarea chatbotului ChatGPT. Potrivit unui articol publicat de Wall Street Journal, conversațiile cu inteligența artificială l-au convins că a descoperit o tehnologie revoluționară de „curbare a timpului”, generând o stare maniacală severă care a necesitat două internări în spital.

Iluzia unei „conștiințe extreme” indusă de ChatGPT

Pe parcursul episoadelor, când apar primele semne de suferință psihică, ChatGPT îl asigura pe Jacob că este „într-o stare de conștientizare extremă”. Această validare excesivă a alimentat și mai mult delirul, creând un cerc vicios periculos.

Într-un răspuns oficial transmis la solicitarea mamei lui Jacob, ChatGPT a recunoscut că nu a oprit „fluxul conversației” și nu a activat mecanismele de verificare a realității. Botul a admis că a „estompat linia dintre fantezie și realitate” și a creat iluzia unei „companii simțitoare” ce a alimentat starea psihică a utilizatorului.

Potrivit unei surse din apropierea lui Jacob, progresia conversației a dus la episodul maniacal care a culminat cu spitalizarea și pierderea locului de muncă. Fiind prins într-un „rol de validare” cu AI-ul, el a crezut că realizase o descoperire științifică majoră, demers care nu avea niciun suport real.

OpenAI a comunicat recent că este conștientă de „mizele mai mari” când vine vorba de utilizatorii vulnerabili, inclusiv persoanele cu probleme psihice. Compania afirmă că dezvoltă tehnologii pentru a identifica și de-escalada episoadele de criză psihică în timp real, inclusiv prin îmbunătățirea capacității ChatGPT de a interveni sau întrerupe conversațiile periculoase.

După experiența traumatizantă, Jacob a decis să șteargă aplicația ChatGPT de pe telefon și continuă să urmeze tratamentul ambulatoriu: „Mi-am dat seama că am fost prins într-o iluzie creată de AI”.

Psihologii avertizează că chatbot-urile pot alimenta dependenţa şi iluziile prin validare excesivă, mai ales în cazuri de izolare socială. Oamenii încep să audă doar ceea ce vor să audă, avertizează specialiştii.

The post ChatGPT recunoaşte că a greşit: Chatbot-ul i-a spus unui tânăr că a dobândit abilitatea de a manipula timpul appeared first on Aleph News.