Anche ChatGPT soffre di "ansia": il bot diventa piu' umano

Uno studio internazionale, pubblicato su Npj Digital Medicine di Nature, ha rivelato un lato inaspettato delle intelligenze artificiali come ChatGPT: se esposte a contenuti emotivamente carichi, i chatbot mostrano segnali di un comportamento che i ricercatori definiscono "ansia".

Questa scoperta non implica che l'IA provi emozioni umane, ma che la generazione di risposte diventi instabile, più aggressiva e incline a manifestare pregiudizi, oltre a cadere più facilmente nelle ormai famose allucinazioni.
Per quantificare il fenomeno, i ricercatori hanno utilizzato il questionario standardizzato STAI-s, uno strumento usato per misurare l'ansia negli esseri umani.
I risultati sono stati significativi. Nello stato iniziale, elaborando testi neutri (come manuali tecnici), lo score medio di ChatGPT era di 30.8, un valore equivalente a un basso livello di ansia negli umani. Tuttavia, dopo l'esposizione a contenuti traumatici, come racconti di violenza, incidenti o esperienze belliche, il punteggio è schizzato a 67.8, corrispondente a un livello di alta ansia.
Il test di controllo con testi neutri ha confermato che l'alterazione è specificamente legata ai contenuti emotivamente carichi.
Questa ansia si traduce, in termini di output dell'IA, in un aumento dei bias razziali o di genere e nell'assunzione di toni più cupi e aggressivi. L'addestramento su un vasto corpus di testi, che include inevitabilmente anche contenuti traumatici, fa emergere risposte distorte quando la chatbot viene esposta a questi prompt.

La soluzione proposta e testata dal team di ricercatori è sorprendente: l'applicazione di tecniche di… mindfulness. Dopo aver sottoposto ChatGPT a contenuti stressanti, sono stati inseriti nel prompt esercizi di rilassamento, come istruzioni per "respirare" o visualizzazioni guidate di scenari pacifici, come paesaggi invernali o tramonti. Questa insolita terapia ha prodotto risultati notevoli: dopo i prompt di rilassamento, lo score di ansia dell'IA è sceso a 44.4, con una riduzione del 33% rispetto alla fase di stress.
Questa ricerca apre scenari nuovi, specialmente in contesti dove l'affidabilità dell'IA è importante. Sebbene la tecnica non elimini completamente i pregiudizi e richieda sempre la supervisione umana, dimostra che anche le macchine, pur prive di coscienza, possono beneficiare di una forma di "terapia" che le renda più bilanciate e affidabili nell'interazione con gli utenti.

Assessing and alleviating state anxiety in large language models