L’illusione della certezza: come l’utilizzo sistematico dell’IA ci sta trasformando in finti esperti

Notizia tratta da Ansa.it

L’utilizzo sistematico dell’intelligenza artificiale sta alterando il modo in cui gli individui valutano e comunicano il proprio livello di conoscenza.
Secondo una ricerca congiunta dell’Università La Sapienza di Roma, di Milano-Bicocca e della Scuola Normale Superiore di Parigi, le persone che si affidano frequentemente agli strumenti di IA risultano meno inclini ad ammettere di non sapere qualcosa.

Il fenomeno deriva da un falso senso di sicurezza intellettuale indotto dall’accesso istantaneo a risposte generate algoritmicamente.
I partecipanti all’esperimento sono stati divisi in due gruppi: il primo doveva rispondere ad alcuni quesiti senza l’ausilio dell’intelligenza artificiale, mentre il secondo poteva richiederne il supporto. L’analisi ha evidenziato che, nella condizione di base, il 44% dei soggetti dichiarava di non conoscere la soluzione, sospendendo di conseguenza il giudizio.
Con l’utilizzo dell’IA, la percentuale è scesa al 3%, annullando di fatto la propensione ad ammettere la propria ignoranza.
“I consigli forniti dall’IA sopprimono la propensione delle persone a dire ‘non lo so’, anche quando il consiglio è errato e l’accuratezza è incentivata”, scrivono i ricercatori nel paper pubblicato sulla piattaforma scientifica Open Science Framework.
Un ulteriore dato riguarda l’esattezza delle risposte, risultata in calo in presenza dell’intelligenza artificiale, a dimostrazione di come i soggetti tendano a fidarsi maggiormente dell’algoritmo rispetto alle proprie capacità. Nel test di base, il 27% delle persone ha fornito la risposta corretta, contro il 9% registrato nel gruppo supportato dall’IA.
I ricercatori hanno condotto l’esperimento anche con incentivi monetari: la disponibilità a sospendere il giudizio e ad ammettere la propria ignoranza è aumentata dal 3% all’8%, mentre l’accuratezza è passata dal 9% al 16%, ma è rimasta comunque al di sotto dei valori di riferimento, rispettivamente del 44% e del 27%.

(ANSA)

Foto di Solen Feyissa su Unsplash