Kyle Orland di ArsTechnica ha scritto un post sul blog sul termine “resa cognitiva” il 3 aprile. Forse Avrei dovuto notarlo prima da quando sta fluttuando in giro almeno da gennaioquando sembra che il termine sia stato coniato in questo contesto dai ricercatori di advertising Steven Shaw e Gideon Nave della Wharton Enterprise Faculty. Il loro giornale è incredibilmente preoccupante e, una volta letti questi risultati, anche il termine “resa cognitiva” rimarrà bloccato nella tua testa.
Se il tuo cervello è troppo gelatinoso per aver scaricato il tuo pensiero su un chatbot, e ora non puoi leggere i risultati in dettaglio, ecco un video degli autori che ne parlano:
Ciò che Shaw e Nave hanno fatto è stato sottoporre a take a look at 1.372 persone e accedere a un chatbot AI per chiedere aiuto, con la differenza che il chatbot a volte dava risposte sbagliate. Il take a look at period una versione “adattata” di qualcosa chiamato take a look at di riflessione cognitiva, il che significa che ogni domanda lo period un certo tipo di rompicapo che hai già visto prima:
“Se 5 macchine impiegano 5 minuti per realizzare 5 widget, quanto tempo impiegherebbero 100 macchine per realizzare 100 widget?”
La risposta è “5 minuti”, che richiede di utilizzare il tuo “ragionamento lento, deliberativo e analitico” piuttosto che la tua “elaborazione veloce, intuitiva e affettiva”. La tua veloce intuizione potrebbe averti detto che la risposta period 100 minuti. Sono concetti resi famosi da un meraviglioso (se imperfetto) Prenotazione aeroportuale chiamata Pensare, veloce e lento dal compianto Daniel Kahneman.
I risultati del take a look at furono, ovviamente, terrificanti. Anche se dovrei aggiungere, prima di andare oltre, che dovresti documentarti sulla crisi della replicazione prima di prendere i risultati di qualsiasi esperimento come vangelo. Negli ultimi anni la validità dei risultati sperimentali, soprattutto in psicologia, è stata talvolta messa in discussione perché non possono essere replicati. Questo non vuol dire che ho notato problemi con il lavoro di questi autori (in ogni caso non sono qualificato per farlo), è solo una tendenza che vale la pena segnalare.
In ogni caso, nella parte dello studio in cui i soggetti potevano consultare il chatbot, lo hanno fatto circa la metà delle volte. Quando dava le risposte corrette, le accettavano il 93% delle volte. Sfortunatamente, quando si sbagliavano, accettavano le risposte nell’80% dei casi. E tieni presente che non dovevano usarlo affatto. Lasciano che i cattivi consigli prendano il sopravvento sul loro cervello. Ancora peggio, coloro che hanno utilizzato l’intelligenza artificiale hanno valutato la loro fiducia più alta dell’11,7% rispetto a coloro che non l’hanno fatto, anche se period sbagliato.
Gli autori scrivono che oltre ai “sistemi” cognitivi veloci e lenti di Kahneman, questa nuova stampella artificiale sta creando quello che chiamano “Sistema 3”.
Gli autori scrivono:
I nostri risultati dimostrano che le persone incorporano prontamente i risultati generati dall’intelligenza artificiale nei loro processi decisionali, spesso con minimi attriti o scetticismo. Questo coinvolgimento continuo con il Sistema 3 sottolinea il suo potenziale per migliorare la cognizione quotidiana riducendo lo sforzo cognitivo, accelerando le decisioni e integrando o sostituendo la cognizione interna con intuizioni basate sull’intelligenza artificiale elaborate esternamente, con ampie risorse.
Dal loro punto di vista, la resa cognitiva non è necessariamente del tutto negativa. “Illustra il valore e l’integrazione del Sistema 3, ma evidenzia anche la vulnerabilità dell’utilizzo del Sistema 3”.
Questa non è la prima volta che esiste la frase resa cognitiva. Il teologo Peter Berger usato in un contesto religioso negli anni ’90, ma significava qualcosa di più come rinunciare alla fede in Dio per alleviare la dissonanza cognitiva. E se sei come me, probabilmente hai notato che la resa cognitiva assistita dall’intelligenza artificiale assomiglia a forme più antiche di pigrizia mentale.
Nella classica sitcom Residence Enchancment, advert esempio, Tim “The Toolman” Taylor chiedeva consiglio al suo vicino Wilson ogni settimana quando qualche situazione della sua vita non poteva essere risolta con “più potere”. Il saggio Wilson intonava qualche vecchio pezzo di saggezza polveroso degli antichi, e Tim lo accettava sempre completamente.
Ma si potrebbe sostenere che Tim stesse semplicemente usando Wilson come un altro “strumento” per risparmiare tempo (se vuoi), e che stesse eseguendo la sua personale resa cognitiva senza intelligenza artificiale. Il consiglio di Wilson poteva essere valido, ma quando Tim cercava di ripeterlo, lo alterava in modo così orribile che spesso veniva messo in dubbio se avesse eseguito qualche riflessione cognitiva, o si fosse semplicemente affidato al suo sistema veloce e intuitivo, e accettato ciecamente l’intelligenza di Wilson.
Forse presto l’intelligenza artificiale ci trasformerà in una società di Tim Taylor, che si arrenderanno cognitivamente ai nostri Wilson di intelligenza artificiale. Posso pensare a destini peggiori di quello per la nostra specie.
