David Silver ha dato il mondo il suo primo assaggio di superintelligenza.
Nel 2016, un programma di intelligenza artificiale sviluppato presso Google DeepMind, AlphaGo, ha imparato da solo a giocare al famoso gioco difficile del Go con una sorta di maestria che andava ben oltre la mimica.
Da allora Silver ha fondato la sua società, Ineffable Intelligence, che mira a costruire forme più generali di superintelligenza artificiale. L’azienda lo farà, afferma Silver, concentrandosi sull’apprendimento per rinforzo, che prevede che i modelli di intelligenza artificiale apprendano nuove capacità attraverso show ed errori. La visione è quella di creare “superstudenti” che vadano oltre l’intelligenza umana in molti settori.
Questo approccio è in contrasto con il modo in cui la maggior parte delle aziende di intelligenza artificiale intendono costruire una superintelligenza, sfruttando le capacità di codifica e di ricerca di modelli linguistici di grandi dimensioni.
Silver, parlando con WIRED dal suo ufficio a Londra, cube che secondo lui questo approccio fallirà. Per quanto sorprendenti siano gli LLM, imparano dall’intelligenza umana, piuttosto che costruirne una propria.
“I dati umani sono come una sorta di combustibile fossile che ha fornito una scorciatoia straordinaria”, afferma Silver. “Puoi pensare ai sistemi che apprendono da soli come a un combustibile rinnovabile, qualcosa che può semplicemente imparare, imparare e imparare per sempre, senza limiti”, afferma.
Ho incontrato Silver alcune volte e, nonostante questa affermazione, mi ha sempre colpito come una delle persone più umili dell’IA. A volte, quando parla di idee che considera sciocche, fa un sorriso malizioso. In questo momento, però, è mortalmente serio.
“Penso che la nostra missione consista nel stabilire il primo contatto con la superintelligenza”, afferma. “Per superintelligenza intendo davvero qualcosa di incredibile. Dovrebbe scoprire da sola nuove forme di scienza, tecnologia, governo o economia.”
Cinque anni fa, una missione del genere sarebbe potuta sembrare ridicola. Ma i CEO del settore tecnologico ormai parlano abitualmente di macchine che superano l’intelligenza umana e sostituiscono intere categorie di lavoratori. L’thought che qualche nuova svolta tecnica possa sbloccare capacità sovrumane di intelligenza artificiale ha recentemente generato una serie di startup da miliardi di dollari.
Finora Ineffable Intelligence ha raccolto 1,1 miliardi di dollari in finanziamenti iniziali per una valutazione di 5,1 miliardi di dollari: una somma enorme per gli customary europei di intelligenza artificiale. Silver ha anche reclutato i migliori ricercatori sull’intelligenza artificiale di Google DeepMind e altri laboratori di frontiera per unirsi alla sua impresa.
Silver cube che donerà tutto il denaro che guadagna dalle partecipazioni in Effable Intelligence – una somma che potrebbe ammontare a miliardi se avrà successo – in beneficenza.
“Costruire un’azienda focalizzata sulla superintelligenza è un’enorme responsabilità”, mi cube. “Penso che questo sia qualcosa che deve essere fatto per il bene dell’umanità, e tutto il denaro che guadagno da Ineffable andrà a enti di beneficenza advert alto impatto che salvano quante più vite possibile.”
Concentrazione totale
Silver ha incontrato Demis Hassabis, CEO di Google DeepMind, a un torneo di scacchi quando erano bambini, e in seguito i due sono diventati amici e collaboratori per tutta la vita.
Sono rimasti vicini dopo che Silver ha lasciato Google DeepMind, cosa che ha fatto solo perché voleva tracciare un percorso completamente nuovo. “Ritengo che sia davvero importante che esista un laboratorio di intelligenza artificiale d’élite che si concentri effettivamente al cento per cento su questo approccio”, afferma. “Che non è solo l’angolo di un altro luogo dedicato ai LLM.”
I limiti dell’approccio basato sul LLM possono essere visti, cube Silver, con un semplice esperimento mentale. Immagina di tornare indietro nel tempo e di rilasciare un ampio modello linguistico in un mondo che credeva che il mondo fosse piatto. Senza essere in grado di interagire con il mondo reale, il sistema, cube, rimarrebbe un avido terrapiattista, anche se continuasse a migliorare il proprio codice.
Un sistema di intelligenza artificiale in grado di apprendere da solo il mondo, tuttavia, potrebbe realizzare le proprie scoperte scientifiche.
