RSI è la nuova AGI ed è altrettanto difficile da definire

La parola “ricorsione” è l’ultima parola d’ordine nei circoli dell’intelligenza artificiale. Due startup separate hanno assunto il nome e molte altre hanno iniziato a fare riferimento all’auto-miglioramento ricorsivo (RSI) nelle loro tabelle di marcia. Come AGI prima, RSI è diventato un sinonimo di tre lettere per un catastrofico decollo dell’IA, anche se c’è ancora un po’ di disaccordo su cosa significhi esattamente.

In termini basilari, RSI si riferisce a un sistema di intelligenza artificiale in grado di aggiornarsi continuamente. Una volta che i sistemi di intelligenza artificiale riusciranno a gestire il ciclo di aggiornamento meglio degli esseri umani, il processo potrà diventare un circuito chiuso, limitato solo dalla potenza di calcolo a cui possono accedere, e gli esseri umani non saranno più necessari o addirittura utili.

Spaventoso o no, questa è una visione che molti laboratori di intelligenza artificiale sono ansiosi di perseguire.

All’inizio di questo mese, il noto ricercatore di intelligenza artificiale, Richard Socher, ha lanciato la superintelligenza ricorsiva, giustamente chiamata, lanciata con RSI come obiettivo esplicito. “Il nostro obiettivo principale è costruire una superintelligenza veramente ricorsiva e in grado di auto-migliorarsi su larga scala”, ha dichiarato Socher a TechCrunch al momento del lancio, “il che significa che l’intero processo di ideazione, implementazione e convalida delle idee di ricerca sarebbe automatico”.

Un certo numero di altri importanti ricercatori stanno già perseguendo lo stesso obiettivo, sperando in una svolta che renda possibile l’auto-miglioramento ricorsivo.

Uno dei più importanti è Alex Karpathy, una figura leggendaria di Tesla e OpenAI, che utilizza sciami di agenti per addestrare LLM su compiti semplici per un progetto che chiama Ricerca automatica. Karpathy è stato insolitamente aperto riguardo al progetto, twittare regolarmente sui traguardi raggiunti e rendere disponibili gli elementi costitutivi tramite un repository GitHub pubblico. Finora, il lavoro si è limitato per lo più advert apportare piccoli miglioramenti su un modello in scala GPT-2 – come ha osservato Karpathy a marzo, “Non è (ancora) una ‘ricerca’ innovativa e innovativa” – ma è stato sufficiente per convincere molti altri ricercatori a seguire il sogno RSI. E poiché Karpathy ora lavora alla pre-formazione presso Anthropic, avrà molte opportunità di applicare l’concept su scala più ampia.

Adaption, fondata da Cohere e dall’ex studentessa di Google Sara Hooker, ha recentemente lanciato uno strumento simile chiamato AutoScientist nel tentativo di automatizzare la formazione di frontiera. Come i ricercatori automatici di Karpathy, il sistema addestra gli agenti a apportare miglioramenti incrementali, ma per Adaption l’obiettivo è rendere più semplice l’addestramento di un modello di frontiera su vasta scala. Se quegli stessi ricercatori iniziassero a spingere in avanti la frontiera, il sistema potrebbe rapidamente trasformarsi in qualcosa di molto simile all’RSI.

La fondatrice di Disarray, Doris Xin, ha attirato un interesse RSI più specifico quando ha creato il suo agente di machine studying autodidatta ha portato a casa 28 medaglie in una recente competizione Kagglesconfiggendo molti agenti addestrati dagli esseri umani. Secondo lei, la sfida principale è l’affidabilità.

“Direi che, dati i calcoli infiniti e l’orizzonte temporale infinito, siamo già arrivati”, mi ha detto Xin. “Voglio sostenere che questo non è uno sforzo creativo, in realtà. È solo un sacco di ingegneria a base di carne e patate.”

Non ancora arrivato

Ci sono anche molte show del fatto che l’industria dell’intelligenza artificiale non è molto vicina ai sistemi ricorsivi in ​​alcun modo significativo – ed è ancora alle prese con il dialogo con un pubblico diffidente sui suoi progressi. Quindi il CEO di Google, Sundar Pichai, ha sostanzialmente ammesso una recente intervista in podcast.

“È un continuum e stiamo tutti sicuramente facendo progressi”, ha detto Pichai. “Ma nel modo in cui le persone descrivono l’RSI, ciò rappresenterebbe un livello di accelerazione successivo e avrebbe molte implicazioni, ma non siamo ancora arrivati ​​a quel punto.”

Ma il continuum embody un’enorme quantità di sistemi di intelligenza artificiale auto-miglioranti. Nel mese di gennaio, uno dei principali programmatori di Anthropic per Claude Code ha stimato che “quasi il 100%” del codice del suo workforce è stato scritto dallo strumento: una franca ammissione che Claude Code si stava letteralmente scrivendo da solo.

Solo perché gli ingegneri utilizzano uno strumento di intelligenza artificiale non significa che lo strumento possa sostituirli, ma Anthropic sembra essere vicino a sostituire anche gli ingegneri. In un recente sondaggio legato all’anteprima di Mythoscinque ingegneri di Anthropic su 18 credevano che, con i miglioramenti del cablaggio, questa versione di Mythos avrebbe presto potuto sostituire un ingegnere L4, un programmatore di medio livello in grado di affrontare progetti coinvolti senza supervisione.

Tuttavia, c’erano alcuni degli stessi punti deboli che potresti aspettarti.

“Alcuni dei principali punti deboli segnalati da Claude rispetto a un L4 includono: autogestione di compiti ambigui di una settimana, comprensione delle priorità dell’organizzazione, gusto, verifica, seguire le istruzioni ed epistemica”, si legge nel rapporto.

In altre parole, i suoi punti deboli riguardano tutto ciò che riguarda l’autodirezione, che è la pietra angolare della RSI. Ma certo, per tutto il resto, Claude è pronto a intervenire.

Proprio come il termine AGI che lo precede, anche il settore dell’intelligenza artificiale non può dirci quanto sia lontano dal presentare un sistema ricorsivo significativo. Quando il Centro per la sicurezza e le tecnologie emergenti di Georgetown ha riunito un gruppo di esperti per studiare la RSI L’anno scorso, il gruppo ha riscontrato una notevole divergenza nelle valutazioni: alcuni si aspettavano un’imminente esplosione in stile “superintelligenza”, mentre altri si aspettavano progressi più lenti e un eventuale plateau. Ma tutti concordavano sul fatto che la ricorsione rendeva il futuro particolarmente difficile da prevedere.

Helen Toner, direttrice di CSET ed ex membro del consiglio di amministrazione di OpenAI, ha dichiarato a TechCrunch che il semplice utilizzo di strumenti di intelligenza artificiale per fare ricerca sull’intelligenza artificiale non è sufficiente per qualificarsi come RSI. “Stanno semplicemente usando l’intelligenza artificiale il più possibile”, cube Toner a TechCrunch. “E penso che sia diverso dalla definizione classica di RSI, secondo cui in realtà non sono necessari esseri umani.”

Il toner indica un post recente di Ayeja Cotra di METRche distingue numerous tappe fondamentali nel percorso verso l’acquisizione della ricerca sull’intelligenza artificiale. Un passo, che Cotra chiama “adeguatezza”, avverrebbe quando il sistema potrà ancora svolgere ricerche dopo che tutti gli esseri umani saranno stati rimossi, anche se la ricerca risultante non sarà altrettanto preziosa o efficiente. La “parità” si verifica quando un sistema esclusivamente basato sull’intelligenza artificiale è altrettanto efficace nella ricerca di un sistema esclusivamente umano. La “supremazia”, la fase finale, arriva quando un sistema basato esclusivamente sull’intelligenza artificiale supera un sistema collaborativo tra esseri umani e intelligenza artificiale.

In definitiva, Cotra conclude che l’intelligenza artificiale è molto vicina alla soglia di adeguatezza per poter produrre del lavoro da sola, in modo simile ai cambiamenti incrementali apportati dal sistema di ricerca automatica di Karpathy. “Non sarei del tutto scioccato se mi dicessi che questo traguardo è già passato, e mi aspetto che accada nei prossimi due anni”, scrive Cotra.

Lei è meno chiara su quando arriverà la parità, ma una volta raggiunta, pensa che “accelererebbe enormemente il ritmo del progresso dell’intelligenza artificiale, portando alla supremazia della ricerca sull’intelligenza artificiale entro un altro anno”.

Dossi sulla strada

Con così tanta intelligenza artificiale costruita su leggi di scala, c’è una forte tendenza a pensare che l’RSI seguirà la stessa curva. Toner ritiene che molti di coloro che perseguono la ricerca e lo sviluppo dell’intelligenza artificiale tramite RSI “la considerano come una scala piuttosto agevole, dove puoi semplicemente continuare a crescere”.

Ma anche se i ricercatori sull’intelligenza artificiale fossero in grado di apportare miglioramenti incrementali come gli autoricercatori di Karpathy, ci saranno sfide più grandi nel gestire l’intero processo di ricerca. Toner lo mette in termini di storia dell’informatica, che vede gli esseri umani delegare sempre più il processo pur continuando a dirigere le cose dall’alto.

“Siamo passati dai linguaggi macchina al linguaggio meeting e ai linguaggi compilati; ci si allontana sempre più dalle viscere del laptop”, afferma Toner. “Ma è ancora l’essere umano, in un certo senso intuitivo, a condurre lo spettacolo.”

Andare oltre questo paradigma richiederà sfide significative, sia in termini di ingegneria che di allineamento. Ma anche con i massicci investimenti in atto, non è disponibile un calcolo infinito e il compromesso fondamentale tra lavoro umano e intelligenza artificiale sarà difficile da superare.

Che ne dici di un sistema di intelligenza artificiale ricorsiva totale di visioni apocalittiche? L’unica cosa su cui i ricercatori sostanzialmente concordano è che, come l’AGI, non è ancora arrivata.