Sam Altman vuole che ChatGPT diventi piccante. OpenAI prevede di rilasciare una “modalità per adulti” che consentirebbe agli utenti di avere conversazioni di testo esplicite con il chatbot. Sembra abbastanza semplice, ma il lancio è stato tutt’altro che agevole.
A ottobre, Altman ha pubblicato su X che la funzionalità sarebbe stata lanciata a dicembre. Tuttavia, il rilascio è stato ritardato dopo che OpenAI ha dichiarato che la società stava riscontrando problemi con la verifica dell’età.
Un nuovo rapporto del WSJ afferma che potrebbe essere solo una parte della storia. Quando Sam Altman fece quell’annuncio, non lo aveva detto al suo workers. L’annuncio ha colto di sorpresa sia i dipendenti che i dirigenti di OpenAI, e il lancio promesso a dicembre è andato rapidamente in pezzi.
ChatGPT è effettivamente pronto per questo?
OpenAI ha riunito un consiglio consultivo di psicologi e neuroscienziati per aiutare a guidare lo sviluppo responsabile dell’IA. Quando il consiglio ha scoperto che l’azienda stava andando avanti con la modalità per adulti nonostante le loro obiezioni, non period contento.
La loro più grande preoccupazione period l’eccessiva dipendenza emotiva dal chatbot. Un membro del consiglio ha sottolineato casi in cui gli utenti si sono tolti la vita dopo aver stretto legami intensi con l’intelligenza artificiale e ha avvertito che OpenAI rischia di creare un “horny allenatore suicidario”. Questa è una frase che nessuno si aspetta di sentire da nessuna parte, eppure eccoci qui.
C’è anche un problema più pratico. Il sistema di verifica dell’età OpenAI creato per tenere i minori lontani dai contenuti per adulti li classificava erroneamente come adulti circa il 12% delle volte. Con circa 100 milioni di utenti sotto i 18 anni ogni settimana, si tratta potenzialmente di milioni di ragazzi che passano inosservati ogni settimana.
Cosa succede adesso?
OpenAI ha ritardato il lancio senza una nuova information confermata, affermando che ha bisogno di più tempo per perfezionare l’esperienza. Quando arriverà, la società prevede di limitare la modalità per adulti al testo, senza immagini erotiche, voce o generazione di video.
L’azienda ha inoltre affermato che addestra i suoi modelli per scoraggiare gli utenti dall’instaurare relazioni esclusive con il chatbot e per ricordare loro che dovrebbero instaurare relazioni nel mondo reale. Resta da vedere se ciò basterà a mettere a tacere il crescente coro di critici interni ed esterni.
Personalmente, voglio che i modelli di intelligenza artificiale rimangano il più lontani possibile dalla generazione di contenuti erotici finché non saranno in atto misure di salvaguardia attive. Abbiamo già visto il caos creato da Grok quando ha permesso agli utenti di spogliare chiunque. Non vogliamo vedere il ripetersi di qualcosa di simile o di peggio.
