Se ti stai chiedendo quando ChatGPT potrebbe iniziare a gestire conversazioni più piccanti, OpenAI ha un po’ di chiarezza per te. Secondo il Giornale di Wall Streetl’azienda prevede di consentire agli adulti di generare scambi di testi erotici mantenendo un fermo divieto su immagini esplicite, cloni vocali o contenuti video. Un portavoce ha descritto la funzionalità pianificata come oscenità piuttosto che pornografia, segnalando un attento tentativo di offrire interazioni più razziste senza trasformare il chatbot in una vera e propria piattaforma di intrattenimento per adulti.
Il lancio ha però subito ritardi. OpenAI ha recentemente respinto la modalità per adulti, originariamente prevista per il primo trimestre, citando ostacoli tecnici e dibattiti interni sulla sicurezza. Uno dei principali punti critici riguarda l’esclusione dei minori. Il nuovo sistema di previsione dell’età dell’azienda classificava erroneamente circa il 12% degli utenti sotto i 18 anni come adulti, un difetto che avrebbe potuto consentire a milioni di giovani utenti di accedere a chat erotiche.
La difficile arte di tracciare linee
OpenAI ha individuato questi confini per anni, ben prima che esistesse ChatGPT. Nel 2021, i dirigenti hanno notato che AI Dungeon, un gioco di avventura basato su testo in esecuzione sulla piattaforma OpenAI, a volte spingeva gli utenti in scenari sessuali violenti senza alcun suggerimento. Altre volte l’intelligenza artificiale intensificherebbe gli scambi addomesticati in conversazioni sessuali molto più intense.
Quei primi incidenti hanno messo in luce una realtà confusa. Gli strumenti di moderazione dei contenuti dell’azienda erano strumenti ottusi, incapaci di separare in modo affidabile l’erotica tradizionale dal materiale che coinvolgeva atti non consensuali o sfruttamento minorile.
L’approccio attuale cerca di infilare quell’in the past consentendo conversazioni per adulti di solo testo mantenendo al contempo un rigido divieto di generare immagini, video o voce espliciti.
Perché OpenAI si sente sotto pressione nell’offrire chat per adulti
La spinta dell’azienda verso le conversazioni tra adulti arriva in un momento difficile. Il vantaggio tecnologico di OpenAI rispetto a rivali come xAI e Anthropic si è ridotto e deve far fronte a crescenti perdite finanziarie mentre compete per utenti e finanziamenti. Sam Altman ha suggerito che i contenuti espliciti probabilmente stimolerebbero la crescita e genererebbero entrate additional, una prospettiva allettante information la pressione.
Il CEO ha però espresso pubblicamente sentimenti contrastanti. In un podcast dello scorso agosto, advert Altman è stato chiesto se avesse preso delle decisioni migliori per il mondo ma non migliori per vincere. Ha riconosciuto che l’erotismo avrebbe stimolato la crescita, ma ha affermato che non sarebbe in linea con l’obiettivo a lungo termine dell’azienda di servire bene gli utenti.
Due mesi dopo Altman sembrò invertire la rotta. Ha pubblicato su X che OpenAI ha affrontato gravi problemi di salute mentale legati ai chatbot e dispone di nuovi strumenti per i contenuti, annunciando l’intenzione di lanciare la modalità per adulti a dicembre.
Cosa succede dopo con la modalità adulto
OpenAI ha chiarito che prima o poi arriverà la modalità per adulti, nonostante il ritardo. L’azienda ha assunto esperti di salute mentale e ha creato un workforce dedicato al benessere dei giovani per monitorare gli effetti a lungo termine una volta lanciata la modalità per adulti. Inoltre, addestra i suoi modelli a non incoraggiare relazioni esclusive con gli utenti e a ricordare loro che hanno bisogno di connessioni nel mondo reale.
Per ora gli utenti curiosi delle conversazioni ChatGPT per adulti dovranno aspettare. L’azienda sta dando la priorità advert altre funzionalità come gli aggiustamenti della personalità e la personalizzazione mentre supera gli ostacoli rimanenti.
