Julie Carpenter no incolpare gli utenti umani per aver antropomorfizzato i chatbot. Esperto di lunga information di interazione uomo-intelligenza artificiale e autore di L’Android nudo ritiene che gli strumenti di intelligenza artificiale generativa, come ChatGPT, siano progettati intenzionalmente per suscitare queste reazioni da parte degli utenti attraverso ricordi e interazioni altamente personalizzati che replicano le esperienze sociali.
Queste connessioni unilaterali potrebbero diventare ancora più complicate e potenzialmente disastrose quando l’erotismo generato dall’intelligenza artificiale viene aggiunto come opzione. Carpenter è preoccupato per i prossimi piani di OpenAI per consentire agli adulti di fare sesso con ChatGPT. “Sono favorevole alle persone che esplorano la propria sessualità, ma lo voglio in un modo che sia sicuro per loro e divertente”, cube. “Le persone devono essere molto consapevoli del fatto che esiste un aspetto di sorveglianza nei dati.”
OpenAI ha accennato per la prima volta a consentire agli utenti adulti di generare contenuti erotici utilizzando ChatGPT due anni fa in un documento ufficiale che descriveva come i suoi modelli sono progettati per comportarsi. Anche se sembra che la società stia ancora pianificando il suo rilascio finale, la tempistica lo è torbido. Negli ultimi mesi, il consiglio consultivo di esperti esterni di OpenAI ha espresso preoccupazione sui rischi di questo rilascio imminente, inclusa la possibilità di un “horny suicide coach” secondo un rapporto da Il giornale di Wall Avenue. OpenAI ha rifiutato di commentare quando raggiunto da WIRED.
Le persone che parlano sporco alle macchine, come ChatGPT, non sono una novità. “Vogliono monetizzare qualcosa che vedono e che le persone proveranno a fare comunque”, afferma Kate Devlinprofessore di intelligenza artificiale e società al King’s Faculty di Londra, la cui ricerca riguarda il sesso digitale.
Ciò che è diverso qui è il potenziale abbraccio di OpenAI all’oscenità su una piattaforma mainstream. I chatbot erotici sono un enterprise che genera entrate, ma sono spesso relegati in siti di nicchia con nomi insignificanti o Grok di Elon Musk, noto per le immagini deepfake non consensuali e per l’entrata in una situazione di stallo. Modalità “MechaHitler”..
Quando verrà rilasciata la modalità per adulti, sarà interessante vedere cosa ricorderà esattamente ChatGPT sulle inclinazioni sessuali degli utenti. Negli ultimi due anni, OpenAI ha continuato a migliorare la funzionalità di memoria del chatbot, che registra le preferenze dell’utente e risponde con output personalizzati. Sei vegano? ChatGPT non consiglierà una steakhouse quando ti vengono richieste idee per ristoranti. Vuoi fare un’escursione? Sa che sei a San Francisco dalle chat precedenti e suggerirà percorsi ragionevolmente vicini, anche se il contesto della posizione non è incluso nella richiesta.
Ma cosa succede quando questo tipo di registrazione dei dati e di personalizzazione iperspecifica incontra le eccitanti abitudini di sexting di milioni di utenti adulti di ChatGPT? Le interazioni erotiche con ChatGPT aumenteranno ulteriormente la posta in gioco per la privateness degli utenti.
Invece di ricordare le tue preferenze alimentari o il tipo di movie che ti piacciono di più, ChatGPT potrebbe ricordare quanto hai fantasticato sul porno peloso, sul sesso a tre in spiaggia e sui giochi con il piscio, oltre a personalizzare le sue risposte quotidiane tenendo a mente questi dettagli sessuali. Non è chiaro come OpenAI intenda gestire queste conversazioni mature.
Le persone che scelgono di interagire con la versione oscena di ChatGPT al momento del lancio potrebbero trovare conforto nella funzione “chat temporanee”. Quando abilitate, queste conversazioni non vengono visualizzate nella cronologia dei registri di un utente o utilizzate per migliorare i modelli di OpenAI.
Ma queste chat non sono così effimere come potrebbero sembrare agli utenti. “Per motivi di sicurezza, potremmo comunque conservare una copia per un massimo di 30 giorni”, si legge Il sito web di OpenAI. C’è anche un disclaimer incluso nella pagina del sito in cui si afferma che “la conservazione dei dati per determinati servizi potrebbe essere influenzata dai recenti sviluppi legali”.
