Se ultimamente hai chattato con ChatGPT e hai notato che rilascia riferimenti stranamente specifici a goblin, gremlin, orchi o troll, non stai immaginando le cose. OpenAI ha ora spiegato perché ChatGPT ha sviluppato questa strana abitudine e come viene risolta.
Come un capriccio “nerd” è diventato il problema di tutti
Il problema è iniziato silenziosamente con GPT-5.1, rilasciato a novembre. Dopo quel lancio, l’uso della parola “goblin” nelle risposte di ChatGPT è aumentato del 175%, mentre “gremlin” è aumentato del 52%. Il colpevole si è rivelato essere una delle impostazioni di personalità opzionali di ChatGPT chiamata “Nerdy”, progettata per far sembrare l’intelligenza artificiale giocosa e intellettualmente curiosa.
Durante l’addestramento, OpenAI ha accidentalmente dato al modello ricompense insolitamente elevate per le risposte che includevano metafore basate sulle creature, e l’abitudine ha preso rapidamente piede.
In che modo l’impostazione di una singola personalità ha causato così tante chiacchiere sui goblin?
Ecco dove diventa interessante. Anche gli utenti che non hanno mai scelto la personalità nerd hanno iniziato a vedere i riferimenti ai goblin apparire nelle loro chat. Questo perché l’addestramento dell’IA non è limitato a un’unica impostazione. Una volta che il modello ChatGPT è stato premiato per quello stile, il comportamento si è diffuso in risposte generali su tutta la linea.
OpenAI afferma che la personalità nerd rappresentava solo il 2,5% di tutte le risposte ChatGPT, ma rappresentava il 66,7% di tutte le menzioni dei goblin.
Quindi, in che modo OpenAI risolve effettivamente questo problema?
OpenAI ha ritirato la personalità nerd a marzo con ChatGPT-5.4, che ha causato un brusco calo dell’utilizzo dei goblin. L’azienda ha inoltre eliminato il segnale di ricompensa che guidava il comportamento e filtrato i dati di addestramento per ridurre i riferimenti alle creature.
Il suo strumento di codifica, Codex, tuttavia, necessitava di un’istruzione di override separata poiché aveva già iniziato l’addestramento prima che la causa principale fosse identificata. I fan del fantasy possono comunque sbloccare manualmente la modalità goblin nel Codex, se questo è il tuo genere.
OpenAI si sta occupando anche di altre decisioni legate alla personalità, tra cui la sospensione a tempo indeterminato della modalità per adulti precedentemente citata per gli utenti verificati.
