ChatGPT è stranamente ossessionato dai goblin. No, sul serio. Gli piacciono moltissimo i folletti, i gremlin e le altre creature mitologiche. Gli sono piaciuti così tanto che il suo creatore, OpenAI, ha dovuto indagare e correggere un errore che faceva sì che il popolare chatbot utilizzasse i goblin nelle sue risposte all’improvviso.
Goblin non è un termine informatico. Stiamo letteralmente parlando dei folletti, quelle brutte creature mitologiche. Quei piccoletti inquietanti del Signore degli Anelli. L’alter ego di Norman Osborn.
In un post sul blog che l’autore si è chiaramente divertito a scrivere, OpenAI ha detto: “Un singolo ‘piccolo goblin’ in una risposta potrebbe essere innocuo, persino affascinante. Attraverso le generazioni di modelli, però, l’abitudine è diventata difficile da non notare: i goblin continuavano a moltiplicarsi.”
L’amore dei goblin period evidente con ChatGPT-5.1 e i modelli più recenti. OpenAI riferisce che dopo il lancio di GPT-5.1, l’uso di “goblin” nelle risposte di ChatGPT è aumentato del 175%. L’uso di “gremlin” è aumentato del 52%.
OpenAI attribuisce il comportamento dei modelli a errori di addestramento involontari. Quando viene costruito un modello di intelligenza artificiale, i revisori umani approvano o negano risposte specifiche in un processo chiamato apprendimento per rinforzo. Questo aiuta a “insegnare” al modello quale risposta è corretta o preferibile. Uno di questi segnali di ricompensa period favorire il linguaggio che presentava goblin e altre creature. Ma veniva amplificato in una specifica impostazione ChatGPT.
ChatGPT ha numerous personalità che puoi indicare al chatbot da utilizzare. Nerdy, come puoi immaginare, fa sì che il chatbot adotti un finto senso di intelligenza amichevole per “minare la pretesa attraverso l’uso giocoso del linguaggio”, secondo il suggerimento interno utilizzato per descrivere la personalità dell’IA. È stato con questa personalità nerd che l’uso delle parole chiave goblin e gremlin è salito alle stelle.
Riferimenti a goblin e gremlin da parte delle personalità di ChatGPT.
Ma anche se non avessi usato la personalità nerd con ChatGPT, potresti aver visto metafore dei goblin apparire nelle tue chat. Questo perché la formazione sull’intelligenza artificiale non è isolata; ciò che accade in una parte può influenzare altre aree. “Una volta che un tic di stile viene premiato, la formazione successiva può diffonderlo o rafforzarlo altrove, soprattutto se tali risultati vengono riutilizzati nella messa a punto supervisionata o nei dati sulle preferenze”, ha affermato OpenAI.
Quando OpenAI ha ritirato l’opzione della personalità nerd a marzo con GPT-5.4, l’utilizzo di “goblin” è diminuito drasticamente. Ha anche rimosso il segnale di ricompensa che favoriva i goblin e ha filtrato i dati di addestramento per rendere meno probabile che i riferimenti alle creature comparissero nelle risposte. La società ha indagato sui casi di crescente amore dei goblin da quando GPT-5.1 è stato rilasciato a novembre.
Al di là delle battute su LOTR, lo sbarramento di goblin evidenzia un rischio reale con l’IA. Il modo in cui i creatori umani dell’intelligenza artificiale creano la tecnologia ha un impatto misurabile sulle nostre esperienze quotidiane con essa. Il rischio non è un flusso di metafore nerd: è disinformazione e pregiudizi. Sappiamo che i chatbot basati sull’intelligenza artificiale distorcono la verità per renderci felici, grazie a un problema chiamato servilismo dell’intelligenza artificiale. Piccoli tic stilistici, come i goblin, possono trasformarsi in problemi più grandi se non stiamo attenti.
