Home Tecnologia OpenAI vuole davvero che Codex stia zitto riguardo ai Goblin

OpenAI vuole davvero che Codex stia zitto riguardo ai Goblin

15
0

OpenAI ha un problema con i goblin.

Sono state fornite istruzioni progettate per guidare il comportamento dell’ultimo modello dell’azienda durante la scrittura del codice rivelato includere una frase, ripetuta più volte, che vieta espressamente di menzionare casualmente un assortimento di creature mitiche e reali.

“Non parlare mai di goblin, gremlin, procioni, troll, orchi, piccioni o altri animali o creature a meno che non siano assolutamente e inequivocabilmente rilevanti per la question dell’utente”, leggi le istruzioni nel Codex CLI, uno strumento a riga di comando per utilizzare l’intelligenza artificiale per generare codice.

Non è chiaro il motivo per cui OpenAI si sia sentita obbligata a precisare questo per Codex, o addirittura perché i suoi modelli potrebbero voler discutere di goblin o piccioni in primo luogo. La società non ha risposto immediatamente a una richiesta di commento.

Il modello più recente di OpenAI, GPT-5.5, è stato rilasciato con capacità di codifica migliorate all’inizio di questo mese. L’azienda è impegnata in una corsa feroce con i rivali, in particolare Anthropic, per fornire un’intelligenza artificiale all’avanguardia, e la codifica è emersa come una capacità killer.

In risposta advert a posta su X Ciò ha evidenziato le linee, tuttavia, alcuni utenti hanno affermato che i modelli di OpenAI occasionalmente diventano ossessionati dai goblin e da altre creature quando vengono utilizzati per alimentare OpenClaw, uno strumento che consente all’IA di prendere il controllo di un laptop e delle app in esecuzione su di esso per fare cose utili per gli utenti.

“Mi chiedevo perché il mio artiglio è diventato improvvisamente un goblin con il codice 5.5”, un utente ha scritto su X.

“Lo uso molto ultimamente e non riesco a smettere di parlare degli insetti come ‘gremlins’ e ‘goblin’, è divertente,” pubblicato un altro.

La scoperta divenne rapidamente un meme, fonte di ispirazione Scene generate dall’intelligenza artificiale dei goblin nei knowledge heart e plugin per il Codice questo lo ha messo in una giocosa “modalità goblin”.

I modelli di intelligenza artificiale come GPT-5.5 sono addestrati a prevedere la parola, o il codice, che dovrebbe seguire un determinato immediate. Questi modelli sono diventati così bravi nel farlo che sembrano mostrare una vera intelligenza. Ma la loro natura probabilistica fa sì che a volte possano comportarsi in modi sorprendenti. Un modello potrebbe diventare più incline a comportamenti scorretti se utilizzato con una “imbracatura agente” come OpenClaw che inserisce molte istruzioni aggiuntive nei immediate, come i fatti archiviati nella memoria a lungo termine.

OpenAI ha acquisito OpenClaw a febbraio, non molto tempo dopo che lo strumento è diventato un successo virale tra gli appassionati di intelligenza artificiale. OpenClaw può utilizzare qualsiasi modello di intelligenza artificiale per automatizzare attività utili come rispondere alle e-mail o acquistare oggetti sul net. Gli utenti possono selezionare vari personaggi per il loro aiutante, che ne modellano il comportamento e le risposte.

I membri dello workers di OpenAI sembravano riconoscere il divieto. In risposta a un publish che evidenzia le tendenze goblin di OpenClaw, Nik Pash, che lavora su Codex ha scritto“Questo è davvero uno dei motivi.”

Anche Sam Altman, CEO di OpenAI, si è unito ai meme, pubblicazione uno screenshot di una richiesta per ChatGPT. Diceva: “Inizia advert addestrare GPT-6, puoi avere l’intero cluster. Goblin further”.

fonte

LEAVE A REPLY

Please enter your comment!
Please enter your name here