Anthropic inizialmente ha fatto firmare agli utenti del modello Claude Mythos Preview accordi di riservatezza per impedire la condivisione dei risultati. secondo il Wall Street Journalma il Journal cube che tutto è cambiato la scorsa settimana.
Fino advert ora, la cosa più importante da tenere a mente su Claude Mythos Preview, presumibilmente il modello di intelligenza artificiale più spaventoso al mondo, è stata la sua segretezza. Per utilizzarlo, dovresti essere uno dei VIP autorizzati a partecipare al Mission Glasswing, un gruppo molto selezionato di circa 50 aziende e organizzazioni.
Se tu Sono uno dei tester di Claude Mythos Preview che partecipano al Mission Glasswing, dovresti usare il modello per trovare vulnerabilità di sicurezza, e la sensazione fin dall’inizio period che i partecipanti avessero una schiacciante responsabilità nelle loro mani di mantenere tutto segreto, come se il destino del mondo dipendesse dalla segretezza.
Ma secondo il Journal, il rappresentante democratico Josh Gottheimer ha scritto una lettera advert Anthropic lamentandosi di ciò. “A nessuna entità dovrebbe essere imposto contrattualmente di avvisare gli altri, coordinare misure di mitigazione o informare le parti interessate rilevanti e fidate sui rischi informatici urgenti”, ha scritto Gottheimer.
Il rapporto del Journal, pubblicato lunedì, fa sembrare che Anthropic abbia faticato a trovare la sua posizione sulla questione di cosa si può fare con i risultati di Mythos Preview. Un portavoce anonimo di Anthropic ha dichiarato al Journal: “La tutela della riservatezza è stata qualcosa che i accomplice hanno chiesto all’inizio e è stata incorporata negli accordi firmati dai accomplice”, ma ha aggiunto che Glasswing è “maturato” e gli accordi con gli utenti si sono evoluti “per garantire che le informazioni chiave possano essere condivise ampiamente”, anche oltre i limiti del progetto Glasswing.
Un altro evento accaduto una settimana fa è stato l’annuncio di un programma simile, chiamato Dawn, da parte del principale concorrente di Anthropic, OpenAI. Dawn si è rivelato molto meno riservato rispetto al Mission Glasswing fin dall’inizio, consentendo a chiunque di compilare un breve modulo e richiedere la scansione della propria base di codice dall’ultimo modello di sicurezza informatica di OpenAI. L’amministratore delegato Sam Altman pubblicato su X che gli piacerebbe lavorare con “quante più aziende possibile adesso”.
Sembra che le aziende abbiano già iniziato a parlare pubblicamente di ciò che Mythos Preview ha mostrato loro. Advert esempio, non ho potuto fare a meno di notare che Grant Bourzikas, responsabile della sicurezza di Cloudflare, ha pubblicato un post sul blog lunedì su ciò che lui e la sua azienda hanno scoperto armeggiando con Mythos Preview. È un publish informativo, che descrive Mythos Preview come simile advert altri LLM di ricerca bug, ma aggiunge: “Ciò che è cambiato con Mythos Preview è che un modello può ora prendere quei bug di bassa gravità (che tradizionalmente rimarrebbero invisibili in un backlog) e concatenarli in un unico exploit più grave.”
Ma c’è una coda intrigante alla advantageous del publish. Bourzikas promette di condividere presto ulteriori risultati con i clienti e afferma: “Se il tuo workforce sta svolgendo un lavoro simile e desidera confrontare le notice, contattaci”, quindi fornisce un indirizzo e-mail.
Quindi il velo di segretezza attorno a Claude Mythos Preview sembra che sia stato sollevato leggermente. I ragazzi di Anthropic avranno sicuramente la sensazione che il loro modello stia perdendo parte della sua mistica, ma un’aria di mistero attorno a un LLM non è qualcosa che può durare per sempre.
