Anthropic sta indagando su una possibile violazione di Mythos, un nuovo modello della società di intelligenza artificiale srotolato a un piccolo gruppo di aziende all’inizio di questo mese per aiutarle a rilevare le vulnerabilità del software program.
La società di intelligenza artificiale dietro il chatbot Claude sta esaminando un rapporto di accesso non autorizzato a Mythos da uno dei suoi ambienti di fornitori di terze parti, ha detto a CBS Information in una e-mail un portavoce di Anthropic.
Anthropic collabora con un numero limitato di fornitori di terze parti per sviluppare i propri modelli di intelligenza artificiale. Finora, la società non ha rilevato alcuna violazione al di fuori dell’ambiente del proprio fornitore o alcuna compromissione dei sistemi Anthropic.
Mercoledì, il giorno dopo, Anthropic ha confermato le sue indagini sulla possibile violazione di Mythos Bloomberg ha riferito che un piccolo gruppo di utenti non autorizzati aveva avuto accesso allo strumento, citando una persona a conoscenza della questione.
Anthropic ha rilasciato Mythos a un gruppo limitato advert aprile come parte di uno sforzo chiamato Undertaking Glasswing, definendo il nuovo modello più efficace dei sistemi di intelligenza artificiale concorrenti nel rilevare le vulnerabilità del software program.
All’epoca, Anthropic condivideva lo strumento solo con un piccolo gruppo di grandi aziende, tra cui Amazon, Apple, Cisco, JPMorgan Chase e Nvidia, nel timore che il nuovo modello potesse essere sfruttato dagli hacker. L’obiettivo period aiutare queste aziende a rafforzare le loro difese prima che i malintenzionati possano accedere a Mythos o modelli di intelligenza artificiale simili.
Funzionari federali, esperti di sicurezza e chief di istituzioni globali come il Fondo monetario internazionale hanno tutti espresso preoccupazione su cosa potrebbe accadere se Mythos cadesse nelle mani sbagliate. Sebbene il progetto Glasswing abbia lo scopo di aiutare le aziende a isolarsi dalle minacce alla sicurezza informatica, alcuni esperti temono che Mythos possa essere utilizzato anche per sfruttare l’infrastruttura IT di banche, ospedali, sistemi governativi e altre organizzazioni.
“Dobbiamo prepararci, perché non potremmo tenere il passo con i cattivi quando sono gli umani advert hackerare le nostre reti”, ha affermato in precedenza Alissa Valentina Knight, CEO della società di sicurezza informatica AI Assail. ha detto a CBS News.” Certamente non possiamo tenere il passo ora se usano l’intelligenza artificiale perché è molto più veloce e più capace in modo devastante.
