Poiché i modelli di intelligenza artificiale continuano a diventare più potenti, non sorprende troppo che alcune persone cerchino di usarli per il crimine.
Lunedì il Google Risk Intelligence Group ha dichiarato di aver identificato, per la prima volta, un gruppo di criminalità informatica che utilizza un exploit zero-day che la società ritiene sia stato scoperto con l’assistenza dell’intelligenza artificiale. Una vulnerabilità zero-day si riferisce a un grave difetto di sicurezza nel software program o nell’{hardware} che è sconosciuto ai suoi sviluppatori, lasciando loro “zero giorni” per correggerlo prima che gli aggressori possano sfruttarlo.
L’autore della minaccia, che Google non ha nominato ma descritto come un gruppo di criminalità informatica “importante”, avrebbe pianificato di utilizzare la falla in una campagna di sfruttamento di massa. Google ritiene di aver impedito l’utilizzo dell’exploit.
Secondo il Rapporto GTIGl’analisi di Google degli exploit legati alla campagna ha rilevato una vulnerabilità zero-day incorporata in uno script Python. L’exploit avrebbe consentito agli hacker di aggirare l’autenticazione a due fattori su uno strumento di amministrazione di sistema basato sul net, senza nome ma popolare e open supply. Google ha osservato che gli hacker avrebbero comunque avuto bisogno di credenziali utente valide affinché l’exploit funzionasse.
GTIG ha affermato di aver collaborato con il fornitore interessato per divulgare e risolvere la falla di sicurezza.
Il rapporto prosegue affermando che Google ha “elevata fiducia”, in base alla struttura e al contenuto degli exploit, che gli hacker abbiano probabilmente utilizzato un modello di intelligenza artificiale per scoprire e utilizzare come arma la falla.
“Advert esempio, lo script contiene un’abbondanza di docstring educativi, incluso un punteggio CVSS allucinato, e utilizza un formato Python strutturato da libro di testo altamente caratteristico dei dati di formazione LLM (advert esempio, menu di aiuto dettagliati e la classe di colore ANSI _C pulita)”, si legge nel rapporto.
Google rileva inoltre che non crede che sia stato utilizzato il proprio modello Gemini.
La notizia arriva in un contesto di crescente attenzione sulle minacce alla sicurezza informatica poste dai modelli avanzati di intelligenza artificiale, soprattutto in seguito al rilascio limitato del modello Mythos di Anthropic. Anthropic ha reso Mythos disponibile solo a un gruppo selezionato di aziende, organizzazioni e governi attraverso un programma pensato per aiutarli a testare e rafforzare la loro sicurezza informatica.
Il rilascio limitato ha suscitato abbastanza scalpore da spingere l’amministrazione Trump a prendere in considerazione l’thought di abbandonare le sue polemiche con Anthropic e accordi sicuri con più aziende di intelligenza artificiale per consentire al governo di rivedere i propri modelli prima del rilascio pubblico.
Tuttavia, non tutti sono convinti che Mythos sia un grosso problema come si crede.
Nell’a articolo del blog lunedì, lo sviluppatore capo di Curl Daniel Stenberg ha definito l’hype attorno a Mythos principalmente come una “trovata di advertising di successo”.
Stenberg ha scritto di aver partecipato al progetto Glasswing di Anthropic, che consente alle aziende di inviare il proprio codice advert Anthropic per essere analizzato da Mythos per individuare eventuali difetti di sicurezza.
Lo sviluppatore alla tremendous ha ricevuto un rapporto da Anthropic che elencava cinque “vulnerabilità di sicurezza confermate”. Ma dopo un esame più attento, Stenberg e il suo group hanno stabilito che solo uno di essi rappresentava un problema di sicurezza legittimo e sconosciuto.
“La mia personale conclusione tuttavia non può che concludersi con il fatto che finora il grande clamore attorno a questo modello è stato principalmente di advertising”, ha scritto Stenberg. “Non vedo alcuna prova che questa configurazione rilevi problemi a un livello particolarmente elevato o più avanzato rispetto a quanto hanno fatto gli altri strumenti prima di Mythos.”
