Segui ZDNET: Aggiungici come fonte preferita su Google.
I principali punti salienti di ZDNET
- Cisco afferma che DefenseClaw è la supervisione che manca nell’intelligenza artificiale degli agenti.
- DefenseClaw bloccherà automaticamente alcune operazioni degli agenti.
- Cisco entra in un campo affollato di società di sicurezza che offrono supervisione di agenti.
L’intelligenza artificiale agentica, quella che controlla automaticamente la tua posta elettronica o prenota i tuoi voli, ha fatto scalpore da un giorno all’altro, catturando l’immaginazione ma presentando anche enormi rischi per la sicurezza.
Una reazione naturale da parte dei fornitori di software program aziendale è quella di aiutare gli agenti “buoni” e bloccare gli agenti “cattivi”.
E così, lunedì, il colosso delle reti e della sicurezza Cisco Programs ha presentato DefenseClaw, un’opera teatrale sul nome del framework di intelligenza artificiale open supply OpenClaw che ha raggiunto la popolarità a gennaio.
Anche: Agenti IA del caos? Una nuova ricerca mostra come i robotic che parlano con i robotic possano andare lateralmente velocemente
DefenseClaw è il “livello operativo” per la sicurezza degli agenti che è mancato, secondo DJ Sampath, responsabile del software program AI di Cisco. È uno strumento di supervisione che “manterrà governato un artiglio”, ha scritto in un post sul blog. “È zero per l’artiglio governato in meno di cinque minuti.”
DefenseClaw lo sarà pubblicato su GitHub a partire dal 27 marzo, ha detto Sampath.
Governa gli artigli
Annunciato questa settimana alla fiera annuale sulla sicurezza RSA a San Francisco, DefenseClaw ha lo scopo di affrontare la mancanza di progetti di agenti in produzione, secondo Cisco.
Solo il 5% dell’intelligenza artificiale aziendale è passata dal take a look at alla produzione, secondo un sondaggio dei “grandi clienti aziendali” che Cisco ha affermato di aver condotto di recente.
Sampath ha sottolineato che OpenClaw sta rapidamente diventando il maggiordomo di ogni nerd per qualsiasi compito. OpenAI ha assunto Pietro Steinbergeril creatore di OpenClaw, e Nvidia hanno offerto la propria versione del framework agentic, NemoClaw.
“Io e mia moglie lo usiamo per pianificare gli impegni dei nostri figli. Ho creato un’abilità di agente che richiama il menu del pranzo scolastico ogni mattina come promemoria”, ha raccontato. Il suo punto è che gli agenti tramite OpenClaw, l’offerta open supply di Nvidia NemoClaw o altri progetti open supply si stanno rapidamente espandendo in modo non governato e di base.
Il sottotesto del weblog di Sampath è: gli artigli sono fuori; meglio iniziare a pensarci in modo sicuro.
(In uno sviluppo correlato, Meta, proprietaria di Fb, Instagram e WhatsApp, sta acquisendo la piattaforma social bot Moltbook, che è stata una vetrina del bene e del male di ciò che può accadere quando OpenClaw viene utilizzato nella sua massima estensione.)
Secondo Sampath, DefenseClaw è progettato per collegarsi e utilizzare una varietà di strumenti. OpenShell, il software program sandbox di codice presentato da Nvidia la scorsa settimana alla conferenza GTC, è importante, così come lo sono gli strumenti di scansione di Cisco, ha osservato. “Ma chi gestisce gli elenchi dei blocchi? Chi vede gli avvisi quando qualcosa va storto alle 2 del mattino? Questo è DefenseClaw.”
Anche: Nvidia scommette su OpenClaw, ma aggiunge un livello di sicurezza: come funziona NemoClaw
DefenseClaw fa tre cose, ha spiegato Sampath.
Innanzitutto, esegue la scansione di ogni pezzo di codice prima di essere eseguito. “Ogni abilità, ogni strumento, ogni plugin, prima che sia consentito nel tuo ambiente Claw, e ogni pezzo di codice generato dal Claw viene scansionato.” L’operazione di scansione è composta da più strumenti individuali, come lo strumento di scansione delle competenze open supply di Cisco.
In secondo luogo, lo strumento rileva le minacce eseguendo la scansione di tutti i messaggi in entrata e in uscita dall’agente in fase di esecuzione.
In terzo luogo, DefenseClaw bloccherà automaticamente una “abilità”, come un account del server di posta elettronica, rimuovendo tali autorizzazioni dalla sandbox. La sandbox, in questo caso, potrebbe essere OpenShell di Nvidia. Sampath ha sottolineato che la prevenzione automatica delle operazioni “non sono suggerimenti; sono muri”.
Sampath ha fornito un esempio di esecuzione dello strumento dalla riga di comando per eseguire prima la scansione di un’operazione di installazione di OpenClaw:
Installa l’abilità defenceclaw neighborhood/jira-triage
Con story richiesta, DefenseClaw “eseguirebbe prima la scansione, controllerà gli elenchi di blocco/autorizzazione, genererebbe un manifest e solo successivamente si installerebbe. Niente oltrepassa il cancello di ammissione”.
Cisco sta utilizzando il suo strumento di analisi dei registri Splunk come sistema di monitoraggio dei report per tutti gli artigli, ha affermato Sampath. “Ogni artiglio nasce osservabile”, ha scritto, “Tutti confluiscono in Splunk come eventi strutturati nel momento in cui il tuo artiglio diventa on-line”.
In effetti, Cisco ha annunciato various estensioni aggiuntive di Splunk intese a rendere lo strumento più simile a un centro operativo di sicurezza automatizzato (SOC).
Advert esempio, un Guided Response Agent, la cui versione alpha sarà disponibile “presto”, ha affermato Cisco, “aiuterà i crew SOC a passare dall’ipotesi di rilevamento alla produzione in pochi minuti con precisione, consentendo ai crew di importare, ottimizzare e taggare rapidamente i rilevamenti”.
L’thought è quella di digitare una richiesta all’agente al immediate, come la reputazione di un determinato URL, e restringerà ciò che deve essere controllato.
Guided Response Agent di Cisco all’interno del centro operativo di sicurezza (SOC) Splunk.
Sistemi Cisco
Un toolkit su più fronti
DefenseClaw è uno dei tanti elementi di un toolkit di sicurezza AI agentico offerto da Cisco annunciato lunedì. Altre parti includono miglioramenti a Cisco Safe Entry per applicare la verifica dell’identità dell’agente e il controllo degli accessi e per applicare process zero-trust a ciascun agente creato.
Anche: Gli agenti IA sono veloci, sciolti e fuori controllo, secondo uno studio del MIT
Cisco ha affermato che sta andando oltre la semplice scansione del codice con l’introduzione di strumenti per i potenziali rischi del crew rosso, ovvero la simulazione delle minacce del mondo reale.
Una nuova offerta, Cisco AI Defense: edizione Explorer“condurrà take a look at contraddittori su più turni per modelli e applicazioni che alimentano i flussi di lavoro degli agenti” ed esaminerà i modelli di intelligenza artificiale stessi per “convalidare la resistenza all’iniezione tempestiva, ai jailbreak e advert altri risultati non sicuri”.
Cisco offre anche un SDK di runtime dell’agente che, secondo lui, “incorporerà l’applicazione delle coverage” nel codice man mano che viene sviluppato.
Un campo affollato
Cisco ottiene suggerimenti per offrire un marchio intelligente con DefenseClaw in quello che diventerà un mercato molto affollato. Quasi tutti i fornitori aziendali si impegnano a proteggere, autenticare e potenzialmente bloccare gli agenti in produzione.
Ciò embody le tradizionali aziende di sicurezza informatica che gestiscono zero belief, come Palo Alto Networks e Zscaler; le aziende DevOps che hanno gestito la scansione del codice, come JFrog e GitLab; e le società di osservabilità che offrono strumenti per la supervisione del codice sia in fase di sviluppo che in fase di esecuzione, come Dynatrace e Datadog.
E poi ci sono Anthropic, OpenAI e Google, che offrono tutti strumenti per la scansione del codice e attività correlate.
Anche: L’intelligenza artificiale renderà la sicurezza informatica obsoleta o la Silicon Valley sta di nuovo confabulando?
Resta da vedere se il controllo di Cisco sulle reti aziendali (detiene una quota dominante nel campus aziendale e nel routing e switching su vasta space) darà all’azienda un vantaggio rispetto a molte altre offerte. Inoltre, non è ancora chiaro se le aziende cederanno l’intera questione ai propri crew addetti alle operazioni di sicurezza o semplicemente spingeranno gli sviluppatori a stare più attenti con il loro codice fin dall’inizio.
Alcune imprese potrebbero semplicemente alzare le mani e vietare del tutto gli “artigli”.
