Il 77% dei supervisor IT afferma che i propri agenti IA sono fuori controllo: 5 modi per tenere sotto controllo il tuo

Segui ZDNET: Aggiungici come fonte preferita su Google.

I principali punti salienti di ZDNET

• Solo il 23% dei responsabili IT ha il controllo completo sui propri agenti.
• La maggioranza ritiene che le barriere di sicurezza saranno inadeguate entro i prossimi sei mesi.
• La gestione degli agenti deve essere una “disciplina di prima classe”.

Gli agenti IA, così facili da creare, stanno proliferando fuori dal controllo di tutti. E questo sta diventando un problema che potrebbe compromettere tutti i benefici che stanno offrendo.

Questa è la conclusione di un articolo appena pubblicato sondaggio da Rubrik ZeroLabs, che rileva che meno di un supervisor IT su quattro (23%) afferma di avere il controllo “completo” sugli agenti all’interno delle proprie organizzazioni. A peggiorare le cose, questi agenti non forniscono necessariamente la produttività ricercata. La maggioranza, l’81%, riferisce che gli agenti di loro competenza richiedono più tempo per l’auditing e il monitoraggio manuale di quanto avrebbero dovuto risparmiare tramite miglioramenti del flusso di lavoro. Anche la sicurezza è tutt’altro che eccezionale, aggiunge il sondaggio.

Inoltre: la scalabilità dell’AI agente richiede una solida base di dati: 4 passaggi da eseguire prima

Creare agenti IA è facile e il problema è che “gli utenti spesso disattivano le VPN o altrimenti eludono i controlli di sicurezza per far sì che gli agenti agiscano come assistenti”, affermano gli autori del rapporto. Il risultato è un grande quantity di applicazioni IA non autorizzate, sia internamente che lanciate dai fornitori.

La diffusione incontrollata degli agenti assomiglia all’adozione precoce del cloud

In tutto il settore si teme che gli agenti stiano iniziando a sfuggire di mano, con la proliferazione degli agenti ormai un problema pervasivo. “Stiamo già assistendo a modelli simili all’adozione precoce del cloud, in cui i group creano agenti in modo indipendente utilizzando framework e fornitori diversi”, ha affermato Kriti Faujdar, senior product supervisor di Microsoft. “Ciò porta alla frammentazione, a una governance incoerente e a lacune nascoste nella sicurezza.”

Gli autori dell’indagine ZeroLabs hanno riscontrato una disconnessione tra il controllo percepito e la realtà operativa tra gli agenti. Quasi tutti i supervisor IT, l’86%, prevedono che la proliferazione degli agenti supererà le barriere di sicurezza nel prossimo anno. Più della metà (52%) prevede che ciò accada entro i prossimi sei mesi. Inoltre, quasi tutti gli intervistati indicano di non avere le funzionalità di “annullamento” necessarie per ripristinare le azioni involontarie dell’agente.

Inoltre: come creare agenti IA migliori per la tua azienda, senza creare problemi di fiducia

Con la proliferazione di agenti nei sistemi aziendali, gli osservatori del settore temono che story espansione stia diventando troppo difficile da gestire e contenere. “Qualsiasi group con accesso API può creare un agente in un pomeriggio”, ha affermato Nik Kale, ingegnere principale della Coalition for Safe AI. “Moltiplicandolo in una grande azienda, si ottengono centinaia di agenti con autorizzazioni sovrapposte, nessun modello di identità coerente e nessuno che possa dirti l’inventario completo.”

L’osservabilità degli agenti può essere notoriamente impegnativa e gli autori di ZeroLabs sottolineano una crescente necessità di telemetria per comprendere le catene di azioni degli agenti, punteggiate da punti di applicazione della sicurezza.

5 domande post-distribuzione

Monitorare la vitalità degli agenti significa rispondere alle seguenti domande dopo l’implementazione, come identificato dagli autori dello studio ZeroLabs:

1. Cosa ha fatto l’agente? Chiamata traccia, questa è la capacità di riprodurre o almeno ricostruire esattamente ciò che è accaduto.
2. Perché lo ha fatto? Cosa credeva l’agente che lo avesse spinto a compiere determinati passi?
3. Cosa ha toccato? Gli audit path devono contenere un elenco completo di tutti i dati o strumenti con cui un agente ha interagito.
4. Ha avuto successo, in modo sicuro e a quale costo? In che modo le organizzazioni misurano il tasso di successo delle attività, i risultati citati, le violazioni delle coverage o le escalation umane per una comprensione accurata del ROI?
5. Dove ha fallito? Possiamo riprodurre il fallimento per risolverlo?

Queste sono domande a cui attualmente non è stata knowledge risposta, si legge nel rapporto. Di conseguenza, molti amministratori e le loro organizzazioni non sono in grado di “definire il comportamento accettabile degli agenti; verificare a quali risorse e strumenti gli agenti possono accedere; creare coverage per attivare un essere umano nel ciclo; o ripristinare le azioni degli agenti”.

Commerce-off tra velocità e governance

Poiché gli agenti agiscono in modo autonomo, rappresentano un rischio maggiore rispetto ai software program tradizionali, ha affermato Faujdar. Nel contesto odierno esiste un compromesso tra velocità e governance. “Le organizzazioni vogliono muoversi velocemente, ma senza barriere chiare, rischiano di creare sistemi di cui è difficile fidarsi, controllare o scalare. I vincitori saranno coloro che tratteranno la gestione degli agenti non come un ripensamento, ma come una disciplina di prima classe.”

Anche mantenere aggiornati gli agenti è una sfida fastidiosa, poiché i loro modelli di base tendono advert andare alla deriva. “L’agente che hai certificato nel primo trimestre si comporta in modo diverso rispetto al terzo trimestre, senza colpa della piattaforma”, ha affermato Renze Jongman, fondatore e CEO di Liberty91. “Il vostro modello di governance deve presupporre che i movimenti del terreno si muovano.”

Inoltre: ho chiesto a 5 chief dei dati come utilizzano l’intelligenza artificiale per automatizzare e porre positive agli incubi dell’integrazione

A questo punto, ci sono “troppi agenti che operano al di fuori di qualsiasi confine di governance, compresi quelli che i group costruiscono da soli”, ha affermato Kale, che consiglia di mantenere il livello di orchestrazione nello stack degli agenti separato dal modello e dai livelli di governance. “Se tutti e tre vivono all’interno della piattaforma di un fornitore, hai consegnato il cervello del tuo agente, i suoi permessi e la sua catena di responsabilità in un unico contratto.”

La supervisione degli agenti, ha aggiunto Kale, “dovrebbe coinvolgere la sicurezza, l’architettura e l’unità aziendale che possiede i risultati, non solo il group che vuole consegnarli il più velocemente possibile”.