Gli agenti AI aziendali sono in fase di stallo, non a causa delle prestazioni del modello, ma a causa delle autorizzazioni. Ogni flusso di lavoro degli agenti alla superb si scontra con lo stesso muro: cosa può toccare questo agente, per conto di chi e come fa il sistema a saperlo?
La risposta di Workday è rendere il sistema di registrazione esistente il livello di governance per gli agenti. Gerrit Kazmaier, presidente dell’azienda per prodotti e tecnologia, ha dichiarato in un’intervista a VentureBeat che i clienti spesso hanno difficoltà quando mettono insieme soluzioni per i loro agenti.
“Sana si assicura che l’integrità delle approvazioni e del modello di sicurezza siano sempre rispettati”, ha affermato Kazmaier. “Francamente, è qui che vediamo i clienti in difficoltà quando cercano di creare un’intelligenza artificiale fai-da-te semplicemente accedendo ai dati grezzi, quindi la ricchezza del modello di sicurezza viene persa e i risultati diventano eccessivamente ampi.”
Giornata lavorativa, che ha lanciato Sana a marzoha ampliato la sua partnership con Google per portare il suo sistema di registrazione degli agenti Sana su Gemini Enterprise, in modo che anche gli agenti basati su Sana siano rilevabili lì.
Precisione architettonica
Kazmaier ha affermato che l’ostacolo più grande che hanno dovuto affrontare è stato garantire la precisione degli agenti, soprattutto per gli utenti delle risorse umane e del settore finanziario.
“Quasi giusto non è accettabile”, ha detto Kazmaier. “Pensate a pagare correttamente le persone, a chiudere i libri contabili o a gestire gli orari di lavoro in modo affidabile”.
La precisione è più difficile da valutare qui che nella maggior parte dei contesti di intelligenza artificiale. Le configurazioni delle coverage, la sicurezza basata sui ruoli e le gerarchie organizzative sono profondamente interconnesse: un piccolo errore aggravato. E a differenza della maggior parte dei risultati dell’intelligenza artificiale generativa, le question relative alle risorse umane e alla finanza spesso non dispongono di un ciclo di correzione. Nel momento in cui una busta paga viene elaborata in modo errato o un colloquio viene programmato in modo errato, il danno è fatto.
Workday ha risolto questo problema integrando Gemini come livello di ragionamento di base, quindi aggiungendovi il motore di contesto e la logica dei processi aziendali. Workday ha inoltre aggiunto modelli di verifica e classificazione che “interrogano” gli output prima dell’esecuzione.
Si scopre che accuratezza e identità sono la stessa questione: il sistema conosce abbastanza l’agente, la persona autorizzante e lo stato attuale del file per agire correttamente?
Il vantaggio di Workday è che può dedurre le strutture organizzative dei propri clienti dai dati forniti. Già oggi i supplier di identità di terze parti come Okta verificano le proprie informazioni controllando Workday, quindi il suo contesto è il sistema di registrazione per molte aziende. Kazmaier ha affermato che l’agente self-service di Sana utilizza Gemini come superficie di conversazione per attivare il flusso di lavoro. L’utente viene quindi autenticato e autorizzato tramite il modello di identità e sicurezza di Workday. Gli agenti Sana agiranno solo per conto di quell’utente e lavoreranno entro i limiti delle autorizzazioni attuali.
Gli audit path seguono la stessa logica: Gemini conserva solo i log delle interazioni, mentre l’audit principale rimane all’interno di Workday e del suo cliente.
Per molti professionisti nel settore delle risorse umane e della finanza, il livello di autorizzazione e governance nel sistema di registrazione degli agenti è fondamentale negli spazi regolamentati.
“Deve vivere nel sistema di registrazione, non è una preferenza, è l’unico modo in cui funziona”, ha affermato Dan Obendorfer, direttore del prodotto presso Würk, in un’e-mail a VentureBeat. “Se i tuoi permessi sono definiti da qualche parte al di fuori del luogo in cui risiedono effettivamente i dati, hai già perso.”
Kadan Stadelmann, chief expertise officer e co-fondatore di Compance.AI, ha sottolineato lo stesso punto separatamente. “Senza la proprietà, le prestazioni, i costi o le azioni degli agenti, ne consegue il caos”.
