OpenAI ha annunciato lunedì i suoi piani per l’acquisizione della piattaforma di sicurezza di intelligenza artificiale (AI) Promptfoo. Il colosso dell’intelligenza artificiale con sede a San Francisco ha dichiarato di essere in procinto di finalizzare l’accordo, che è attualmente soggetto alle consuete condizioni di chiusura. L’acquisizione consentirà al produttore di ChatGPT di integrare lo stack tecnologico di Promptfoo in OpenAI Frontier, una piattaforma di livello aziendale progettata per costruire, distribuire e gestire flotte di agenti IA. La società ha sottolineato che la libreria della piattaforma di sicurezza continuerà a rimanere open source con la licenza attuale.
OpenAI per acquistare Promptfoo
Nell’a inviareil colosso dell’intelligenza artificiale ha annunciato il suo ultimo obiettivo di acquisizione. Promptfoo è stata fondata nel 2024 da Ian Webster e Michael D’Angelo a San Francisco. È noto per il suo framework open source e lo strumento CLI (Command Line Interface) progettato per testare, valutare e red teaming applicazioni LLM (Large Language Model). Lo strumento open source è attualmente ospitato su GitHub con una licenza MIT permissiva per uso accademico e commerciale.
“Abbiamo avviato Promptfoo perché gli sviluppatori avevano bisogno di un modo pratico per proteggere i sistemi di intelligenza artificiale. Man mano che gli agenti di intelligenza artificiale diventano sempre più connessi a dati e sistemi reali, proteggerli e convalidarli è più impegnativo e importante che mai. Unirsi a OpenAI ci consente di accelerare questo lavoro, offrendo maggiori capacità di sicurezza, protezione e governance ai team che costruiscono sistemi di intelligenza artificiale nel mondo reale”, ha affermato Ian Webster, cofondatore e CEO di Promptfoo.
Una volta finalizzata l’acquisizione, OpenAI prevede di integrare lo stack tecnologico di Promptfoo nella sua piattaforma Frontier. La piattaforma focalizzata sull’impresa è stata lanciata a febbraio ed è un centro di controllo centrale per agenti autonomi. L’azienda di intelligenza artificiale afferma che le aziende che implementano agenti AI nei flussi di lavoro richiedono metodi sistemici per testare il comportamento degli agenti, rilevare i rischi prima dell’implementazione e mantenere registri chiari, e la nuova tecnologia aiuterà a sviluppare tutto ciò su Frontier.
Alcune delle nuove funzionalità principali che Promptfoo consentirà includono nuovi strumenti di sicurezza e test di protezione che aiutano le aziende a identificare e risolvere i principali rischi come iniezioni tempestive, jailbreak, fughe di dati, uso improprio degli strumenti e altro ancora.
OpenAI Frontier creerà inoltre strumenti di valutazione che identificheranno, indagheranno e risolveranno i rischi degli agenti all’interno dei flussi di lavoro e offriranno reporting e tracciabilità per consentire loro di tenere traccia dei test, monitorare i cambiamenti nel tempo e soddisfare le aspettative di governance, rischio e conformità.
