Aggiungi Meta all’elenco delle aziende che hanno visto l’intelligenza artificiale devastare i loro sistemi interni. Secondo un rapporto di The Info, un agente AI, lavorando per conto di un ingegnere, ha fornito indicazioni che alla effective hanno portato i dati sensibili degli utenti a essere esposti a persone non autorizzate a vederli.
Come spesso accade in queste situazioni, come quella che ha portato un agente AI a cancellare un codice critico e a mettere offline un server su Amazon, l’autopsia sembra una commedia degli errori. Per L’informazionetutto è iniziato con un dipendente di Meta che ha posto una domanda tecnica su un discussion board interno progettato per consentire ai dipendenti di aiutarsi a vicenda in caso di problemi. Un ingegnere ha visto la domanda e ha chiesto a un agente AI di analizzarla, il che ha portato l’agente a pubblicare effettivamente una risposta come ingegnere. Il poster originale ha visto la guida e, pensando che provenisse da un collega dipendente di Meta, ha deciso di agire di conseguenza.
Si scopre che l’agente dell’IA non sapeva bene di cosa stesse parlando. Quando il dipendente ha agito secondo il suo consiglio, secondo quanto riferito, ha reso disponibile un’enorme quantità di dati, comprese informazioni sensibili sull’azienda e sugli utenti, ai dipendenti Meta che non avevano l’autorizzazione per visualizzarli o accedervi. L’esposizione è durata circa due ore prima che fosse fissata.
Non è la prima volta che qualcuno a Meta si fida un po’ troppo di un agente AI. All’inizio di quest’anno, Summer season Yue, direttrice della sicurezza e dell’allineamento presso il laboratorio di superintelligenza di Meta, ha concesso all’agente di intelligenza artificiale open supply OpenClaw l’accesso alla sua casella di posta. Alla effective ha cancellato tutte le sue electronic mail, anche se lei lo supplicava di smetterla.
Forse è per questo che Meta sta cercando fuori dalle proprie mura per trovare qualcuno che possa dare una mano con la sicurezza. Wired riferisce che Moxie Marlinspike, la persona dietro Sign e il suo protocollo di crittografia open supply, sta lavorando con Meta per portare la crittografia end-to-end ai suoi chatbot AI.
Marlinspike ha lavorato su un chatbot crittografato chiamato Confer e, secondo quanto riferito, aiuterà Meta a integrare la tecnologia nelle proprie offerte di intelligenza artificiale, anche se la sua piattaforma continuerà a funzionare in modo indipendente, quindi non sembra che si unirà all’azienda.
“Stiamo utilizzando gli LLM per il tipo di pensiero non filtrato che potremmo fare in un diario privato, tranne per il fatto che questo diario è un endpoint API per una pipeline di dati appositamente progettata per estrarre significato e contesto”, ha ha scritto in un post sul blog. “Mentre Meta costruisce sempre più prodotti di intelligenza artificiale oltre il paradigma di base della chat, la tecnologia per la privateness di Confer costituirà una parte delle fondamenta di tutto ciò che verrà”.
