Moxie Marlinspike, il sostenitore della privateness che ha creato l’app di comunicazione sicura Sign e il suo protocollo di crittografia open supply ampiamente utilizzato, disse questa settimana che la sua piattaforma AI incentrata sulla privateness, Conferireinizierà a incorporare la sua tecnologia nei sistemi di intelligenza artificiale di Meta.
Ogni giorno, miliardi di messaggi di chat inviati tramite Sign, WhatsApp di Meta e Messaggi di Apple sono protetti dalla crittografia end-to-end. La funzionalità, che rende impossibile alle aziende tecnologiche e a chiunque altro oltre al mittente e al destinatario di curiosare sui tuoi messaggi, è diventata mainstream negli ultimi dieci anni. Tuttavia, man mano che le piattaforme di intelligenza artificiale generativa esplodono in popolarità, le persone ora scambiano anche miliardi di messaggi al giorno con chatbot di intelligenza artificiale che non offrono la protezione della crittografia end-to-end, rendendo facile per le aziende di intelligenza artificiale accedere a ciò di cui parli.
Ciò è dovuto alla progettazione, dato che le piattaforme spesso vogliono addestrare i loro modelli di intelligenza artificiale sul maggior numero possibile di dati utente e hanno reso difficile rinunciare all’utilizzo delle informazioni come dati di addestramento. Ma poiché i chatbot e gli agenti di intelligenza artificiale sono diventati più capaci, alcuni tecnologi e aziende stanno spingendo per creare sistemi più vincolati e incentrati sulla privateness.
“Poiché i LLM continuano a essere in grado di fare di più, dovremmo aspettarci che al loro interno confluiscano ancora più dati”, ha scritto Marlinspike in un breve post sul blog sulla sua collaborazione con Meta pubblicata martedì. “Al momento, nessuno di questi dati è privato. Sono condivisi con aziende di intelligenza artificiale, i loro dipendenti, hacker, mandati di comparizione e governi. Come sempre accade con i dati non crittografati, finiranno inevitabilmente nelle mani sbagliate.”
Marlinspike ha scritto che “lavorerà per integrare la tecnologia della privateness di Confer in modo che sia alla base di Meta AI”. Ha inoltre sottolineato che Conferire, che ha debuttato all’inizio di quest’anno, continuerà advert operare in modo indipendente da Meta. L’obiettivo del progetto, ha aggiunto Marlinspike, è quello di offrire una tecnologia che “permetta a tutti di ottenere tutta la potenza dell’intelligenza artificiale insieme alla piena privateness di una conversazione crittografata”.
Nel 2016, Marlinspike ha collaborato con WhatsApp, di proprietà di Meta, per implementare la crittografia end-to-end su più di un miliardo di account contemporaneamente. Nell’ultimo anno, WhatsApp ha introdotto nella sua app un chatbot Meta AI, che non è protetto dall’azienda come lo sono le chat individuali.
“Le persone usano l’intelligenza artificiale in modi profondamente personali e richiedono l’accesso a informazioni riservate”, ha affermato Will Cathcart, capo di WhatsApp ha scritto mercoledì sulla piattaforma social X sulla collaborazione con Confer. “È importante costruire quella tecnologia in modo da dare alle persone il potere di farlo in privato.”
L’adozione dell’intelligenza artificiale crittografata è ancora emergente. Gli schemi crittografici utilizzati nella crittografia end-to-end per la comunicazione digitale tradizionale non sono facilmente o direttamente traducibili in protezione dei dati per l’intelligenza artificiale generativa. Da parte sua, Confer è ancora un progetto nuovo e il put up sul weblog di Marlinspike non ha fornito dettagli specifici su come funzionerà esattamente la collaborazione con Meta o quali siano gli obiettivi specifici per l’integrazione.
Né Marlinspike né Meta hanno fornito a WIRED ulteriori commenti prima della pubblicazione.
Mallory Knodel, ricercatrice di crittografia presso la New York College, afferma che sarebbe “ottimo per le persone che utilizzano chatbot che utilizzano Meta AI mantenere riservatezza e privateness all’interno di story scambio”. Fondamentalmente, ciò significa che Meta non sarebbe in grado di accedere ai dati della chat AI per la formazione, afferma Knodel, che insieme ai colleghi ha recentemente pubblicato uno studio studio sulla crittografia end-to-end e sull’intelligenza artificiale. “Spero davvero che più chatbot basati sull’intelligenza artificiale adottino questo approccio.”
Prime valutazioni preliminari di Knodel su Confer indicare che la piattaforma non è perfetta, ma è un esempio importante di come costruire un chatbot AI privato.
