Multiverse Computing spinge i suoi modelli di IA compressi verso il mainstream

Con le impostazioni predefinite delle società non-public in esecuzione oltre il 9,2% – il tasso più alto degli ultimi anni – la società di enterprise capital Lux Capital ha recentemente consigliato alle aziende che si affidano all’intelligenza artificiale per ottenere i propri impegni di capacità di calcolo confermato per iscritto. Con l’instabilità finanziaria che si diffonde attraverso la catena di fornitura dell’intelligenza artificiale, ha avvertito Lux, un accordo di stretta di mano non è sufficiente.

Ma esiste un’altra opzione, ovvero quella di smettere del tutto di fare affidamento sull’infrastruttura informatica esterna. I modelli di intelligenza artificiale più piccoli che vengono eseguiti direttamente sul dispositivo dell’utente (nessun information middle, nessun fornitore di servizi cloud, nessun rischio di controparte) stanno diventando abbastanza validi da valere la pena di essere presi in considerazione. E Calcolo multiverso sta alzando la mano.

Finora la startup spagnola ha mantenuto un profilo più basso rispetto advert alcuni dei suoi concorrenti, ma con la crescita della domanda di efficienza dell’intelligenza artificiale, la situazione sta cambiando. Dopo aver compresso modelli provenienti dai principali laboratori di intelligenza artificiale tra cui OpenAI, Meta, DeepSeek e Mistral AI, ha lanciato sia un’app che mostra le capacità dei suoi modelli compressi sia un portale API – un gateway che consente agli sviluppatori di accedere e costruire con tali modelli – che li rende più ampiamente disponibili.

IL Applicazione CompactifAIche condivide il suo nome con la tecnologia di compressione di ispirazione quantistica di Multiverse, è uno strumento di chat AI sulla scia di ChatGPT o Le Chat di Mistral. Fai una domanda e il modello risponde. La differenza è che Multiverse ha incorporato Gilda, un modello così piccolo da poter funzionare localmente e offline, secondo l’azienda.

Per gli utenti finali, questo è un assaggio di intelligenza artificiale all’avanguardia, con dati che non lasciano i loro dispositivi e non richiedono una connessione. Ma c’è un avvertimento: i loro dispositivi mobili devono avere RAM e spazio di archiviazione sufficienti. In caso contrario, e molti iPhone meno recenti non lo faranno, l’app torna ai modelli basati su cloud tramite API. Il routing tra l’elaborazione locale e quella cloud è gestito automaticamente da un sistema che Multiverse ha chiamato Ash Nazg, il cui nome suonerà familiare ai fan di Tolkien poiché fa riferimento all’iscrizione dell’Unico Anello ne “Il Signore degli Anelli”. Ma quando l’app viene indirizzata al cloud, perde il suo principale vantaggio in termini di privateness.

Queste limitazioni significano che CompactifAI non è ancora pronto per l’adozione di massa da parte dei clienti, anche se questo potrebbe non essere mai stato l’obiettivo. Secondo i dati di Sensor Tower, l’app aveva meno di 5.000 download nell’ultimo mese.

Il vero bersaglio sono le imprese. Oggi Multiverse lancia a portale API self-service che offre agli sviluppatori e alle imprese l’accesso diretto ai suoi modelli compressi, senza bisogno di AWS Market.

“Il portale API CompactifAI 1773908817 offre agli sviluppatori l’accesso diretto ai modelli compressi con la trasparenza e il controllo necessari per eseguirli in produzione”, ha affermato il CEO Enrique Lizaso in una nota.

Il monitoraggio dell’utilizzo in tempo reale è una delle funzionalità chiave dell’API e non è un caso. Oltre ai potenziali vantaggi dell’implementazione all’edge, i costi di elaborazione inferiori sono uno dei motivi principali per cui le aziende stanno prendendo in considerazione modelli più piccoli come alternativa ai modelli LLM (giant Language Mannequin).

Aiuta anche il fatto che i modelli piccoli siano meno limitati di quanto lo fossero in passato. All’inizio di questa settimana, Mistral ha aggiornato la sua famiglia di modelli piccoli con il lancio del Mistral Small 4che a quanto pare è ottimizzato contemporaneamente per chat generali, codifica, attività di agenti e ragionamento. L’azienda francese ha anche rilasciato Forge, un sistema che consente alle aziende di creare modelli personalizzati, inclusi modelli di piccole dimensioni per i quali possono scegliere i compromessi che i loro casi d’uso possono meglio tollerare.

I recenti risultati di Multiverse suggeriscono anche che il divario con gli LLM si sta riducendo. Il suo ultimo modello compresso, HyperNova 60B 2602, è basato su gpt-oss-120b, un modello OpenAI il cui codice sottostante è disponibile pubblicamente. L’azienda afferma che ora consegna risposte più rapide a un costo inferiore rispetto all’originale da cui deriva, un vantaggio che conta particolarmente per i flussi di lavoro di codifica advert agenti, in cui l’intelligenza artificiale completa autonomamente attività di programmazione complesse in più fasi.

Realizzare modelli sufficientemente piccoli da poter funzionare su dispositivi mobili pur rimanendo utili è una grande sfida. Apple Intelligence ha eluso questo problema combinando un modello on-device e un modello cloud. L’app CompactifAI di Multiverse può anche instradare le richieste a gpt-oss-120b tramite API, ma il suo obiettivo principale è dimostrare che i modelli locali come Gilda e i suoi futuri sostituti presentano vantaggi che vanno oltre il risparmio sui costi.

Per i lavoratori in settori critici, un modello che può essere eseguito localmente e senza connessione al cloud offre maggiore privateness e resilienza. Ma il valore maggiore sta nei casi d’uso aziendali che questo può sbloccare, advert esempio incorporando l’intelligenza artificiale in droni, satelliti e altri ambienti in cui la connettività non può essere information per scontata.

L’azienda serve già più di 100 clienti globali tra cui la Financial institution of Canada, Bosch e Iberdrola, ma l’espansione della propria base clienti potrebbe aiutarla a sbloccare più finanziamenti. Dopo aver raccolto 215 milioni di dollari di Serie B lo scorso anno, lo è ora si dice che stia raccogliendo un nuovo round di finanziamento da 500 milioni di euro per una valutazione di oltre 1,5 miliardi di euro.