Otari

Otari è il nuovo progetto open source con cui Mozilla prova a mettere ordine nel caos dei modelli di Intelligenza Artificiale. L'idea di fondo è semplice da spiegare, un po' meno da realizzare, gestire in modo centralizzato più modelli linguistici avanzati senza dover impazzire tra provider diversi, costi che sfuggono di mano e integrazioni che non parlano la stessa lingua. Il momento in cui arriva questo strumento non è casuale. Sempre più sviluppatori e aziende lavorano contemporaneamente con OpenAI, Anthropic, Google e varie soluzioni open source. Tutto bello, finché non ci si scontra con la fatica di tenere sotto controllo sicurezza, spese e collegamenti tra le varie piattaforme. Qui Mozilla prova a inserirsi con un'alternativa concreta, pensata per ridurre la dipendenza da un singolo fornitore e conservare un minimo di trasparenza. Il tutto rientra nella filosofia di Mozilla.ai, che punta su strumenti aperti, interoperabili e attenti alla privacy. Cos'è Otari e perché può servire davvero Nel concreto, Otari funziona come un gateway open source che si piazza in mezzo tra le applicazioni e i modelli AI. Offre un endpoint compatibile con le API di OpenAI, e questo cambia parecchio le carte in tavola. Significa che gli sviluppatori possono indirizzare le richieste verso oltre quaranta provider diversi, integrandosi con qualunque LLM, senza mettere mano al codice già scritto. Cambiare modello diventa quasi indolore, con un unico punto per autenticazione, monitoraggio e gestione delle richieste. C'è poi un problema che Otari affronta di petto, il divario tra modelli proprietari e alternative open. Le piattaforme commerciali arrivano già con funzioni avanzate come ricerca web, generazione di immagini o esecuzione di codice. Le soluzioni open, invece, spesso costringono a integrazioni separate e un bel po' di lavoro extra. Otari mette insieme queste capacità direttamente nel gateway, rendendole disponibili qualunque sia il modello scelto e alleggerendo così la complessità dell'architettura. Funzioni integrate e versione gestita Sul piano tecnico l'offerta è ricca. Otari integra un interprete Python isolato tramite Docker, sfruttabile dai modelli compatibili con le tool call, e supporta la ricerca web attraverso SearXNG, con opzioni come Tavily, Brave o Exa. Si aggiungono endpoint per la trascrizione audio, la generazione di immagini e sistemi di reranking utili nei contesti RAG. Non manca la parte di controllo, con chiavi virtuali, limiti di spesa per singolo utente e monitoraggio dei consumi in tempo reale. Le metriche si possono esportare tramite Prometheus, mentre OpenTelemetry offre uno sguardo dettagliato sulle prestazioni. Il risultato è meno lavoro per costruire un'infrastruttura AI scalabile, con tutte le risorse gestite da un punto solo. Accanto alla versione installabile in locale, Mozilla propone Otari.ai, la soluzione gestita pensata per team e organizzazioni. Qui entrano in gioco funzioni come gestione multiutente, ruoli, dashboard sui costi e instradamento automatico tra i vari provider. Le credenziali finiscono in un archivio cifrato e le configurazioni si definiscono con file YAML, cosa che semplifica non poco la vita operativa. Chi preferisce tenere tutto sotto mano può scegliere la modalità self-hosted, così prompt, log e credenziali restano dentro la propria infrastruttura. Mozilla insiste sulla coerenza tra le due versioni, costruite per offrire la stessa interfaccia e permettere il passaggio dall'una all'altra senza vincoli tecnologici.

Otari

Otari, il gateway open source con cui Mozilla mette ordine nell’AI