Vai al contenuto
Offerte

Perplexity e NVIDIA lanciano Portable Computer: IA in locale

In questo articolo Indice dei contenuti 2 sezioni

Perplexity e NVIDIA hanno messo insieme le forze per lanciare Portable Computer, un agente di intelligenza artificiale che gira direttamente sul computer di casa invece che nel cloud. Il nome non è casuale, perché arriva sulla scia di Computer, il prodotto agentico che Perplexity aveva presentato all’inizio di quest’anno e che sa portare a termine compiti al posto dell’utente, usando le stesse interfacce e le stesse applicazioni che userebbe una persona in carne e ossa. La differenza sostanziale, qui, sta tutta in una parola: locale.

Chi ha già provato Computer sa più o meno cosa aspettarsi. Si descrive un lavoro con parole normali, senza formule strane, e il sistema mette in moto una serie di sottoagenti che fanno ricerche, collegano strumenti, incrociano dati. Portable Computer segue la stessa logica ma cerca di eseguire il massimo possibile sull’hardware dell’utente, senza spedire nulla fuori. Al lancio può appoggiarsi a Qwen 3.8 27B oppure a Qwen PPLX 27B, una variante del modello Qwen che ha ricevuto addestramento aggiuntivo. Il supporto a Nemotron 3.5 Lightning di NVIDIA, versione da 30 miliardi di parametri, arriverà a breve.

Perplexity e NVIDIA: cosa sa fare e quando chiede aiuto al cloud

L’elenco delle mansioni è piuttosto ampio: riassumere documenti, estrarre informazioni, condurre analisi, spedire file dentro altre app e via dicendo. Quando però il compito si fa troppo complesso per il modello che gira in casa, l’agente non tira a indovinare. Si ferma, avvisa e chiede se conviene passare la palla a un modello più grande ospitato nel cloud. Una scelta pragmatica, che evita di trasformare la privacy in un dogma controproducente.

Il vantaggio di lavorare in locale è doppio. Da un lato ci sono i dati sensibili, quelli che nessuno ha voglia di caricare su server altrui. Dall’altro c’è il portafoglio: tutto ciò che viene elaborato sulla macchina personale non consuma crediti né token, e una volta comprato l’hardware il costo per singola operazione diventa quasi trascurabile.

Resta la domanda più ovvia, quella che si sono fatti in molti appena letta la notizia. Perché usare Portable Computer invece di far girare Qwen 3.8 27B dentro Ollama e amen? La risposta sta in tutto quello che gira attorno al modello. Perplexity spiega che il pacchetto mette insieme il routing a livello di singolo passaggio, l’impalcatura dell’agente, i modelli locali, l’inferenza, gli strumenti, i connettori verso le applicazioni e l’esecuzione in ambiente isolato, il tutto in un sistema unico e mantenuto nel tempo. Ed è proprio quella impalcatura a fare la differenza tra un modello scomodo e frustrante e uno che serve davvero a qualcosa.

Niente di irraggiungibile, per carità. Un utente esperto potrebbe costruirsi da solo qualcosa di simile. Solo che mettere in piedi uno stack completo per un agente autonomo locale, con tanto di competenze e connettori, è un progetto lungo e faticoso. La comodità, qui, vale parecchio.

I requisiti hardware, dove la memoria detta legge

Il programma può essere installato su qualsiasi PC Linux con l’hardware adeguato, anche se questa prima versione punta in modo specifico al DGX Spark di NVIDIA. Il supporto a Windows è previsto entro la fine di quest’anno.

Sul fronte delle specifiche, Portable Computer è pensato per modelli da 27 miliardi di parametri e il requisito ufficiale parla di scheda NVIDIA con almeno 32GB di VRAM. Limitando il contesto o passando a un modello quantizzato si può scendere sotto quella soglia. Tra le schede consumer, questo significa che la RTX 3090 è più o meno il gradino più basso utilizzabile, mentre qualunque GPU RTX con più memoria se la cava senza problemi. Il DGX Spark, con i suoi 128GB di RAM condivisi tra processore e scheda grafica, è ovviamente a suo agio.

Meno chiaro il discorso sulle configurazioni con più schede montate insieme, tipo due RTX 5060 Ti da 16GB ciascuna. Perplexity fa sapere che lo stack locale si può modificare per usare server di inferenza e modelli propri, quindi la strada esiste, ma probabilmente richiede una buona dose di smanettamento. Il download è già disponibile.

Condividi:
190 Condivisioni