In questo articolo Indice dei contenuti 2 sezioni
Un nuovo piano degli USA per misurare i rischi legati all’intelligenza artificiale ha acceso il dibattito tra chi sviluppa e chi regola questa tecnologia, perché tocca uno dei nodi più delicati del momento, ovvero come tenere sotto controllo modelli sempre più potenti senza trasformare le regole in un labirinto. L’AI è ormai uno degli strumenti più forti mai finiti nelle mani di aziende, governi e semplici cittadini, ma insieme alle sue capacità crescono anche i pericoli. E quando si arriva a parlare di sicurezza nazionale, difficilmente esiste un paese più attento degli Stati Uniti.
Il punto è che decidere quali sistemi vadano controllati, e con quali criteri, non è per niente banale. Se le regole restano vaghe, il rischio è produrre più confusione che protezione. Ed è proprio questo il terreno su cui si muove il documento predisposto dall’amministrazione Trump, pensato per valutare i possibili rischi informatici dei modelli più avanzati. Un piano che sta facendo parecchio rumore, anche perché non tutti concordano sul metodo scelto.
Cosa prevede il framework e perché i modelli open source restano fuori
Il testo è stato illustrato agli sviluppatori più importanti, tra cui OpenAI, Anthropic e Google, ma non è mai stato reso pubblico. Al centro c’è un processo volontario di revisione, da effettuare prima del rilascio dei modelli più potenti. Un controllo preventivo, insomma, per capire se un sistema possa rappresentare una minaccia dal punto di vista informatico prima ancora che arrivi sul mercato.
C’è però un dettaglio che ha scatenato le critiche più dure. Il framework esclude del tutto i modelli open source, cioè quelli il cui codice e i cui parametri possono essere scaricati e studiati liberamente da chiunque. Non solo. Il documento precisa che, una volta pubblicati, questi modelli non potranno essere limitati attraverso la procedura prevista. In pratica, una fetta enorme dell’ecosistema resterebbe fuori da qualsiasi valutazione, con tutte le conseguenze del caso. È qui che nasce lo scontro tra gli esperti. Da una parte c’è chi vede in questo approccio un tentativo pragmatico di regolare almeno i sistemi proprietari più avanzati, quelli con maggiore potenza di calcolo alle spalle. Dall’altra c’è chi fa notare come lasciare i modelli aperti privi di qualsiasi controllo significhi ignorare una parte sempre più rilevante del settore, dove circolano strumenti scaricabili da chiunque, ovunque nel mondo.
Un equilibrio difficile tra controllo e libertà
La natura volontaria del processo è un altro elemento che divide. Nessun obbligo, nessuna sanzione, solo una collaborazione che le aziende possono scegliere di accettare oppure no. Per alcuni è la strada giusta in una fase ancora così magmatica, in cui imporre paletti troppo rigidi rischierebbe di frenare l’innovazione. Per altri, invece, un sistema basato sulla buona volontà difficilmente riuscirà a garantire quella protezione che gli Stati Uniti dicono di voler assicurare quando entra in gioco la sicurezza del paese.
Resta il fatto che il documento tocca un tema destinato a pesare parecchio nei prossimi mesi. La capacità dei nuovi modelli cresce a ritmi impressionanti, e con essa la possibilità che vengano usati per scopi meno nobili, dagli attacchi informatici alla generazione di contenuti pericolosi. Trovare il giusto equilibrio tra controllo e libertà di sviluppo è tutt’altro che semplice, soprattutto quando le regole vengono discusse a porte chiuse con un ristretto gruppo di grandi aziende, mentre l’intera galassia dell’open source osserva da fuori senza sapere quale sarà davvero il suo destino.
