Hassabis

Sul controllo dei modelli AI prima del debutto pubblico si sta creando un fronte piuttosto compatto tra i big del settore. Dopo Dario Amodei di Anthropic e Sam Altman di OpenAI, adesso anche Demis Hassabis, numero uno di Google DeepMind, dice la sua. E la proposta è chiara: servirebbe un ente guidato dagli Stati Uniti, con regole precise sul fronte della sicurezza, incaricato di analizzare i sistemi di intelligenza artificiale prima che finiscano nelle mani di tutti. Il punto di partenza è un ordine esecutivo firmato da Donald Trump all'inizio di giugno. Quel documento stabilisce che i modelli vadano passati al setaccio prima dell'accesso pubblico. L'obiettivo dichiarato è verificare che ci siano protezioni sufficienti a evitare abusi da parte di potenze straniere. Un esempio concreto? Impedire che qualcuno usi questi strumenti per scovare falle nei software e colpire poi le infrastrutture critiche americane con attacchi informatici. È esattamente per questa ragione che il rilascio dei nuovi modelli di Anthropic e OpenAI è stato bloccato. La proposta del premio Nobel per evitare i rischi Il problema, però, è che questo controllo resta volontario e viene fatto senza uno standard condiviso. Ognuno un po' a modo suo, insomma. Ed è qui che entra in gioco l'idea di Hassabis, che oltre a guidare Google DeepMind ha vinto il premio Nobel per la Chimica nel 2024. La sua visione prevede la nascita di un'agenzia indipendente, sul modello della Financial Industry Regulatory Authority, quella che negli Stati Uniti vigila sul mondo finanziario. Un organismo del genere dovrebbe fissare i protocolli di valutazione e condurre i test di sicurezza lavorando fianco a fianco con i laboratori nazionali americani e con le agenzie federali competenti. Non solo. Questa agenzia dovrebbe anche definire delle soglie per classificare i modelli AI più avanzati, basandosi su benchmark di riferimento. In pratica i provider dovrebbero sottoporre i loro nuovi sistemi alla valutazione, sempre su base volontaria, almeno 30 giorni prima del lancio. E l'esame andrebbe a concentrarsi soprattutto su due aspetti: le capacità in ambito cyber e la solidità delle difese contro i cosiddetti jailbreak, cioè quei trucchi usati per aggirare i limiti imposti ai modelli. Gli Stati Uniti in prima fila, ma l'Europa resta scettica Secondo Hassabis gli Stati Uniti sono, testuali parole, "ben posizionati" per fare da apripista. Le competenze tecniche non mancano, quindi tocca proprio a loro muovere il primo passo verso un quadro di regole di questo tipo. Il ragionamento non fa una piega, almeno sulla carta. C'è però un ostacolo prevedibile. L'Unione europea difficilmente accetterà una soluzione a guida americana, dato che da tempo lavora per ridurre la propria dipendenza dalle aziende statunitensi. Su questo terreno lo scontro di visioni sembra quasi inevitabile. A sostenere la linea di Hassabis c'è invece Mustafa Suleyman, che guida Microsoft AI. Suleyman appoggia apertamente la proposta e insiste su un punto in particolare: bisogna muoversi in fretta e mettere in campo misure adeguate prima dell'arrivo dell'AGI, l'intelligenza artificiale generale, quella capace di eguagliare o superare le capacità umane su un ampio ventaglio di compiti.

Hassabis

Google DeepMind propone un’agenzia USA per controllare l’AI