In questo articolo Indice dei contenuti 2 sezioni
Secondo Satya Nadella ogni modello di intelligenza artificiale andrebbe considerato compromesso fin dal primo istante. L’amministratore delegato di Microsoft lo ha messo nero su bianco in un lungo post pubblicato su X, dove ha raccolto le sue idee sui pericoli legati ai sistemi più evoluti e sulle strategie per tenerli sotto controllo. Non si tratta di un allarme generico ma di una proposta articolata che tocca diversi aspetti, dalla gestione degli incidenti fino alla possibilità di fermare un sistema mentre sta lavorando.
Il punto di partenza è una critica al modo in cui oggi ci si rapporta a queste tecnologie. Per il numero uno di Redmond non è più accettabile un mondo in cui l’IA viene trattata come un “insieme di scatole nere annidate”, di cui si accettano o si rifiutano consigli e azioni senza capire davvero cosa accade al loro interno. Serve invece un sistema più trasparente, capace di contenere e osservare i modelli e di lasciare dietro di sé “prove leggibili dall’uomo e a prova di manomissione”.
Le proposte di Nadella per un’IA più trasparente
Molte delle raccomandazioni avanzate dal CEO di Microsoft ricalcano quanto già sostenuto da altre figure del settore. Nel suo elenco compaiono la comunicazione tempestiva degli incidenti, gli audit indipendenti, dati verificabili e il contenimento dei modelli. Sono temi che circolano da tempo nel dibattito sull’intelligenza artificiale e che Nadella riprende cercando di dare loro una cornice unitaria.
Il senso generale è abbastanza chiaro. Se un sistema prende decisioni o fornisce suggerimenti, deve essere possibile ricostruire cosa ha fatto e perché. Le prove lasciate dal modello devono poter essere lette da una persona e non devono poter essere alterate. Gli incidenti vanno resi noti senza ritardi e qualcuno di esterno deve poter verificare il funzionamento di questi strumenti. Niente di troppo diverso da quanto chiesto da altri esperti, almeno su questi aspetti.
È sull’ultimo punto, quello del contenimento, che il manager sembra spingersi un po’ più in là rispetto a diversi colleghi. La sua posizione parte da un presupposto preciso e cioè che non bisogna aspettare di scoprire un problema per correre ai ripari.
Il freno di emergenza per i modelli compromessi
Nel post Nadella scrive che bisogna presumere che un modello sia compromesso e contenerlo fin dall’inizio. Per spiegare il concetto usa un’immagine molto concreta, quella del freno di emergenza. Una persona autorizzata, secondo il dirigente, dovrebbe sempre essere in grado di mettere in pausa o spegnere un modello anche nel bel mezzo di un compito.
C’è poi un passaggio che guarda avanti. I modelli più evoluti richiederanno tecnologie di contenimento altrettanto avanzate e, a detta del CEO, su queste soluzioni sarà necessario arrivare a degli standard condivisi. Insomma non basta un pulsante di spegnimento qualsiasi, perché più cresce la potenza dei sistemi e più devono crescere gli strumenti per tenerli a bada.
L’approccio ribalta in parte la prospettiva abituale. Invece di partire dalla fiducia nel modello e intervenire solo quando qualcosa va storto, l’idea è trattare ogni sistema come potenzialmente inaffidabile già dalla sua messa in funzione. Il controllo umano diventa così una condizione di base e non un’eventualità da attivare in casi estremi.
Nel corso dell’intero post Nadella si riferisce inoltre all’intelligenza artificiale con l’espressione superintelligenza, una scelta lessicale che ricorre in tutto il testo e che non è passata inosservata.
Fonte: TecnoAndroid
