In questo articolo Indice dei contenuti 2 sezioni
Satya Nadella, amministratore delegato di Microsoft, ha chiesto che i modelli di intelligenza artificiale vengano sottoposti a controlli esterni e che la loro attività sia documentata attraverso registri a prova di manomissione. È una richiesta che punta dritta al tema della trasparenza, ma che porta con sé anche un dettaglio lessicale tutt’altro che marginale. Nella stessa presa di posizione il manager ha infatti adottato l’espressione Super Intelligence, cioè la formula voluta da Donald Trump per indicare la nuova frontiera della tecnologia.
Le richieste di Nadella sui modelli di intelligenza artificiale
Il cuore della proposta di Nadella sta in due elementi distinti ma strettamente collegati. Da una parte c’è l’idea che a verificare il comportamento dei sistemi non debbano essere soltanto le aziende che li sviluppano. Servono occhi esterni, soggetti terzi in grado di valutare i modelli senza dipendere da chi li ha costruiti. Detto così sembra un principio quasi ovvio, eppure arriva dal vertice di una delle società più coinvolte nella corsa all’IA, e questo gli dà un peso particolare.
Dall’altra parte ci sono i registri. Il concetto è semplice da spiegare anche a chi non mastica tecnologia tutti i giorni: un archivio che tiene traccia delle operazioni e che non può essere alterato a posteriori. In altre parole un diario che nessuno può correggere di nascosto. Se qualcosa va storto, quel documento resta lì, intatto, a disposizione di chi deve capire cosa sia successo. È proprio questa caratteristica, l’impossibilità di modificarlo, a rendere il registro uno strumento di controllo credibile.
Messe insieme le due misure disegnano un modello di vigilanza che non si affida alla sola buona volontà dei produttori. Chi controlla viene da fuori e le prove su cui lavora non possono essere ritoccate. Il numero uno del colosso di Redmond ha quindi indicato una direzione precisa, che riguarda il modo in cui questi sistemi dovrebbero essere osservati e verificati nel tempo.
Il nodo della Super Intelligence e il vocabolario di Trump
Accanto alla sostanza c’è però la forma, e qui la vicenda assume un tono diverso. Il dirigente di Microsoft ha fatto proprio il termine Super Intelligence, la definizione scelta da Trump. Non si tratta di una sfumatura da appassionati di linguistica. Le parole con cui si descrive una tecnologia finiscono per orientare il dibattito pubblico, e adottare una certa etichetta significa allinearsi, almeno sul piano del linguaggio, a chi l’ha imposta.
Il contrasto è evidente. Da un lato il manager rivendica la necessità di controllare l’IA dall’esterno, con strumenti solidi e verificabili. Dall’altro accetta che a stabilire il lessico con cui se ne parla sia la Casa Bianca. Sul fronte delle regole la spinta arriva dall’azienda, mentre sulle parole la scelta è ricaduta altrove.
È questa doppia lettura a rendere interessante l’intervento. Le proposte sui controlli esterni e sui registri inalterabili restano sul tavolo come indicazioni concrete per la gestione dei modelli più avanzati. La terminologia invece segue la linea tracciata dal presidente degli Stati Uniti, e nelle parole del capo di Microsoft l’intelligenza artificiale del futuro porta ormai il nome di Super Intelligence.
Fonte: TecnoAndroid