In questo articolo Indice dei contenuti 3 sezioni
La superintelligenza ha senso solo se resta sotto controllo umano, altrimenti tanto vale non costruirla affatto. È la posizione, piuttosto netta, espressa da Satya Nadella, e arriva in un momento in cui il dibattito sull’intelligenza artificiale ha cambiato tono un po’ ovunque. Il numero uno di Microsoft lo ha detto senza troppi giri di parole, inseguire sistemi più capaci dell’essere umano ha un senso soltanto finché quei sistemi restano orientati agli interessi dell’umanità e restano governabili da chi li ha creati.
Non è un discorso isolato. In questi giorni anche OpenAI e Anthropic hanno mostrato l’intenzione di affrontare lo sviluppo dell’intelligenza artificiale con una maturità diversa rispetto al passato, almeno sul piano delle dichiarazioni. Il che, va detto, non è poco in un settore che negli ultimi anni ha corso parecchio più veloce di quanto riuscisse a ragionare su se stesso.
Perché il tono è cambiato proprio adesso
A spingere i grandi laboratori verso una maggiore prudenza ci sono due fattori piuttosto concreti. Il primo riguarda i recenti incidenti in ambito cybersicurezza che hanno visto protagonisti diversi Agenti AI, episodi che hanno mostrato quanto rapidamente un sistema autonomo possa finire fuori dal perimetro previsto da chi lo ha messo in funzione. Il secondo è un esperimento di evoluzione che ha messo in allarme più di un esperto del settore.
Si chiama Automated Alignment Researcher, abbreviato in AAR, ed è il progetto che sta dietro alla decisione di Jacob Coxon di lasciare Anthropic. Il nome dice già molto, si tratta di un sistema pensato per automatizzare la ricerca sull’allineamento, cioè proprio quel lavoro che dovrebbe garantire che un modello faccia quello per cui è stato costruito e niente di più. Affidare a una macchina il compito di sorvegliare le macchine è un’idea che apre più domande di quante ne chiuda, e la scelta di Coxon racconta bene quanto quelle domande pesino anche dall’interno dei laboratori.
La domanda non è più cosa sanno fare
C’è un passaggio che merita attenzione. Più i sistemi di intelligenza artificiale diventano capaci, meno la questione centrale riguarda ciò che possono fare. Il baricentro si sposta altrove, su chi decide cosa questi sistemi devono fare, su chi ha il potere di fermarli e soprattutto su chi controlla ciò che imparano. Sono tre domande diverse, e ognuna tocca un pezzo di potere reale.
Per anni la conversazione pubblica si è concentrata sulle capacità, sui benchmark, su quale modello superava l’altro in questo o quel test. Adesso il discorso si sta spostando sulla governance, che è una parola meno spettacolare ma molto più rilevante per chi quei sistemi li usa ogni giorno senza esserne sviluppatore.
La linea di Nadella
La posizione del CEO di Microsoft si inserisce esattamente in questo solco. Non un rifiuto della superintelligenza come obiettivo, ma una condizione preliminare, senza la quale il progetto perde valore. La formula è semplice da capire anche per chi non mastica la materia, se il sistema non resta sotto controllo e non lavora per gli interessi delle persone, allora costruirlo non conviene a nessuno.
