In questo articolo Indice dei contenuti 2 sezioni
Nel dibattito sulla sicurezza dell’intelligenza artificiale è arrivato un avvertimento che pesa più di altri, perché a pronunciarlo è Paul Christiano, membro del board della OpenAI Foundation: il settore, allo stato attuale, non sta procedendo nella direzione giusta per ridurre a un livello “accettabile” il rischio acuto di perdita di controllo sui sistemi di intelligenza artificiale. Non un’osservazione buttata lì da un osservatore esterno, ma la valutazione di chi siede in uno degli organismi che dovrebbero vigilare proprio su questo tipo di questioni.
La formula usata, “loss of control”, indica lo scenario in cui un sistema di intelligenza artificiale sfugge alla capacità degli esseri umani di guidarlo, correggerlo o fermarlo. È il tipo di preoccupazione che per anni è rimasta confinata ai paper accademici e alle discussioni tra ricercatori, e che invece negli ultimi tempi è finita al centro delle conversazioni tra chi quei modelli li costruisce davvero. Christiano non parla di un pericolo teorico da manuale, ma di una traiettoria concreta che, secondo la sua lettura, non porta dove dovrebbe portare.
Cosa significa non essere “on track”
La sfumatura importante sta in quel “non sta procedendo nella direzione giusta”. Non è la dichiarazione di una catastrofe imminente, e non è nemmeno un allarme generico sul futuro remoto. È una valutazione di percorso, quasi da tabella di marcia: il ritmo con cui l’industria sta affrontando il problema della sicurezza non regge il confronto con il ritmo con cui vengono sviluppate le capacità dei modelli. Detto in modo più diretto, la corsa alle prestazioni corre più veloce della corsa alle garanzie. Il punto ha un peso specifico particolare proprio per la posizione di chi lo solleva. La OpenAI Foundation è l’entità che, nella struttura dell’organizzazione, dovrebbe rappresentare il contrappeso rispetto alle logiche puramente commerciali. Un suo esponente che dichiara pubblicamente che il livello di rischio non è stato portato a una soglia accettabile non è un dettaglio marginale nel dibattito, è un segnale che arriva dall’interno del perimetro.
Il nodo dei livelli accettabili
C’è poi la questione della parola “accettabile”, che nel linguaggio della sicurezza AI non è mai neutra. Definire quale sia la soglia tollerabile di rischio significa già prendere una posizione politica e tecnica insieme, perché stabilisce quanto margine di errore la società è disposta a concedere a tecnologie che vengono distribuite su scala globale. Christiano lascia intendere che quella soglia, oggi, non sia stata raggiunta.
Il tema si inserisce in una fase in cui i laboratori che sviluppano modelli avanzati sono sottoposti a una pressione competitiva enorme. Ogni nuovo rilascio alza l’asticella e costringe i concorrenti a rispondere, e in quel meccanismo le procedure di verifica rischiano di diventare un passaggio da comprimere piuttosto che da rafforzare. Il rischio di perdita di controllo di cui si parla è esattamente il tipo di problema che richiede tempo, test e cautela, tre elementi che mal si conciliano con una corsa allo sviluppo.
Quello che emerge dalle parole di Paul Christiano è quindi meno un pronostico e più una constatazione sullo stato dell’arte. L’industria dell’intelligenza artificiale, nel modo in cui sta lavorando adesso, non è sulla strada che porterebbe a contenere quel rischio entro limiti considerati ragionevoli da chi studia il problema da vicino.
