In questo articolo Indice dei contenuti 2 sezioni
Rendere l’intelligenza artificiale davvero sicura potrebbe richiedere molto più di qualche accorgimento ingegneristico. La convinzione più diffusa, quella che domina il dibattito, sostiene che per ottenere un’AI sicura e affidabile bastino requisiti tecnici ben definiti: regole da rispettare, controlli da superare, parametri da tenere sotto osservazione. Una prospettiva comprensibile, perché offre l’idea rassicurante che il problema possa essere risolto dentro i laboratori, lontano dalla vita di tutti i giorni. Eppure qualcosa sta cambiando, e il punto di vista che si fa strada sposta l’attenzione dalle macchine alla società che le circonda.
Oltre la tecnica, la proposta di Bengio e Narayanan
A spingere verso questa lettura diversa sono soprattutto i lavori di Bengio e Narayanan, due nomi che stanno contribuendo a mettere in discussione l’approccio puramente tecnico. L’idea di fondo è semplice da enunciare ma tutt’altro che banale nelle sue conseguenze. Un sistema di intelligenza artificiale non vive isolato. Viene progettato, addestrato e utilizzato all’interno di un contesto fatto di persone, istituzioni, interessi economici e scelte politiche. Pensare di garantirne l’affidabilità intervenendo solo sul codice significa, in un certo senso, guardare una parte del quadro e ignorare il resto.
La questione diventa ancora più chiara se si considera il tema dell’allineamento, cioè la capacità di un sistema di perseguire obiettivi coerenti con quelli umani. Nella visione tradizionale si tratta di una sfida quasi matematica: individuare i fini giusti e tradurli in istruzioni che la macchina possa seguire senza deviazioni. Nella prospettiva che emerge dai lavori dei due studiosi, invece, il discorso si allarga parecchio. Non basta infatti stabilire quali siano i fini umani, bisogna anche chiedersi chi li definisce, a beneficio di chi e dentro quale cornice di valori.
Gli interessi collettivi al centro dell’allineamento
Ed è proprio qui che il ragionamento prende una piega meno scontata. Secondo questa impostazione l’allineamento dell’AI ai fini umani passa da una valorizzazione di quei fini all’interno di un quadro che privilegi gli interessi collettivi. Detto in parole più dirette, un’intelligenza artificiale potrà dirsi davvero al servizio delle persone solo se l’ambiente in cui nasce e si sviluppa mette al primo posto il bene comune, e non soltanto il vantaggio di pochi.
Il passaggio ha un peso notevole, perché trasforma un problema apparentemente tecnico in una questione che riguarda l’organizzazione stessa della società. La sicurezza smette di essere una caratteristica da aggiungere al prodotto finito e diventa il risultato di un equilibrio più ampio, in cui le scelte sui sistemi intelligenti riflettono le priorità condivise di una comunità. Non a caso la tesi viene riassunta in una formula piuttosto netta, secondo cui per avere un’AI sicura serve una società diversa.
Questo non vuol dire che i requisiti tecnici perdano importanza. Restano uno strumento necessario, ma da soli rischiano di non bastare. Un modello può superare tutti i test previsti e continuare comunque a rispondere a logiche che poco hanno a che vedere con il benessere generale, se il contesto che lo orienta spinge in un’altra direzione. La prospettiva di Bengio e Narayanan suggerisce dunque di affiancare alla verifica dei sistemi una riflessione sulla cornice in cui quei sistemi operano, perché è lì che i fini umani trovano o non trovano spazio. Si tratta di un cambio di sguardo che mette in discussione la visione dominante, quella che considera sufficienti le soluzioni tecniche per rendere l’intelligenza artificiale sicura e affidabile. Il confronto tra le due impostazioni è aperto, e la seconda, quella che lega l’allineamento delle macchine agli interessi collettivi, sta guadagnando terreno proprio grazie al contributo dei due ricercatori.
Fonte: TecnoAndroid
