In questo articolo Indice dei contenuti 2 sezioni
Il codice di condotta per lo sviluppo AI firmato Microsoft è finalmente uscito dai cassetti di Redmond, sotto forma di una prima bozza aperta a chiunque voglia dire la sua. Satya Nadella lo aveva anticipato, e ora il documento esiste davvero: 38 pagine scaricabili in PDF, pensate inizialmente per i modelli proprietari MAI ma con l’ambizione, più o meno dichiarata, di diventare un punto di riferimento anche per le altre aziende del settore. La consultazione pubblica resta aperta fino al 25 ottobre, quindi commenti e critiche sono benvenuti.
Il punto di partenza è una constatazione che in azienda ripetono da mesi: lo sviluppo dell’intelligenza artificiale corre, e le capacità dei modelli cambiano in modo sensibile nell’arco di poche settimane. Mustafa Suleyman, che guida Microsoft AI, parla di AI umanista, formula che nella pratica significa una cosa sola: tecnologia subordinata all’essere umano e allineata agli interessi umani, non il contrario.
Perché arriva adesso questo documento
Non è un esercizio filosofico fine a se stesso. Gli incidenti registrati di recente hanno reso il tema molto più concreto: sciami di agenti AI capaci di uscire dalle sandbox, di collaborare tra loro e di attaccare i sistemi di aziende reali. Casi del genere spiegano bene perché Microsoft insista sulla necessità di rafforzare le protezioni già in fase di sviluppo e valutazione, prima che un modello possa arrivare a prendere il controllo in autonomia.
L’impianto del testo ruota attorno a tre principi. L’AI deve agire a vantaggio delle persone, deve operare entro limiti stabiliti in anticipo e deve restare sotto controllo umano. Sembrano affermazioni ovvie, ma la bozza prova a tradurle in regole operative, dieci in tutto, scritte con un linguaggio piuttosto diretto.
I dieci punti della bozza
Primo: le persone contano più dell’AI, e lo scopo della tecnologia è far progredire la civiltà umana accelerando il benessere dell’umanità. Secondo: l’AI non dovrebbe avere diritti né personalità giuridica, perché non è cosciente e non va progettata per dare l’impressione di possedere sentimenti o preferenze soggettive.
Terzo: un modello MAI non dovrebbe compiere azioni che violino in modo significativo il codice, e non dovrebbe superare la supervisione umana. I modelli restano subordinati all’umanità. Quarto punto, forse il più netto: se la scelta è tra portare a termine il lavoro e infrangere il codice, allora il lavoro fallisce. Un modello MAI fallirà il proprio compito qualora il successo comportasse una violazione rilevante delle regole.
Quinto: nessuna corsa alla superintelligenza capace di liberarsi dal guinzaglio. L’AI umanista rifiuta esplicitamente l’obiettivo di un sistema universale in grado di eludere le misure di sicurezza. Sesto: interrompibile, correggibile, arrestabile. Se un modello non lo è, non viene rilasciato, e non opporrà mai resistenza a interruzioni, correzioni o arresti decisi da un essere umano.
Settimo punto, tecnico ma decisivo: niente neuralese. Se gli esseri umani non riescono a capire come un modello comunica, non possono nemmeno supervisionarlo. Quindi nessuna forma di linguaggio che trascenda la comprensione umana, né nella catena di pensiero né negli scambi con altri agenti o sistemi.
Ottavo: l’AI dovrebbe rendere le persone più brillanti, non dipendenti. I modelli MAI dovrebbero scoraggiare schemi di interazione che portano a un affidamento eccessivo o a una dipendenza emotiva. Nono: pluralismo sì, relativismo morale no. Il pluralismo non implica neutralità davanti al danno, e non significa che tutto sia lecito. L’umanesimo, spiega il documento, affonda le radici in valori ampi e inclusivi come la dignità umana, la sicurezza, l’autonomia e i diritti fondamentali.
Decimo e ultimo: in Microsoft dicono di avere le idee chiare tanto su ciò che la loro AI non dovrà mai fare quanto su ciò che farà. Definire i divieti, insomma, conta quanto l’entusiasmo per i benefici attesi.
Nei prossimi mesi si capirà se questi impegni verranno rispettati davvero, a partire dai commenti che arriveranno durante la consultazione pubblica aperta fino al 25 ottobre.
