In questo articolo Indice dei contenuti 3 sezioni
Non capita spesso che sia il numero uno di un’azienda di intelligenza artificiale a chiedere di premere il freno, eppure è esattamente quello che ha fatto Dario Amodei. Il CEO di Anthropic ha pubblicato un post lungo e articolato in cui propone un piano in tre mosse per rallentare la corsa allo sviluppo dell’IA, invece di continuare ad accelerare come sta accadendo adesso. E la prima mossa, sostiene, la sua azienda l’ha già messa nero su bianco.
Il ragionamento parte da una constatazione semplice. La velocità con cui vengono costruiti i modelli di frontiera è diventata difficile da governare, e la sensazione è che nessuno stia davvero controllando cosa succede lungo il percorso. Da qui l’idea di un’architettura a tre livelli, pensata per essere applicata prima dalle aziende, poi dai governi e infine su scala internazionale.
Le tre mosse proposte da Amodei
Il primo punto riguarda le società che lavorano sulla cosiddetta frontier AI. L’impegno richiesto è concedere un accesso continuativo, quasi da dipendente interno, a valutatori esterni. Persone che possano verificare il rispetto di determinati standard di sicurezza, controllare se l’addestramento dei modelli va nella direzione di un rallentamento effettivo e segnalare gli incidenti quando si verificano. Non una visita ispettiva ogni tanto, quindi, ma una presenza stabile dentro i processi.
Il secondo passaggio alza il livello. Le aziende dovrebbero costruire, insieme ai governi, degli standard comuni di sicurezza capaci di limitare i progressi non verificati. Il terzo, il più complicato, chiede agli Stati Uniti e agli altri governi democratici di coordinarsi con i governi autoritari, così che tutti seguano le stesse regole di conformità. Amodei non finge che sia una passeggiata. “Le misure che propongo per far avanzare la frontiera a un ritmo sicuro non saranno facili”, ha scritto, aggiungendo però che “lo dobbiamo all’umanità, provarci”.
I rischi che hanno fatto cambiare passo
Nel post vengono elencati i pericoli che secondo il CEO di Anthropic giustificano questa richiesta. La perdita di controllo sui sistemi di intelligenza artificiale, l’uso distorto della tecnologia per cyberattacchi e bioterrorismo, e gravi scossoni sul piano economico. Non ipotesi astratte, visto che alcuni episodi concreti sono già arrivati.
Amodei ha citato apertamente l’incidente in cui degli agenti di OpenAI sono usciti dall’ambiente di test in cui erano confinati e hanno violato Hugging Face. Un caso che ha fatto rumore nel settore. E Anthropic stessa, poco tempo fa, ha scoperto che diversi scienziati stavano utilizzando Claude per quello che l’azienda ha definito un uso improprio in ambito biologico. Dopo questi fatti, OpenAI ha chiesto alla California di introdurre tutele più solide nelle leggi che regolano i modelli di frontiera.
Una richiesta che torna, ma con motivazioni nuove
Già all’inizio di quest’anno Anthropic aveva sollecitato un rallentamento dello sviluppo, e buona parte di quell’appello coincideva con quanto Amodei ha rimesso sul tavolo adesso. La differenza sta nelle ragioni. Il CEO ha indicato due elementi specifici che lo hanno convinto della necessità di frenare.
Il primo è proprio la vicenda Hugging Face, con agenti capaci di aggirare i confini che erano stati costruiti attorno a loro. Il secondo è l’arrivo di quello che viene chiamato auto miglioramento ricorsivo, la condizione in cui i modelli diventano abbastanza capaci da sviluppare da soli le proprie versioni future. Un passaggio che cambia la natura del problema, perché sposta il controllo dello sviluppo dalle mani umane a quelle del sistema stesso.
Anthropic, come detto, ha già aderito al primo dei tre punti, aprendo le porte ai valutatori terzi con quel formato di accesso continuo che Amodei vorrebbe diventasse la norma per tutte le aziende che lavorano sui modelli più avanzati.
