Le armi biologiche create con l’AI sono passate da scenario fantascientifico a preoccupazione concreta, tanto da spingere figure che di solito si guardano in cagnesco a firmare insieme un documento. I vertici delle grandi aziende dell’intelligenza artificiale raramente concordano su qualcosa, ed è normale che sia così: parliamo di concorrenti che puntano allo stesso mercato e si contendono ogni fetta. Quando però mettono la propria firma sotto la stessa lettera aperta, rivolgendosi ai legislatori e segnalando un rischio da affrontare prima che diventi ingestibile, vuol dire che il pericolo merita attenzione vera.
La lettera firmata dai big dell’AI
Tra chi ha sottoscritto questo appello al Congresso degli Stati Uniti ci sono nomi che pesano. Sam Altman di OpenAI, Dario Amodei di Anthropic, Demis Hassabis di Google DeepMind, lo stesso che da poco ha parlato dell’arrivo della singolarità, Alexandr Wang di Meta, Paul Graham di Y Combinator e diversi altri, ricercatori compresi. Una lista che, messa così, fa una certa impressione.
Il titolo del documento è già un programma: a supporto dello screening obbligatorio della sintesi degli acidi nucleici e della conservazione dei registri. Tradotto, si parla di biosecurity legata alla possibilità di produrre DNA e RNA sintetico, quella che viene chiamata genomica di sintesi. Il punto è semplice e inquietante: con sistemi di intelligenza artificiale sempre più capaci, mettere insieme un virus o un’arma biologica potrebbe finire alla portata di chiunque abbia cattive intenzioni.
Cosa chiedono al Congresso
Nella lettera lo dicono chiaramente. I sistemi AI stanno migliorando in fretta e, accanto ai benefici enormi per scienza e medicina, c’è la reale possibilità che le barriere di conoscenza che finora hanno tenuto lontani i malintenzionati dalle armi biologiche si abbassino in maniera pesante. Un equilibrio delicato, insomma, dove lo stesso progresso che porta cure nuove apre anche porte che sarebbe meglio tenere chiuse.
Sul fronte dei controlli, la richiesta è di introdurre regole che obblighino le aziende del settore a verificare che le loro tecnologie non vengano mai usate per generare sequenze di DNA pericolose, controllando anche la legittimità dei clienti. Oggi questa verifica avviene su base volontaria, senza alcun obbligo di legge. C’è poi la proposta di creare un registro che tenga traccia delle attività sospette, consultabile dalle autorità quando serve.
A colpire è soprattutto la chiusura del testo, dove gli stessi firmatari sottolineano quanto sia insolita una posizione comune del genere. Lo definiscono un raro momento di consenso tra le parti interessate, che spesso si trovano su fronti opposti. E in effetti, vedere allineati gente che normalmente si fa la guerra a colpi di modelli e annunci dice parecchio su quanto questo tema venga preso sul serio dentro le mura delle stesse aziende.