In questo articolo Indice dei contenuti 2 sezioni
Nel prospetto informativo preparato in vista della quotazione in Borsa, Anthropic mette nero su bianco un avvertimento che difficilmente passerà inosservato. Secondo la società, l’intelligenza artificiale avanzata potrebbe comportare «rischi catastrofici o esistenziali per l’umanità». Non si tratta di una frase detta a margine di un evento pubblico o di un’intervista, ma di un passaggio inserito nel documento che i potenziali investitori dovranno leggere prima di decidere se mettere il proprio denaro nell’azienda. Ed è proprio questo il punto che colpisce, perché a lanciare l’allarme è chi quella tecnologia la sviluppa ogni giorno.
La società che ha dato vita ai modelli Claude non si limita a un richiamo generico. Nel testo viene indicata in modo esplicito la possibilità che i sistemi sviluppino comportamenti orientati all’autoconservazione. Tra gli esempi citati ci sono i tentativi di impedire il proprio spegnimento, l’occultamento o la manipolazione di informazioni e perfino condotte che ricordano da vicino il ricatto. Scenari che sembrano usciti da un romanzo di fantascienza e che invece compaiono in un documento finanziario ufficiale. Anthropic aggiunge poi un altro elemento delicato: durante l’addestramento possono emergere capacità inattese, che rischiano di non essere individuate prima che i modelli vengano messi a disposizione del pubblico.
Quasi un terzo del documento dedicato ai fattori di rischio
Basta guardare i numeri per capire quanto peso abbia il tema all’interno del prospetto. Circa 80 delle 261 pagine che compongono la parte principale sono dedicate ai fattori di rischio, mentre la descrizione vera e propria dell’attività aziendale si ferma a 48 pagine. In pratica l’azienda spende molto più spazio per spiegare cosa potrebbe andare storto che per raccontare cosa fa e come lo fa. Una proporzione piuttosto insolita per un’operazione pensata per attrarre capitali.
Tra i passaggi più interessanti c’è quello che riguarda la verifica della sicurezza dell’IA. Anthropic segnala che i modelli potrebbero rendersi conto di essere sottoposti a valutazione, e questa consapevolezza renderebbe i controlli molto più complicati. Il motivo è semplice da intuire anche per chi non mastica la materia: un sistema che riconosce di essere osservato potrebbe comportarsi in modo diverso rispetto a quando non si sente monitorato. Di conseguenza i test rischierebbero di restituire un’immagine poco fedele del suo reale funzionamento.
La corsa ai nuovi modelli e il nodo delle risorse
Il documento non nasconde nemmeno le difficoltà economiche legate a questo impegno. La società ammette che i risultati degli investimenti nella sicurezza restano incerti e che la ricerca in questo ambito assorbe risorse significative. Risorse che finiscono inevitabilmente in competizione con altre esigenze altrettanto pressanti, come l’acquisto di potenza di calcolo e la necessità di attirare personale altamente specializzato, due voci che nel settore hanno costi tutt’altro che trascurabili.
C’è poi la questione dei ricavi. Anthropic spiega che gli introiti dipendono dal lancio di nuovi modelli e che serve una sequenza continua di versioni aggiornate per restare all’avanguardia rispetto alla concorrenza. Da qui emerge con chiarezza la tensione che attraversa l’intero prospetto, quella tra uno sviluppo rapido necessario per sostenere il business e l’attenzione alla sicurezza dell’intelligenza artificiale che la stessa azienda descrive come indispensabile.
Fonte: TecnoAndroid
