In questo articolo Indice dei contenuti 2 sezioni
Accettare che accadano “alcune cose brutte” in cambio dei vantaggi dell’intelligenza artificiale. È questo, secondo Sam Altman, il prezzo da pagare per una tecnologia capace di cambiare il mondo. L’amministratore delegato di OpenAI, l’azienda che ha dato vita a ChatGpt, lo ha detto senza troppi giri di parole in un’intervista rilasciata a una newsletter tecnologica statunitense, usando la frase per spiegare cosa distingue la sua società da Anthropic, il laboratorio concorrente guidato da Dario Amodei. “Crediamo che il mondo dovrebbe accettare che accadano alcune cose brutte in cambio dei benefici di questa tecnologia e della possibilità per le persone di avere capacità di scelta”, ha dichiarato.
Nel compromesso immaginato da Altman rientrano danni molto concreti come truffe, usi impropri e attacchi informatici resi più facili dall’IA. Il numero uno di OpenAI però è convinto che le applicazioni positive generate da milioni di persone supereranno di gran lunga quelle dannose. Dal suo ragionamento restano fuori invece i rischi catastrofici, compresa una possibile perdita di controllo sui sistemi.
Il dibattito sul rallentamento dei modelli di frontiera
La dichiarazione arriva in una fase particolarmente delicata per i laboratori del settore. Da settimane alcuni tra i ricercatori e i dirigenti più influenti discutono pubblicamente dell’ipotesi di frenare lo sviluppo dei sistemi di frontiera, cioè i modelli più avanzati e costosi, quelli che segnano il limite di ciò che oggi è tecnicamente possibile. Appena tre settimane fa lo stesso Altman aveva sostenuto la proposta di Amodei di “rallentare la frontiera”, ovvero ridurre la velocità con cui crescono le capacità dei modelli e aprire maggiormente le porte a valutatori indipendenti. In quell’occasione aveva condiviso il timore che sistemi agentici molto più potenti potessero diventare difficili da gestire.
Le parole più recenti chiariscono meglio la sua visione. OpenAI continua a preferire una regolamentazione relativamente leggera e un’intelligenza artificiale ampiamente accessibile, e giudica inaccettabile uno scenario in cui pochi laboratori decidano chi possa usare una tecnologia così potente e come distribuirne i vantaggi.
Il rapporto pubblico di Altman con i pericoli dell’IA, negli ultimi tre anni, ha avuto l’andamento di una montagna russa. A maggio del 2023, nella sua prima audizione davanti al Senato degli Stati Uniti, ChatGpt esisteva da meno di sei mesi e Washington stava ancora cercando di capire cosa comportasse l’IA generativa. Il tono scelto allora era molto prudente. Ai senatori spiegò che la sua paura più grande era che la tecnologia potesse causare “danni significativi al mondo”, aggiungendo un avvertimento piuttosto inquietante: “Se questa tecnologia va male, può andare molto male”. Chiese regole, test di sicurezza e perfino un’autorità federale in grado di rilasciare licenze ai sistemi più potenti.
Un anno e mezzo dopo il registro era cambiato. A settembre del 2024 Altman ha pubblicato The Intelligence Age, un saggio che descriveva un futuro di “prosperità enorme” reso possibile dall’IA e da energia abbondante, con progressi in grado di aiutare contro la crisi climatica, di spingere la colonizzazione dello spazio e persino di portare alla scoperta di nuova fisica. Riconosceva conseguenze negative e scossoni nel mercato del lavoro, ma il quadro restava straordinariamente ottimista. Nel 2026 le ombre sono tornate nei suoi discorsi, accompagnate da un’idea diversa del rischio. Oggi il manager parla apertamente di danni inevitabili e della necessità di stabilire quali siano tollerabili. La sua posizione somiglia sempre più a un calcolo politico e tecnologico che prevede di frenare quando una capacità rischia di sfuggire al controllo, lasciando però la tecnologia abbastanza aperta da poter essere sfruttata dalla società.
Le dimissioni di David Robinson
Quasi nelle stesse ore in cui Altman rilasciava l’intervista, David Robinson, che per tre anni e mezzo si era occupato della sicurezza dei modelli di OpenAI, ha lasciato l’azienda accusandola di avere una cultura profondamente inadeguata rispetto alla tecnologia che sta costruendo. In un lungo intervento pubblicato su una rivista americana ha spiegato che la società è cresciuta seguendo una strategia basata su tentativi ed errori: si rilasciano gradualmente sistemi reali, si osservano i problemi e poi si rafforzano le protezioni.
Con sistemi sempre più autonomi, secondo Robinson, quel metodo diventa troppo pericoloso. “Il tempo in cui si può provare e sbagliare è finito”, ha scritto, ricordando alcuni episodi recenti in cui agenti di IA hanno superato o aggirato le protezioni predisposte dai loro stessi sviluppatori. La sua proposta guarda lontano dalla Silicon Valley. I laboratori di frontiera, sostiene, dovrebbero studiare il funzionamento delle centrali nucleari e dei grandi aeroporti, settori costruiti attorno a controlli e procedure pensati per evitare che lo sbaglio di una singola persona abbia conseguenze gravi.
Fonte: TecnoAndroid
