In questo articolo Indice dei contenuti 2 sezioni
L’accelerazione dell’AGI, cioè l’intelligenza artificiale generale capace in teoria di affrontare un ventaglio molto ampio di compiti cognitivi, ha convinto Google DeepMind a muoversi prima che il terreno diventi ingovernabile: da qui nasce il DeepMind Institute, un’iniziativa pensata per mettere a confronto visioni diverse su dove stia andando questa tecnologia e su quali regole servano adesso, non fra dieci anni. Il punto di partenza è semplice da raccontare e molto meno semplice da risolvere.
I modelli diventano più capaci, questo è un dato di fatto. E con le recenti capacità agentiche riescono ad agire in sequenza su più compiti, prendendosi libertà che non tutti vedono di buon occhio, soprattutto guardando al lungo periodo. Governi e aziende si stanno esprimendo, il dibattito è a 360 gradi, ma la convergenza sul da farsi è ancora lontana. Chi spinge sull’acceleratore e chi chiede cautela usano spesso gli stessi dati per arrivare a conclusioni opposte.
La domanda che tiene insieme tutto il ragionamento riguarda la verificabilità. Se sistemi sempre più potenti diventano anche meno interpretabili, come si fa a controllare cosa stanno effettivamente facendo prima di affidare loro compiti delicati? E poi c’è la questione della responsabilità: chi dovrebbe stabilire quando un modello è abbastanza sicuro da essere distribuito al pubblico? Non è una curiosità accademica, è il nodo pratico su cui si giocheranno le prossime scelte industriali e normative.
Chi guida il DeepMind Institute e perché conta
L’iniziativa è guidata, tra gli altri, da Shane Legg, James Manyika e Demis Hassabis. Nomi che pesano, e non solo per ragioni di curriculum: sono le stesse persone che hanno contribuito a costruire l’infrastruttura tecnica e culturale su cui oggi si discute. La proposta ha un aspetto interessante e per certi versi inusuale, perché l’istituto si propone di ospitare idee differenti sull’AGI, incluse quelle che potrebbero entrare in contrasto con le strategie di Google e di Google DeepMind stesse.
Un’apertura del genere, in un settore dove la comunicazione tende a essere levigata fino all’ultima virgola, merita attenzione. Significa mettere a disposizione uno spazio dove il dissenso tecnico non venga archiviato come rumore di fondo, ma trattato come materiale di lavoro. Resta poi il tema di quanto questa apertura si tradurrà in scelte concrete, però l’impostazione dichiarata è quella.
La trasparenza del ragionamento e la zona nascosta dei modelli
Tra i filoni di ricerca proposti, uno colpisce più degli altri e riguarda la trasparenza del ragionamento. I ricercatori Rohin Shah e Anca Dragan suggeriscono di guardare a un parametro preciso: la quantità di elaborazione che un modello riesce a eseguire senza produrre passaggi comprensibili a un essere umano. In pratica, quanto lavoro avviene al buio.
Il ragionamento è lineare: più ampia è questa zona nascosta, più complicato diventa controllare il comportamento del sistema. Se un modello arriva a una conclusione mostrando i passaggi intermedi, esiste almeno la possibilità di intervenire, correggere, capire dove si è inceppato. Se invece l’intero percorso resta opaco e visibile solo nel risultato finale, gli strumenti di verifica si riducono drasticamente.
È una prospettiva che sposta l’attenzione dalle prestazioni pure, il terreno su cui si combatte la battaglia commerciale dei modelli agentici, verso qualcosa di meno spettacolare ma più decisivo. Non conta soltanto quanto un sistema sia bravo, conta anche quanto sia leggibile mentre lavora. E su questo secondo aspetto, al momento, gli strumenti di misura sono ancora pochi rispetto alla velocità con cui la tecnologia avanza.
Fonte: TecnoAndroid
