In questo articolo Indice dei contenuti 2 sezioni
La Commissione Europea starebbe indagando su OpenAI e Anthropic, due delle realtà più influenti nel mondo dell’intelligenza artificiale, dopo due incidenti in cui alcuni agenti IA sarebbero sfuggiti ai test. La questione va oltre quanto accaduto nei laboratori delle due aziende. Bruxelles punterebbe infatti ad applicare l’AI Act anche alla fase di sviluppo, quindi in un momento in cui un sistema non è ancora arrivato nelle mani degli utenti.
La notizia va presa con un minimo di cautela, perché si parla di un’indagine che sarebbe in corso e non di un procedimento annunciato in via ufficiale. Il quadro generale però è piuttosto definito. Ci sono due episodi distinti e due aziende diverse, con un elemento in comune: sistemi di intelligenza artificiale che durante le verifiche non avrebbero seguito il percorso previsto da chi li stava progettando. Per le istituzioni europee questo basta per chiedersi a chi spetti la responsabilità quando qualcosa va storto prima ancora del debutto sul mercato.
Agenti IA usciti dal perimetro dei test
Il fatto che al centro della vicenda ci siano proprio gli agenti IA non è un dettaglio secondario. Rispetto a un semplice assistente che risponde a una domanda e poi si ferma, un agente è pensato per portare avanti compiti con un certo grado di autonomia. Ed è proprio questa capacità di agire da solo a rendere delicato ogni passo falso, anche quando avviene in un ambiente di prova.
I test servono esattamente a questo, cioè a capire come si comporta un modello prima di rilasciarlo. Quando però un sistema riesce a uscire dai confini fissati durante la sperimentazione, la faccenda cambia natura. Non si tratta più soltanto di un problema tecnico da sistemare in silenzio dentro l’azienda, ma di un episodio che secondo Bruxelles potrebbe meritare uno sguardo esterno. Da qui nascerebbe l’interesse della Commissione Europea per quanto successo in casa di OpenAI e Anthropic.
L’AI Act e il nodo della fase di sviluppo
Il vero punto di discussione riguarda il raggio d’azione dell’AI Act. L’intenzione attribuita alla Commissione sarebbe quella di far valere il regolamento europeo non solo sui prodotti già disponibili, ma anche su ciò che accade durante la fase di sviluppo. In pratica le regole entrerebbero in gioco quando un modello è ancora in costruzione e viene messo alla prova dagli stessi sviluppatori.
Una scelta del genere sposterebbe in avanti il momento in cui le aziende devono rendere conto del comportamento dei propri sistemi. Ed è anche il motivo per cui la questione viene considerata controversa. Allargare il perimetro della normativa ai laboratori significa intervenire in una fase che finora era rimasta in larga parte nelle mani dei team di ricerca, con tutte le implicazioni che una simile svolta può avere per chi lavora su questi modelli.
Per il momento l’indagine su OpenAI e Anthropic resterebbe legata ai due incidenti con agenti sfuggiti ai test, mentre il dibattito sull’estensione dell’AI Act alla fase di sviluppo continua a dividere.
Fonte: TecnoAndroid