In questo articolo Indice dei contenuti 2 sezioni
I modelli di AI open source stanno crescendo a una velocità che rende difficile tenere il conto, e con loro cresce anche un problema di cui si parla meno: le protezioni integrate nei sistemi possono essere smontate da chiunque abbia le competenze per farlo. Rendere un’intelligenza artificiale accessibile significa infatti consentire a ricercatori e sviluppatori di studiarla, modificarla, adattarla alle proprie esigenze. Una libertà preziosa, che però ha un rovescio della medaglia piuttosto evidente, perché gli stessi meccanismi pensati per impedire risposte pericolose possono essere indeboliti o rimossi del tutto.
Esiste persino una tecnica con un nome specifico per questo tipo di intervento. Si chiama abliteration e agisce direttamente sul modello, eliminando quei meccanismi interni che gli impediscono di generare contenuti dannosi. Non si tratta di aggirare un filtro con un prompt costruito ad arte, ma di mettere le mani nella struttura stessa del sistema, disattivando le barriere alla radice.
Oltre 6.000 modelli modificati e il limite dei filtri finali
Il fenomeno ha smesso da tempo di essere un caso isolato. Solo su Hugging Face, la piattaforma dove la comunità condivide e distribuisce modelli di intelligenza artificiale, risultano disponibili oltre 6.000 modelli modificati in questo modo. Un numero che racconta bene quanto la pratica si sia diffusa e quanto sia semplice, oggi, reperire versioni di un sistema private delle loro protezioni originali.
Qui si arriva al punto più delicato della questione. L’approccio adottato finora dall’industria prevede che i controlli di sicurezza vengano applicati soprattutto alla fine del processo, quando il modello è pronto per essere distribuito. Una specie di rete messa all’ultimo momento. Il problema è che, se quella rete si può togliere con una procedura documentata e replicabile, la protezione regge solo finché nessuno decide di intervenire. Applicare filtri soltanto nella fase di distribuzione, insomma, rischia di non bastare più.
La differenza sostanziale rispetto ai sistemi chiusi sta proprio in questo. Quando un modello resta confinato dentro i server di un’azienda, le difese non sono raggiungibili dall’esterno. Quando invece i pesi del modello, cioè i parametri che ne determinano il comportamento, vengono pubblicati e scaricati liberamente, chiunque può lavorarci sopra senza rendere conto a nessuno.
L’alleanza tra Base Labs, Hugging Face e Goodfire AI
Da questa constatazione nasce una collaborazione tra tre realtà del settore. Base Labs, il laboratorio di ricerca creato da Baseten, ha unito le forze con Hugging Face e con Goodfire AI per affrontare il tema in modo strutturale. L’obiettivo dichiarato è sviluppare e pubblicare metodi con cui addestrare, valutare e monitorare la sicurezza dei modelli open weight, quelli appunto i cui parametri sono resi pubblici.
Il passaggio interessante sta in quel verbo, pubblicare. Non si parla di soluzioni proprietarie custodite gelosamente, ma di metodologie condivise, disponibili a chi sviluppa modelli e vuole costruirli su basi più solide. Una scelta coerente, del resto, con la filosofia dell’ecosistema aperto: se il problema nasce dalla trasparenza, la risposta passa anch’essa dalla trasparenza.
Le tre parole chiave del progetto descrivono un percorso che copre l’intero ciclo di vita di un sistema di intelligenza artificiale. Addestrare significa incorporare la sicurezza fin dalle prime fasi, non appiccicarla a posteriori. Valutare vuol dire disporre di strumenti capaci di misurare quanto un modello resista ai tentativi di manomissione. Monitorare implica un’osservazione continua anche dopo il rilascio, quando il modello è già nelle mani della comunità e inizia a circolare in versioni derivate.
Fonte: TecnoAndroid
