In questo articolo Indice dei contenuti 2 sezioni
GitHub ha deciso di trattare gli agenti AI come qualsiasi altro software potenzialmente vulnerabile e per farlo ha presentato uno scanner di sicurezza dedicato ai sistemi intelligenti. La ragione è abbastanza semplice da intuire. Le applicazioni che sfruttano l’intelligenza artificiale aprono strade nuove a sviluppatori e aziende, però portano con sé anche falle che i controlli classici faticano a vedere.
La nuova funzione di analisi punta a scovare le configurazioni rischiose mentre il lavoro è ancora in corso, quindi prima che le modifiche arrivino negli ambienti di produzione. Fa parte della più ampia strategia di sicurezza della piattaforma e ha un obiettivo preciso, cioè rendere più evidenti i problemi che emergono quando modelli, dati esterni e strumenti operativi iniziano a dialogare tra loro. Il tutto si inserisce direttamente nel flusso di lavoro quotidiano di chi scrive codice.
Come lavora lo scanner sulle applicazioni di intelligenza artificiale
Lo strumento, per ora disponibile in anteprima pubblica, esamina le modifiche proposte nelle pull request alla ricerca di rischi tipici delle applicazioni AI. La differenza rispetto agli strumenti pensati per le vulnerabilità convenzionali sta nel fatto che il sistema osserva anche i percorsi attraverso cui informazioni poco affidabili possono raggiungere un modello che ha accesso a strumenti, dati o servizi aziendali.
Tra le minacce prese in considerazione c’è la indirect prompt injection. Si tratta di una tecnica in cui istruzioni malevole vengono nascoste dentro contenuti esterni come pagine web, documenti o commenti. Se un agente legge quei contenuti senza le giuste protezioni può essere spinto a compiere azioni che nessuno aveva previsto. E la faccenda si complica parecchio quando il sistema possiede autorizzazioni che gli permettono di interagire con risorse riservate.
Il controllo si estende poi ai flussi che rischiano di esporre informazioni sensibili o di concedere a un agente più capacità operative di quante gliene servano davvero. Questo secondo problema viene spesso chiamato excessive agency e riguarda proprio l’autonomia eccessiva lasciata al software rispetto al compito che deve svolgere.
Sul piano tecnico l’analisi si appoggia ai modelli linguistici invece di affidarsi soltanto all’analisi statica tradizionale. In questo modo riesce a esaminare schemi di codice e flussi di dati senza le stesse limitazioni linguistiche che frenano gli strumenti classici. I risultati compaiono direttamente durante la revisione del codice, insieme a indicazioni su come intervenire sui problemi individuati.
Disponibilità, limiti e cosa cambia per chi sviluppa agenti
Per attivare la funzione serve una licenza GitHub Advanced Security e il servizio è previsto su GitHub.com, mentre resta escluso da GitHub Enterprise Server. C’è anche un dettaglio pratico da non sottovalutare, perché lo scanner va abilitato separatamente rispetto agli altri strumenti di scansione, anche nelle organizzazioni che li hanno già configurati.
Va poi fatta una distinzione importante tra individuare un rischio ed eliminarlo davvero. Le segnalazioni hanno valore consultivo e non bloccano in automatico l’integrazione delle modifiche nel ramo principale. Resta quindi essenziale la revisione umana per capire quanto sia grave il problema e quale intervento adottare.
Per le realtà che costruiscono agenti autonomi la novità suggerisce di ripensare in modo più ampio le pratiche di sicurezza. Verificare che il codice funzioni correttamente non basta più. Occorre valutare anche quali informazioni il modello può raggiungere, quali operazioni gli sono consentite e come reagisce davanti a istruzioni che arrivano da fonti esterne.
Restano infine fuori dalla scansione anche le richieste provenienti da fork e quelle generate da Dependabot, che quindi non passano sotto la lente del nuovo strumento di GitHub.
Fonte: TecnoAndroid