In questo articolo Indice dei contenuti 3 sezioni
n documento interno di Google DeepMind mette nero su bianco un sospetto che suona quasi ironico: i sistemi di intelligenza artificiale usati per filtrare i curriculum in Google potrebbero scartare candidati bravissimi prima che un essere umano ne legga anche solo una riga. Il testo, contrassegnato dalla raccomandazione di non essere diffuso all’esterno, parla di una “probabilità non trascurabile” che la procedura di selezione butti via i profili più adatti alle posizioni aperte, oppure che li faccia arrivare troppo tardi a chi ha il potere di firmare un’assunzione. La reazione del laboratorio è stata pragmatica, quasi artigianale. Invece di attendere una revisione del meccanismo, il team ha costruito un modulo parallelo, fuori dalla procedura standard, che i candidati possono sottoscrivere per avere una garanzia semplice: qualcuno in carne e ossa leggerà davvero la candidatura. Non corregge i filtri automatici, non li disattiva, però impone un passaggio umano che altrimenti rischierebbe di non arrivare mai.
Google smentisce, ma il modulo esiste
L’azienda respinge la lettura più scomoda. Nessun malfunzionamento nell’algoritmo per le assunzioni, nessun errore sistematico: il modulo alternativo viene confermato, ma derubricato a strumento comodo per far arrivare i curriculum direttamente ai team interni che stanno cercando persone. Una scorciatoia organizzativa, insomma, non una toppa messa su una falla. Il punto interessante è chi ha scritto quel memo. Non un ufficio periferico, ma il gruppo AGI Safety and Alignment di Google DeepMind, la squadra che studia sicurezza e allineamento dell’intelligenza artificiale generale, cioè i metodi per far sì che sistemi futuri molto potenti si muovano dentro obiettivi e limiti decisi dagli esseri umani. Gente che di mestiere si occupa proprio di capire quando una macchina prende decisioni che nessuno le ha chiesto di prendere.
Sui dettagli tecnici resta il buio. Dal documento non emerge quale fase del processo sia automatizzata, quali regole vengano applicate ai curriculum, in quale momento entri in scena un selezionatore umano. Si conosce il sospetto, non l’anatomia del problema.
Il falso negativo e il paradosso commerciale
Il funzionamento generale di questi strumenti è noto. Un sistema di selezione automatizzata ordina le candidature, assegna punteggi, esclude profili in base a requisiti specifici, parole chiave, corrispondenze fra esperienza pregressa e posizione da coprire. Quando l’algoritmo respinge o piazza troppo in basso una persona che meritava un’occhiata, produce quello che in statistica si chiama falso negativo: un profilo potenzialmente idoneo trattato come inadatto. Nessun allarme suona, nessuno se ne accorge, il curriculum semplicemente sparisce.
Qui si apre il cortocircuito commerciale. Google vende alle aziende strumenti di intelligenza artificiale per le risorse umane, presentati come una benedizione per valutare i curriculum e accorciare i tempi delle selezioni. Difficile ignorare la distanza fra quel messaggio e un documento interno che ipotizza scarti indebiti proprio nel processo di reclutamento di casa.
L’invito a non usare i modelli linguistici
C’è un altro passaggio che merita attenzione. Il modulo alternativo avvisa i candidati che le risposte alle domande di selezione saranno lette da persone reali e li invita a non affidare la stesura ai modelli linguistici, perché i testi generati dall’IA tendono a somigliarsi tutti. Formule ripetute, ritmo prevedibile, quella patina uniforme che si riconosce dopo una decina di lettere motivazionali.
Un’azienda che sta scommettendo il proprio futuro sull’intelligenza artificiale che chiede ai potenziali dipendenti di scrivere da soli. E che, nello stesso tempo, si trova a gestire un documento interno secondo cui l’automazione dei suoi processi di selezione potrebbe lasciare fuori proprio le persone che vorrebbe assumere. La questione delle disparità algoritmiche, discussa da anni ogni volta che un software decide chi merita un colloquio e chi no, torna esattamente da dove nessuno se l’aspettava.
