La governance dell’intelligenza artificiale nelle aziende è diventata una faccenda seria, e White Circle lo sa bene. La startup specializzata nel monitoraggio e nella protezione dei sistemi AI in tempo reale ha appena chiuso un seed round da circa 10 milioni di euro, coinvolgendo un gruppo di investitori che fa girare la testa: nomi legati a OpenAI, Anthropic, Mistral, Hugging Face, DeepMind, Datadog, Keras e Sentry. Tra questi figurano Romain Huet (OpenAI), Dirk Kingma (Anthropic, in precedenza OpenAI), Guillaume Lample (Mistral), Thomas Wolf (Hugging Face), Olivier Pomel (Datadog), François Chollet (Keras), Mehdi Ghissassi (ex DeepMind), Paige Bailey (DeepMind) e David Cramer (Sentry). Non esattamente un giro di amici qualunque.
Il contesto in cui White Circle si muove è piuttosto chiaro. L’adozione dell’AI sta accelerando a un ritmo che le strutture di governance esistenti faticano a reggere. Il fenomeno del cosiddetto “vibe coding” e la facilità con cui oggi si possono lanciare prodotti basati sull’intelligenza artificiale hanno reso tutto più veloce, ma anche più opaco. Spesso chi mette in produzione un sistema AI non ha piena visibilità su come quel sistema si comporta una volta rilasciato. Ed è qui che le cose si complicano.
Cosa fa concretamente White Circle
White Circle offre alle aziende una piattaforma unificata, accessibile tramite una singola API, per testare, proteggere, osservare e ottimizzare i propri sistemi AI. I suoi modelli proprietari analizzano input e output in tempo reale, rilevando contenuti dannosi, allucinazioni, attacchi di prompt injection, derive nei modelli e comportamenti malevoli da parte degli utenti. La piattaforma include anche strumenti di analisi che permettono ai team di valutare e migliorare le prestazioni dei modelli nel tempo.
In pratica, White Circle è in grado di individuare problemi come la fuga di dati sensibili, tentativi di manipolare agenti AI per farli compiere azioni dannose, o segnali di calo delle performance di un modello. I team possono creare policy personalizzate e automatizzare azioni di enforcement, dal rate limiting al ban degli utenti abusivi. Il sistema, nel frattempo, continua a migliorarsi grazie al feedback etichettato degli utenti.
Denis Shilov, fondatore e CEO di White Circle, ha sottolineato come il ritmo dello sviluppo dell’AI stia superando le capacità dei framework di governance attuali. Le aziende si affidano sempre di più a sistemi di intelligenza artificiale in ambiti che toccano direttamente le persone: dalla sanità alla finanza, dalle assunzioni alla sicurezza. E nel frattempo, sviluppare prodotti AI è diventato enormemente più accessibile, rendendo il controllo molto più complesso. White Circle è stata costruita proprio per dare alle organizzazioni visibilità su come si comporta la loro AI, per aiutarle a intervenire quando qualcosa va storto e per offrire un sistema unificato che copra affidabilità, sicurezza e conformità.
Un prodotto pensato anche per chi non è tecnico
Elena Iumagulova, Head of Design di White Circle, ha spiegato che il prodotto è stato progettato per rendere la supervisione dell’AI accessibile tanto ai team tecnici quanto a quelli non tecnici. L’idea di fondo è dare alle organizzazioni un punto centralizzato da cui monitorare le performance, identificare i rischi e ottimizzare i modelli, il tutto attraverso un’unica interfaccia e API, indipendentemente dalla scala di deployment.
I fondi appena raccolti serviranno ad accelerare lo sviluppo del prodotto, ampliare il team di White Circle negli Stati Uniti, nel Regno Unito e in Europa, e sostenere la crescita della base clienti a livello globale.