Le cosiddette “allucinazioni” dell’AI che Microsoft ha intenzione di combattere non sono altro che le risposte imprecise create dai suoi modelli di intelligenza artificiale.
In post sul blog Microsoft Source, la multinazionale statunitense di informatica ha svelato quali saranno le sue mosse per migliorare l’affidabilità e l’accuratezza delle risposte generate dalle AI. Queste “allucinazioni” nell’AI sono frutto di modifiche dei contenuti durante la generazione delle risposte. Per qualche motivo l’intelligenza artificiale aggiunge dei dati alle risposte, che spesso diventano errate o prive di fondamento.
Ecco le soluzioni che Microsoft sta sviluppando
Una delle soluzioni ideate da Microsoft è il potenziamento dei Copilot con dati di ricerca di Bling. Questi dati di ricerca di Bling vengono inseriti nel modello Copilot attraverso una tecnica che viene soprannominata “generazione aumentata di recupero”. Questo processo va ad arricchire il modello Copilot con risposte più precise e pertinenti senza la necessità di riaddestramento, offrendo anche all’utente delle citazioni per verificare le informazioni.
Un’altra idea di Microsoft consiste nel fornire degli strumenti per i clienti esterni. Nello specifico, il colosso statunitense offre Azure OpenAI Service con una funzione chiamata “On Your Data”, che permette alle aziende di integrare i propri dati interni nelle applicazioni di AI. Verrà fornito anche un altro strumento che consentirà agli utenti di rilevare il grado di “concretezza” delle risposte fornite dai chatbot in tempo reale.
L’ultima delle soluzioni che Microsoft sta sviluppando riguarda una nuova funzionalità che ha l’obiettivo di diminuire le “allucinazioni” dell”AI. Quando verrà rilevato un errore di ancoraggio, la funzione bloccherà e riscriverà automaticamente le informazioni in tempo reale. Anche se questa soluzione è stata presentata dal colosso statunitense non si sa ancora quale sarà la data di lancio.
Le migliorie che Microsoft implementerà per migliorare l’accuratezza e l’affidabilità delle risposte generate dalle sue intelligenze artificiali saranno fondamentale per il futuro di questa tecnologia. Andando a ridurre le “allucinazioni” e fornendo risposte basate su dati concreti, l’utilizzo dell’AI sarà più efficace.
Oltre alle soluzioni fornite da Microsoft, vi ricordiamo quanto è importante la qualità dei dati utilizzati per addestrare i modelli di AI, perché solo con dati accurati e affidabili è possibile ottenere delle AI capaci di fornire risposte concrete e senza errori.
