Microsoft e l’MIT stanno lavorando insieme ad un nuovo progetto per auto e robot autonome. Parliamo dello sviluppo di un sistema che aiuta a identificare le lacune nella conoscenza dell’intelligenza artificiale in automobili e robot autonomi. Questi errori, indicati come “punti ciechi“, si verificano quando vi sono differenze significative tra gli esempi di allenamento e ciò che un umano farebbe in una determinata situazione. Ad esempio, come un’auto senza conducente che non rileva la differenza tra una grande auto bianca e un’ambulanza con il suono delle sirene accese.
Il nuovo modello, sviluppato da MIT e Microsoft, utilizza le potenzialità di un sistema di intelligenza artificiale. Questo confronta le azioni fatte da un umano con quello che sarebbe successo autonomamente nella stessa situazione. In alternativa, se c’è un umano che veglia sull’IA è possibile correggere qualsiasi errore mentre questo accade.
Microsoft e MIT hanno già provato il sistema su un videogioco
Il risultato è che il sistema di intelligenza artificiale cambierà il suo comportamento in base al confronto delle sue azioni con quelle umane. Identificherà poi le situazioni in cui c’è bisogno di maggiore comprensione. Il modello aiuta i sistemi autonomi a conoscere meglio ciò che non conoscono, scrive il ricercatore Ramya Ramakrishnan.
Molte volte, quando questi sistemi vengono implementati, le loro simulazioni addestrate non corrispondono al contesto reale e potrebbero commettere errori. L’idea è di usare gli umani per colmare il divario tra la simulazione e il mondo reale, in modo sicuro, in modo da poter ridurre alcuni di questi errori .
Il modello non è ancora pronto per l’implementazione pubblica, ma i ricercatori lo hanno testato utilizzando videogiochi in cui un essere umano simulato apporta correzioni per un personaggio nel gioco. Sembra tuttavia che il prossimo passo logico sia iniziare a usarlo con auto reali autonome e con i loro sistemi di test.
