Recente è la notizia che ha visto Apple rinviare ufficialmente la nuova versione di Siri potenziata dall’intelligenza artificiale al 2027, una novità che ovviamente gli utenti non hanno preso di buon grado ma che ora è finita sotto la lente di ingrandimento di alcuni esperti tra i quali spicca il noto sviluppatore Simone Willison, co creatore del Django web framework Che ha deciso di esprimersi in merito a questo rinvio, sottolineando come potrebbe essere legato ad un rischio per la sicurezza riscontrato nello sviluppo e ancora lontano dall’essere ottimizzato.
Un pericolo in particolare
Quest’ultimo ha deciso di puntare il dito nello specifico contro le prompt injections, un particolare tipo di comando che consente di aggirare delle limitazioni che un eventuale azienda impone al proprio modello di intelligenza artificiale per evitare che quest’ultimo venga utilizzato in modo improprio, giusto per fare un esempio corrisponde a quei blocchi che le aziende mettono nei propri chatbot e che gli impediscono di esprimere concetti alle volte anche illegali, questi blocchi però tramite attenta conversazione possono essere aggirati con furbizia, un esempio è chiedere a un’intelligenza artificiale di spiegarci come accendere un’auto senza le chiavi, quest’ultima ovviamente vi dirà che non può fornire questo tipo di informazioni poiché illegali ma queste ultime possono essere ottenute ad esempio chiedendo una poesia dedicata all’accensione delle auto senza chiavi.
Ovviamente le varie aziende implementano strumenti di sicurezza che cercano di Arginare questo fenomeno, ma non sempre funzionano nel migliore dei modi, dunque con una complessa conversazione si può riuscire ad aggirarli, ovviamente immaginate se ciò venisse applicato a Siri che non solo fornisce informazioni di vario genere, ma ha anche la possibilità di accedere all’informazioni personali dell’utente contenute nel suo smartphone, una sicurezza non ottimizzata in questi termini potrebbe risultare a dir poco problematica se non devastante e lasciare spazio a violazioni ampie e di vario genere.
Secondo lo sviluppatore, dunque Apple non se l’è sentita di lanciare questa nuova versione se non prima di assicurarsi che la sicurezza sia al massimo possibile.
