In questo articolo Indice dei contenuti 2 sezioni
Una nuova legge dello Stato di New York vieta ai minori di interagire con i cosiddetti compagni basati sull’intelligenza artificiale, e lo fa con una definizione talmente ampia da includere la maggior parte dei chatbot di intelligenza artificiale generativa oggi disponibili sul mercato. A firmare il provvedimento è stata la governatrice Kathy Hochul, che ha così portato lo Stato su una linea decisamente più severa rispetto a quella adottata finora nel resto degli Stati Uniti.
Il punto non è tanto la novità del tema, visto che altri Stati si erano già mossi in questa direzione. La California, per esempio, ha approvato norme che regolano l’uso dei compagni virtuali da parte dei ragazzi. Nessuna di queste leggi però aveva mai avuto un raggio d’azione così esteso. Ed è proprio questa portata a rendere il caso newyorkese diverso da tutti i precedenti, perché la definizione scelta finisce per abbracciare strumenti molto diversi tra loro, dagli assistenti conversazionali più noti fino a servizi pensati per scopi del tutto differenti.
Cosa prevede la legge firmata da Kathy Hochul
Nella pratica il testo impone agli operatori dei chatbot due obblighi principali. Il primo riguarda la verifica dell’età degli utenti, un passaggio che diventa preliminare a qualsiasi conversazione. Il secondo scatta quando l’utente risulta minorenne e consiste nell’impedire che l’interfaccia di intelligenza artificiale mostri determinate caratteristiche.
Le restrizioni sono piuttosto precise. Il sistema non può generare contenuti che lascino intendere che sia “umano, vivente o capace di provare sentimenti umani”, come chiarisce la norma stessa. Allo stesso modo non deve presentare il dialogo con il ragazzo come “una relazione personale” o “professionale” e non può assumere “un ruolo di punto di riferimento”. In altre parole la legge dello Stato di New York vuole evitare che un software si proponga come amico, confidente o figura guida agli occhi di chi non ha ancora compiuto la maggiore età. Il bersaglio sono proprio quei tratti che rendono un assistente digitale simile a una presenza umana, quelli che più facilmente possono creare un legame emotivo con un utente giovane.
Le critiche di Tech:NYC e il nodo del Primo Emendamento
La reazione del settore tecnologico non si è fatta attendere. Tech:NYC, l’organizzazione che rappresenta le aziende del comparto a New York, ha criticato apertamente il provvedimento voluto dalla governatrice. Nel mirino c’è soprattutto il suo “linguaggio vago”, che secondo l’associazione solleva “seri interrogativi” su una possibile violazione del Primo Emendamento della Costituzione americana, quello che tutela la libertà di espressione.
Le preoccupazioni però non si fermano al piano giuridico. Secondo l’organizzazione il testo rischia di avere effetti concreti anche su servizi che con i compagni virtuali hanno poco a che fare. La norma infatti “potrebbe limitare l’accesso a tutoraggio, supporto nello svolgimento dei compiti, assistenti alla programmazione e piattaforme fondamentali per il percorso professionale”. Si tratta di strumenti che molti studenti usano ogni giorno per lo studio o per muovere i primi passi nel mondo del lavoro, e che con una definizione così larga potrebbero ricadere tra quelli vietati ai minori.
C’è poi un aspetto che riguarda la riservatezza. L’obbligo di accertare l’età degli utenti comporta necessariamente la raccolta di informazioni personali, e proprio su questo punto Tech:NYC sottolinea che il provvedimento finirebbe per aumentare al tempo stesso i rischi legati allo sfruttamento dei dati dei minori.
Fonte: TecnoAndroid