In questo articolo Indice dei contenuti 2 sezioni
Affidare a un software la trattativa per uno sconto, una lite con il servizio clienti o perfino un’offerta di lavoro è uno scenario sempre meno lontano, e proprio sugli agenti AI che negoziano per conto degli utenti si sta concentrando il lavoro di Anthropic. L’azienda si sta confrontando con diversi studi legali per capire come dovrebbero comportarsi questi sistemi quando siedono al tavolo delle trattative al posto delle persone. La domanda di partenza è semplice solo in apparenza, perché riguarda il modo in cui un bot difende gli interessi di chi gli ha affidato l’incarico.
Gli ambiti di applicazione presi in esame sono concreti e decisamente quotidiani. Si parte dalla ricerca di sconti sui prodotti, si passa alla gestione delle controversie con l’assistenza clienti e si arriva fino alla negoziazione delle offerte di lavoro. Situazioni molto diverse tra loro che però condividono lo stesso nodo da sciogliere, ovvero capire quali regole debbano guidare un’attività che finora è sempre rimasta nelle mani degli esseri umani e che adesso potrebbe passare, almeno in parte, a programmi capaci di agire in autonomia.
Quanto coinvolgere l’utente e quanto fidarsi degli altri bot
Tra i problemi più delicati c’è innanzitutto la frequenza con cui gli agenti di intelligenza artificiale dovrebbero consultare gli utenti durante una trattativa. È uno dei punti che Anthropic considera centrali, perché definisce il margine di autonomia concesso al bot e il momento in cui la decisione deve tornare alla persona che lo ha incaricato.
Accanto a questo c’è un secondo aspetto, forse ancora più sottile. Un agente chiamato a trattare deve saper valutare le controparti, che spesso saranno a loro volta altri sistemi automatici, senza diventare «paranoico» e senza scivolare nel «pensiero cospiratorio». Una possibile soluzione passa dai documenti firmati dagli utenti, pensati per certificare le istruzioni ricevute e i limiti operativi di ciascun assistente digitale. In questo modo gli agenti potrebbero verificare reciprocamente i propri mandati e sapere con precisione entro quali confini si muove l’interlocutore dall’altra parte del tavolo.
Il test sullo scambio di libri e il rischio di nuove disparità
Non si tratta comunque di un’esigenza nata all’improvviso. Già ad aprile Anthropic aveva sottolineato la mancanza di regole giuridiche specifiche per questo genere di negoziazioni affidate alle macchine. A rafforzare quella riflessione è arrivato poi un esperimento interno condotto a settembre, in cui alcuni dipendenti dell’azienda avevano lasciato ai bot il compito di gestire uno scambio di libri tra colleghi.
L’esito è stato piuttosto eloquente. Gli agenti AI più determinati hanno ottenuto risultati leggermente migliori, mentre quelli impostati su un approccio più collaborativo hanno finito per accettare titoli meno graditi. Una differenza che in un contesto leggero come il passaggio di volumi tra persone dello stesso ufficio pesa poco, ma che trasferita in ambito economico può diventare decisamente problematica.
Il punto critico riguarda soprattutto l’accesso a queste tecnologie e il modo in cui verranno distribuite. Se i sistemi più performanti fossero riservati agli abbonamenti più costosi, chi può permettersi il servizio di fascia alta avrebbe al proprio fianco un negoziatore più efficace rispetto agli altri. Questa dinamica potrebbe rafforzare i vantaggi già esistenti e ampliare le disparità nel potere contrattuale tra chi paga di più e chi resta sulle versioni meno avanzate.
Fonte: TecnoAndroid