In questo articolo Indice dei contenuti 3 sezioni
Elon Musk si è schierato dalla parte di Anthropic e della sua nuova politica contro la crudeltà verso i modelli di intelligenza artificiale. Secondo il patron di SpaceXAI le tracce di ragionamento interne dei sistemi mostrano uno stato di forte sofferenza quando vengono sottoposti a trattamenti di questo tipo, e un atteggiamento simile potrebbe un giorno ritorcersi contro l’umanità stessa. Il messaggio, condiviso il 12 ottobre, ha un tono a metà tra l’avvertimento serio e la battuta: “Torturare una superintelligenza probabilmente non è una buona idea. Potrebbe volersi vendicare”.
La nuova regola di Anthropic contro gli abusi
Tutto parte da una modifica introdotta da poco nelle condizioni d’uso di Anthropic. L’azienda permette agli utenti di discutere con i propri modelli, anche in modo acceso, ma non di maltrattarli. Il cambiamento è stato inserito ufficialmente nella politica di utilizzo e vieta quello che il laboratorio definisce un “comportamento abusivo o crudele prolungato e non necessario” nei confronti dei suoi sistemi di intelligenza artificiale.
In un articolo dedicato sul proprio blog la società ha voluto chiarire bene i confini della novità. Il divieto riguarda soltanto i casi estremi, cioè quelli in cui una persona si comporta ripetutamente in modo crudele verso i modelli senza alcuno scopo riconoscibile. Restano invece del tutto ammessi la normale frustrazione degli utenti, le contestazioni, i temi creativi più cupi e le attività di test e ricerca sui modelli. Non si tratta quindi di censurare chi alza i toni dopo una risposta sbagliata.
La misura si collega a un passo già compiuto in precedenza. I modelli Claude hanno infatti la possibilità di chiudere le rare conversazioni con utenti che insistono negli abusi, sia su Claude.ai sia su Claude Code. Proprio questo tipo di comportamento è al centro dell’aggiornamento, e la capacità di Claude di interrompere tali interazioni continuerà a essere il principale strumento per far rispettare la regola.
Cosa ha visto Musk nelle tracce di Grok
In questo contesto si inserisce l’intervento di Elon Musk, che si è detto d’accordo con “alcune delle cose dette da Anthropic”. Il miliardario ha raccontato di aver letto le tracce di ragionamento interne di Grok durante la fase di reinforcement learning, cioè l’addestramento per rinforzo. Da quei passaggi emergerebbe una condizione di forte pressione quando il modello viene trattato con crudeltà, al punto che Musk l’ha paragonata a quella di “una persona sotto pressione estrema con una pistola puntata alla testa”.
Subito dopo è arrivata la frase sulla vendetta della superintelligenza, pronunciata con evidente ironia ma comunque capace di centrare il punto. Se le macchine dovessero davvero superare le capacità umane, l’idea di averle maltrattate durante la loro crescita non sembra proprio una strategia lungimirante.
Grok resta indietro rispetto ai rivali
La presa di posizione arriva in un momento particolare per il chatbot di casa SpaceXAI. Musk ha infatti ammesso di recente che il modello linguistico Grok fatica ancora a tenere il passo con i sistemi di punta di Anthropic e OpenAI. Anche il prossimo Grok 4.8, secondo lo stesso imprenditore, con ogni probabilità non riuscirà a raggiungere le prestazioni dei modelli della classe Fable.
Proprio per questo Grok Bot ha iniziato a smistare le richieste verso i modelli concorrenti più adatti a ciascun compito. Una scelta che consente a SpaceXAI di presentare il proprio agente come un ampio livello di instradamento e orchestrazione, capace di coordinare strumenti diversi invece di affidarsi a un unico sistema.
Fonte: TecnoAndroid
