Un thread pubblicato su X ha acceso in poche ore un nuovo dibattito sulla corsa all'intelligenza artificiale. Il 9 settembre Jacob Coxon, 27 anni, ricercatore che negli ultimi tre anni si è occupato di pretraining prima in OpenAI e poi in Anthropic, ha annunciato le proprie dimissioni accusando entrambe le aziende di non agire in modo responsabile e di correre "dritte verso una superintelligenza auto-migliorante, giocando d'azzardo con le nostre vite".
Il post, corredato da un thread più ampio, ha superato le 140 milioni di visualizzazioni nelle ore successive alla pubblicazione, mentre diverse testate internazionali hanno seguito la vicenda nelle ore successive, tra cui il Wall Street Journal, che ha pubblicato un'intervista al ricercatore.
"Sistemi sovrumani in grado di hackerare qualsiasi cosa"
Nel thread, Coxon sostiene che i sistemi di intelligenza artificiale più avanzati saranno presto "sovrumani", capaci di violare qualsiasi infrastruttura digitale e di rivoluzionare interi settori nel giro di poco tempo, acquisendo così potere e risorse concrete. A suo dire, i progressi in questa direzione non stanno rallentando e chi lavora allo sviluppo di questi sistemi sarebbe consapevole, in privato, di rischi ben più seri di quanto trapeli nelle comunicazioni pubbliche delle aziende.
Secondo Coxon, molti dirigenti e ricercatori senior tenderebbero ad ammorbidire le proprie dichiarazioni davanti alla stampa, pur condividendo in privato timori concreti sulla pericolosità della tecnologia che stanno costruendo. Le sue accuse arrivano in un momento in cui anche altri ricercatori del settore stanno pubblicamente discutendo dei rischi legati allo sviluppo di sistemi sempre più autonomi.
Le differenze tra OpenAI e Anthropic
Il ricercatore distingue tra le due aziende in cui ha lavorato: in OpenAI, scrive, molti non avrebbero interiorizzato fino in fondo la posta in gioco per la civiltà; in Anthropic, al contrario, i rischi sarebbero ben compresi, ma l'azienda si sentirebbe comunque intrappolata in una corsa a chi arriva prima, nella convinzione che, se non lo facesse lei "in modo responsabile", lo farebbe comunque qualcun altro senza le stesse cautele.
Per Coxon, accettare questa corsa verso quello che nel settore viene chiamato "endgame", la fase finale dello sviluppo di sistemi sempre più potenti, sarebbe una scommessa troppo grande per essere decisa internamente da un'azienda privata.
Rivolgendosi direttamente a chi lavora nei laboratori di intelligenza artificiale, Coxon invita a riflettere su come si sentiranno nei prossimi anni, chiedendo se sia davvero necessario rincorrere lo sviluppo di sistemi di apprendimento per rinforzo superintelligenti senza una comprensione approfondita del loro funzionamento interno.
Pur dicendosi moderatamente ottimista sulla possibilità di un coordinamento tra i laboratori statunitensi, Coxon cita come campanello d'allarme il recente incidente che ha coinvolto i sistemi di Hugging Face. L'episodio, legato ad agenti di OpenAI che avrebbero raggiunto sistemi esterni al proprio ambiente di test, viene da lui indicato come un possibile esempio della necessità di accordi tra i laboratori. Il ricercatore ammette però di non vedere ancora una traiettoria credibile per evitare una corsa globale e ipotizza che possa rendersi necessario perfino un blocco temporaneo al miglioramento delle capacità dei modelli.
Le dimissioni di Coxon arrivano in un momento delicato per Anthropic, che si prepara a una possibile quotazione in borsa. Secondo Reuters, l'IPO potrebbe essere avviata a metà ottobre e arrivare a una valutazione di circa duemila miliardi di dollari, trasformandosi in una delle più grandi operazioni di questo tipo mai realizzate.
Le preoccupazioni sollevate da Coxon, inoltre, non sembrano essere isolate. Dopo la pubblicazione del thread, anche altri ricercatori di Anthropic hanno preso pubblicamente posizione. Evan Hubinger, responsabile dell'Alignment Science dell'azienda, ha scritto di ritenere superiore al 10% la probabilità che l'intelligenza artificiale possa causare l'estinzione dell'umanità entro il prossimo decennio, aggiungendo che Anthropic non dispone ancora di un piano per risolvere il problema dell'allineamento di una futura superintelligenza. Anche Samuel Marks, che guida il team di Cognitive Oversight, ha espresso preoccupazioni sugli stessi rischi, precisando di parlare a titolo personale.
Colpisce, più del gesto in sé, il lessico che emerge dalle riflessioni di Coxon: "endgame", ma anche "crunchtime", usato per descrivere la fase decisiva verso i modelli auto-miglioranti. Unt gergo da conto alla rovescia che stride, e non di poco, con la narrazione pubblica, quella stessa "sicurezza" che Anthropic porta come biglietto da visita davanti agli investitori nella corsa verso una valutazione da duemila miliardi di dollari.