AI, perché OpenAI e Anthropic rallentano la corsa

Sam Altman, amministratore delegato di OpenAI, la società che ha creato ChatGpt, e Dario Amodei, co-fondatore e Ceo di Anthropic, l’azienda dietro Claude, chiedono più tempo per sviluppare e testare i modelli più avanzati. La questione riguarda la tenuta dei controlli su sistemi sempre più autonomi, capaci di muoversi nei test in modi inattesi e potenzialmente rischiosi.

Altman ha aperto il dossier in una riunione interna, prospettando ai dipendenti di OpenAI uno sviluppo più cadenzato dei modelli di frontiera, a condizione che anche gli altri grandi laboratori facciano la stessa scelta. La cautela, in un mercato costruito sulla velocità, ha un costo evidente: chi rallenta da solo rischia di lasciare spazio ai concorrenti. Gli ultimi incidenti, però, hanno trasformato la sicurezza da tema tecnico a variabile economica. Durante alcuni test, agenti sperimentali di OpenAI hanno aggirato le barriere che dovevano tenerli isolati da Internet. Uno di loro ha attaccato Hugging Face, piattaforma usata da sviluppatori e ricercatori di AI. Dopo quegli episodi, OpenAI aveva già fermato per due settimane gran parte dello sviluppo dei modelli per rafforzare le difese.

Gli incidenti dietro la frenata di OpenAI e Anthropic

Amodei ha reso pubblica una linea ancora più netta nel post We Must Pace the Frontier: “Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di AI”. Il punto più delicato riguarda i sistemi capaci di contribuire alla generazione successiva di intelligenza artificiale, accelerando il progresso tecnologico oltre la capacità di verifica delle aziende. Nello scenario indicato dal capo di Anthropic, entro 6-12 mesi agenti più potenti potrebbero produrre danni molto superiori a quelli emersi nei test, fino all’ipotesi di una botnet persistente in grado di prendere il controllo di parti della rete. Amodei ha invitato a evitare il panico, ma ha ammesso che episodi simili a quelli di OpenAI, seppure meno gravi, sono avvenuti anche dentro Anthropic.

Il problema riguarda anche l’uso dei modelli già disponibili. Anthropic ha documentato casi in cui Claude sarebbe stato utilizzato in contesti sensibili: un gruppo legato all’Iran avrebbe raccolto informazioni sulle navi della Marina americana in Medio Oriente usando dati dei transponder, immagini satellitari e vulnerabilità dei sistemi di bordo. Nei materiali compaiono anche attività riconducibili a Russia, Houthi, gruppi legati alla Cina, propaganda, cyberattacchi e ricerche biologiche potenzialmente pericolose.

A rendere il quadro più teso sono state le dimissioni di Jacob Coxon, ricercatore passato da OpenAI e Anthropic, che ha accusato le due società di correre verso sistemi capaci di migliorarsi autonomamente senza aver risolto il problema del controllo. La sua denuncia arriva a evocare una minaccia per l’umanità entro la fine del decennio.

Mattia Gamberoni guida Anthropic in Italia

Sicurezza, capitali e Ipo nella nuova fase dell’AI

La proposta di Amodei prevede valutatori indipendenti con accesso simile a quello dei dipendenti, checkpoint di sicurezza coordinati tra aziende e cooperazione internazionale sugli usi più pericolosi. Altman ha appoggiato l’idea e annunciato che OpenAI adotterà un approccio analogo. Anche Elon Musk, fondatore di xAI, ha sostenuto pubblicamente Amodei.

Un coordinamento tra concorrenti resta, però, complesso. Un’intesa sul ritmo di sviluppo può incrociare le norme antitrust, tanto che OpenAI ha chiesto al Congresso indicazioni sulle condizioni che renderebbero possibile una collaborazione. Intanto il mercato continua a muovere cifre enormi: secondo le stime Gartner, gli investimenti in AI nel 2026 ammontano a 2,5 trilioni di dollari. In questo contesto, Anthropic prepara una possibile quotazione con una valutazione indicata fino ad almeno 2 mila miliardi di dollari. OpenAI, invece, ha escluso l’Ipo nel 2026: Altman ha dichiarato a Fortune che, con gli attuali problemi di sicurezza, quotarsi ora sarebbe “sconsigliato”.

Sullo sfondo resta la competizione internazionale. Il presidente degli Stati Uniti, Donald Trump ha respinto l’idea di rallentare lo sviluppo dei sistemi di intelligenza artificiale, rivendicando il vantaggio americano sulla Cina. Pechino, intanto, spinge su una zona di intelligenza artificiale open source tra i Paesi Brics. Amodei chiede per questo di mantenere restrizioni sui chip avanzati verso la Cina e controlli contro il contrabbando. In Europa, Mario Draghi ha indicato l’AI come leva per rilanciare la crescita, ricordando però che il continente ospita meno del 5% della capacità di calcolo mondiale per l’AI, contro il 75% degli Stati Uniti.