Jacob Coxon lascia Anthropic e lancia l’allarme sull’AI

Jacob Coxon, ricercatore di Anthropic con una precedente esperienza in OpenAI, ha lasciato l’azienda lanciando un duro allarme sulla velocità con cui i principali laboratori stanno sviluppando sistemi di intelligenza artificiale sempre più avanzati. Al centro delle sue preoccupazioni c’è la corsa verso una superintelligenza capace di auto-migliorarsi, che secondo Coxon starebbe procedendo senza sufficienti garanzie di sicurezza.

«Nessuna delle due aziende sta agendo in modo responsabile», ha scritto sul social network X riferendosi ad Anthropic e OpenAI. Secondo il ricercatore, le società stanno «giocando d’azzardo con le nostre vite» e molte delle persone impegnate nello sviluppo dell’AI ritengono possibile che la tecnologia possa arrivare a conseguenze estreme entro la fine del decennio.

L’allarme sulla corsa alla superintelligenza

Le dimissioni di Coxon hanno trovato eco anche all’interno di Anthropic. Evan Hubinger, che si occupa di allineamento dei sistemi AI, ha affermato di attribuire una probabilità superiore al 10% alla possibilità che, entro il prossimo decennio, sistemi di AI estremamente avanzati possano causare conseguenze catastrofiche per l’umanità.

Il punto centrale riguarda il cosiddetto miglioramento ricorsivo: sistemi capaci di contribuire allo sviluppo di versioni sempre più potenti di se stessi. È proprio questa prospettiva, secondo Coxon e altri ricercatori, a rendere più difficile valutare e controllare la velocità con cui potrebbero aumentare le capacità dei modelli.

Coxon ha indicato come problema principale la competizione tra i grandi laboratori, che rende difficile per una singola azienda rallentare senza lasciare spazio ai concorrenti. Da qui la richiesta di meccanismi coordinati capaci, se necessario, di frenare temporaneamente l’aumento delle capacità dei modelli.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026