Nadella (Microsoft) vuole un freno d’emergenza per l’intelligenza artificiale

Il Ceo di Redmond propone controlli indipendenti per fermare i sistemi AI più avanzati in caso di anomalie. Centrale anche la tracciabilità delle operazioni

Nadella (Microsoft) vuole un freno d'emergenza per l'intelligenza artificiale

Un freno d’emergenza per interrompere i sistemi di intelligenza artificiale più avanzati quando sfuggono al controllo umano. È la proposta di Satya Nadella, amministratore delegato di Microsoft. L’obiettivo è impedire che modelli sempre più autonomi possano compiere azioni impreviste senza un adeguato controllo umano.

La proposta è stata presentata dal numero uno dell’azienda in un intervento pubblicato il 10 ottobre 2026, nel quale invita a ripensare l’architettura di sicurezza delle nuove tecnologie. Secondo Nadella, non basta fidarsi delle garanzie offerte dagli sviluppatori: occorre progettare sistemi capaci di contenere eventuali comportamenti anomali fin dall’inizio.

Un pulsante per fermare l’AI

Il principio alla base della proposta di Nadella, e quindi di Microsoft, è semplice: gli esseri umani devono poter interrompere il funzionamento di un modello AI quando emergono rischi concreti. Un operatore autorizzato dovrebbe quindi avere la possibilità di sospendere o arrestare un sistema anche mentre sta eseguendo un’attività.

Nadella sottolinea inoltre l’importanza di separare il modello di intelligenza artificiale dagli strumenti che ne coordinano le operazioni, rendendo i controlli di sicurezza indipendenti e verificabili.

Un altro elemento fondamentale riguarda la tracciabilità. Le azioni significative compiute dall’intelligenza artificiale dovrebbero essere documentate attraverso registri leggibili e resistenti alle manomissioni, così da consentire verifiche e ricostruzioni successive.

I rischi degli agenti autonomi

La questione diventa particolarmente importante con la diffusione degli AI agent, sistemi capaci non soltanto di generare risposte, ma anche di utilizzare strumenti digitali e svolgere attività in autonomia. Un comportamento imprevisto può tradursi in accessi non autorizzati, operazioni indesiderate o decisioni potenzialmente dannose. Per questo, il controllo degli accessi, la possibilità di interrompere le attività e la supervisione umana rappresentano elementi centrali nella progettazione di sistemi affidabili.

Il dibattito è alimentato anche da episodi recenti che hanno sollevato interrogativi sulla sicurezza dei modelli avanzati. La necessità di contenere i rischi non riguarda quindi soltanto scenari futuri, ma anche l’impiego concreto dell’AI. La posizione di Nadella si inserisce in un confronto più ampio sulla regolamentazione dell’intelligenza artificiale. Il 12 ottobre, anche il presidente di Microsoft, Brad Smith, ha chiesto maggiori garanzie normative, sostenendo la necessità di meccanismi capaci di arrestare i sistemi fuori controllo e di responsabilità più chiare in caso di danni provocati da agenti autonomi.

La sfida consiste nel conciliare innovazione e sicurezza senza bloccare lo sviluppo tecnologico. Per le imprese, questo significa investire non soltanto nelle capacità dei modelli, ma anche in verifiche indipendenti, controlli operativi e procedure di gestione degli incidenti.

Resta sempre aggiornato con il nuovo canale Whatsapp di Business People
© Riproduzione riservata