Banche, l’AI corre: serve governance

Nel settore bancario il vero rischio dell’intelligenza artificiale non sono gli errori dei modelli. Il problema è la scala: un errore replicato su migliaia o milioni di decisioni, spesso prima che qualcuno se ne accorga.

L’AI è già dentro alcune delle attività più delicate della finanza: valuta il merito creditizio, supporta l’individuazione delle frodi, contribuisce ai controlli antiriciclaggio, alimenta pricing e modelli di rischio. Qui un margine di errore che altrove produrrebbe al massimo una raccomandazione commerciale poco efficace può voler dire un cliente affidabile escluso da un finanziamento, una frode non intercettata, un rischio valutato male.

Mentre l’adozione accelera, il dibattito nel settore si è spostato: non più se usare l’intelligenza artificiale, ma come farlo mantenendo controllo, trasparenza e fiducia, cioè come governarla.

Governance non è solo compliance

È naturale che il termine “AI governance” venga associato prima di tutto alla conformità normativa: l’AI Act europeo e l’attenzione crescente dei regolatori hanno reso il tema centrale nell’agenda di qualsiasi banca. Ridurlo a questo, però, significa perdere gran parte del quadro. Governare l’intelligenza artificiale significa combinare supervisione, accountability e controllo del ciclo di vita dei modelli, il tutto guidato da valori e principi condivisi: non un insieme di procedure burocratiche, ma il meccanismo che collega gli obiettivi dell’organizzazione all’uso concreto dell’AI nelle decisioni.

La supervisione viene prima di tutto. Anche negli scenari più avanzati l’essere umano deve restare parte attiva del processo: le decisioni dell’AI vanno comprese, verificate, contestate e corrette quando serve. È il principio dell’human in the loop, garanzia di controllo e di fiducia.

Poi c’è l’accountability: ogni modello in produzione deve avere un responsabile chiaro, che ne monitori prestazioni, limiti e conformità. In un ecosistema ben governato non esistono modelli orfani. Infine il controllo del ciclo di vita, che deve accompagnare il modello dalla progettazione alla validazione, dall’implementazione al monitoraggio continuo fino alla dismissione. Solo con un approccio end-to-end si riescono a intercettare bias, anomalie e degrado delle prestazioni prima che diventino rischi veri.

La posta in gioco è più alta

Rispetto ad altri settori, il banking ha una caratteristica che cambia tutto: il rischio sistemico. Una decisione sbagliata può voler dire negare credito a un cliente affidabile, non intercettare una frode, valutare male un rischio, o innescare effetti che vanno ben oltre la singola banca.

C’è poi un elemento in più da considerare: quando molte istituzioni usano modelli simili e reagiscono agli stessi segnali di mercato, una distorsione può propagarsi lungo tutto l’ecosistema finanziario. Ecco perché la governance dell’AI non è più solo un tema aziendale, ma riguarda la stabilità del sistema nel suo complesso.

A questa complessità si aggiunge l’evoluzione normativa. L’AI Act europeo classifica molte applicazioni bancarie come sistemi ad alto rischio, mentre regulator e autorità di vigilanza convergono sempre più su quattro requisiti fondamentali: spiegabilità, auditabilità, supervisione umana e tracciabilità. Le istituzioni finanziarie operano da anni all’interno di framework di Model Risk Management che prevedono validazioni indipendenti, documentazione dettagliata e verifiche periodiche dei modelli. Con l’intelligenza artificiale queste esigenze non scompaiono, ma si amplificano: non basta dimostrare che un modello funziona, occorre dimostrare come le decisioni vengono prese, quali dati sono utilizzati, come avviene il monitoraggio e chi ne è responsabile.

Dalle policy alle capacità operative

Oggi la maturità dell’AI governance si misura nella capacità di trasformare principi e linee guida in processi concreti: sapere quali modelli sono in produzione, quali decisioni influenzano, chi ne è responsabile, come vengono aggiornati, quando le loro prestazioni cambiano, come ricostruire una decisione a posteriori. In pratica, rendere trasparente qualcosa che per natura tende a restare opaco.

Per questo le organizzazioni più mature stanno passando da un approccio fatto da policy a una governance incorporata direttamente nelle piattaforme e nei workflow operativi. Inventario dei modelli, gestione del ciclo di vita, spiegabilità, monitoraggio continuo, rilevazione del model drift, auditabilità: non più attività separate, ma parti integrate dell’ecosistema AI. Più governance, però, non significa meno velocità; al contrario, è ciò che permette all’AI di scalare davvero.

AI governance, la fiducia come vantaggio competitivo

Per anni la governance è stata vista soprattutto come difesa: ridurre i rischi, soddisfare i regolatori. Le organizzazioni con framework più maturi, però, portano i modelli in produzione più velocemente, gestiscono i controlli normativi con meno attrito e possono permettersi di sperimentare tecnologie nuove con maggiore libertà. La governance, in altre parole, sta diventando un acceleratore più che un freno.

Con l’espansione dell’AI generativa e dei sistemi agentici, questa dinamica si farà ancora più marcata: più autonomia significa più bisogno di controllo, monitoraggio, responsabilità chiare. Chi ha investito per tempo in queste capacità partirà da una posizione di vantaggio.

Il punto di vista SAS: costruire la fiducia nell’era dell’AI

Nel settore finanziario la fiducia non è mai stata un valore astratto, ma una componente operativa: è ciò su cui si basano le decisioni e le relazioni con clienti, partner, regolatori. Per questo SAS considera la governance non un livello di controllo aggiunto a valle dei modelli, ma una capacità integrata nelle piattaforme e nei processi che li gestiscono.

Con SAS Viya, la piattaforma di SAS, concetti consolidati nel Model Risk Management come explainability, monitoraggio delle performance, gestione dei bias, tutela della privacy e auditabilità vengono estesi a tutto l’ecosistema dell’enterprise AI.

Tutte le banche adotteranno l’intelligenza artificiale, e nel tempo modelli e capacità tenderanno inevitabilmente a diffondersi. A fare la differenza sarà chi saprà dimostrare che quelle decisioni sono affidabili, spiegabili, sotto controllo. Perché nel settore bancario la fiducia è sempre stata l’asset più prezioso, e nell’era dell’AI sarà sempre più legata alla capacità di governare gli algoritmi che, ogni giorno, contribuiscono a decidere.

Le istituzioni finanziarie che lo capiranno non si limiteranno a ridurre il rischio. Trasformeranno la fiducia in un vantaggio competitivo destinato a durare. Per aiutare i decision maker del settore a orientarsi in questo scenario, SAS ha raccolto best practice, sfide emergenti e raccomandazioni operative nella guida AI Governance: A Banking Leader’s Guide, dedicata alle implicazioni dell’AI governance per il mondo bancario.