Reggie Townsend (Sas): l’algoritmo della fiducia

Negli ultimi anni l’intelligenza artificiale è passata da tecnologia emergente a infrastruttura strategica. Un cambiamento che ha ridefinito il ruolo dell’etica dei dati nelle decisioni aziendali, visto l’aumento del “peso” delle scelte influenzate dall’AI. Come sottolinea Reggie Townsend, Vice President, AI Ethics, Governance and Social Impact, Sas, «oggi, con l’ingresso dell’AI nei processi core, l’etica diventa una componente della qualità decisionale: se i dati sono distorti, opachi o non governati, il risultato non è solo “imperfetto”, può produrre decisioni ingiuste o errate proprio nei contesti più critici».

Non a caso Sas ha sviluppato un team dedicato proprio agli aspetti etici: quali sono i pilastri operativi su cui poggia?
Definiamo questo team AI Ethics, Governance and Social Impact, perché ci occupiamo di come l’AI possa apportare benefici all’umanità. La nostra organizzazione si basa su principi di responsabilità, trasparenza, sicurezza e centralità della persona e li traduciamo in pratiche operative, non solo policy. Per i clienti, questo si traduce in tre elementi molto concreti. Anzitutto un framework di governance focalizzato su supervisione, compliance e cultura operativa. In secondo luogo, servizi e assesment per valutare il livello di maturità raggiunto e come procedere oltre. Terzo, capacità tecnologiche integrate. Sas Viya integra funzionalità di trustworthy AI, dal monitoraggio dei modelli alla mitigazione dei bias.

Dai vostri report emerge una crescita della fiducia verso la GenAI, soprattutto tra le aziende che investono in affidabilità. Quali sono i fattori che stanno realmente guidando questo cambio di percezione?
Nel nostro studio con Idc, la GenAI emerge come la forma di AI in cui i leader dichiarano il livello di fiducia più elevato, nonostante sia spesso meno prevedibile rispetto all’AI tradizionale. Il motivo è semplice: la capacità della GenAI di interagire in modo simile a un essere umano aumenta la fiducia degli utenti indipendentemente dalla sua affidabilità effettiva. Detto questo, quando la fiducia cresce nelle aziende che investono nell’affidabilità, entrano in gioco fattori più solidi, come governance, “spiegabilità”, salvaguardie etiche e solide basi dati. Secondo lo studio, solo il 40% delle imprese investe in sistemi dimostrabilmente affidabili, ma chi lo fa ottiene Roi più elevati riducendo incidenti e attriti normativi. La fiducia percepita nasce dall’esperienza utente; quella reale da controlli e trasparenza.

Quali sono gli errori più comuni che le organizzazioni commettono quando cercano di implementare modelli di AI etica?
Uno è trattare l’etica come un documento o una checklist. Quando l’etica resta “teoria”, nulla cambia. Un altro è costruire programmi così complessi da rimanere inutilizzati. Un altro ancora è sottovalutarne le fondamenta: dati frammentati, debole governance dei dati e mancanza di competenze risultano tra i principali ostacoli all’impatto dell’AI, ancora prima degli algoritmi.

Le normative – dal Gdpr all’AI Act europeo – stanno accelerando o rallentando l’innovazione?
Possono fare entrambe le cose, a seconda di come le aziende reagiscono. Se vengono viste come un freno, rallentano l’innovazione. Se vengono interpretate come uno “standard di qualità” e un’opportunità per progettare correttamente, accelerano un’innovazione scalabile e sostenibile. In Sas abbiamo osservato che l’AI Act europeo ha il potenziale di influenzare lo scenario globale proprio come il Gdpr ha fatto per la privacy. Questo porta solitamente a una convergenza su: trasparenza, responsabilità e controlli.

Integrare principi etici nei sistemi di AI richiede anche un cambiamento culturale. Come devono evolvere le competenze interne alle aziende?
Le competenze devono crescere su tre livelli. Primo, è necessaria una maggiore alfabetizzazione sull’AI e sui dati. Secondo, servono competenze diffuse, non concentrate in un singolo team isolato. Terzo, non devono mancare skill operative per implementare la governance nel lavoro quotidiano. Perché l’etica non è solo intenzione, è la capacità di rispondere quando un sistema si comporta in modo inatteso.

Può condividere un esempio concreto in cui un approccio etico ai dati ha generato valore economico o reputazionale?
Un esempio è la standardizzazione della trasparenza attraverso strumenti come le model card, che descriviamo come “etichette nutrizionali” per i modelli. L’obiettivo è rendere trasparenti limiti, metriche e rischi. Quando un’organizzazione può dimostrare chiaramente come funziona un modello e quali sono i suoi limiti, costruisce fiducia con regolatori, board e clienti, e riduce il costo di incidenti e controversie. Più in generale, i benefici riportati dai clienti che intraprendono percorsi di advisory sono fortemente orientati al business: maggiore produttività, più fiducia nell’uso dei dati e vantaggi competitivi legati alla conformità normativa. Sono impatti sia economici sia reputazionali. Per questo, abbiamo recentemente annunciato Sas AI Navigator, una piattaforma che fornisce una vista unificata di tutti i modelli e strumenti già in uso, inclusi Llm, agenti AI, modelli open source o modelli Sas.

Il tema dei bias algoritmici resta centrale. È realistico pensare a un’AI completamente neutrale?
Sarebbe un obiettivo fuorviante, perché i sistemi riflettono scelte umane sui dati, sulle definizioni di successo, sul contesto e sui compromessi. Una componente di bias sarà sempre presente e non tutti sono necessariamente negativi. L’obiettivo realistico è gestire e rendere trasparenti i limiti e ridurre i danni non intenzionali, soprattutto verso le persone più vulnerabili. Come? Servono monitoraggio, documentazione e mitigazione dei rischi lungo tutto il ciclo di vita.

Quali saranno le priorità per le aziende che vogliono sviluppare un’AI davvero sostenibile e affidabile?
Ne vedo quattro. Innanzitutto, un’AI governance utilizzabile e applicabile su larga scala. Se è troppo complessa, fallisce per mancanza di adozione. Secondo, avere basi dati solide. Senza governance dei dati e accesso affidabile alle fonti, l’AI non scala e il rischio aumenta. Terzo, decisioni giustificabili e tracciabili. Vedremo più ibridi tra modelli deterministici e non deterministici (come la GenAI), perché le decisioni ad alto impatto richiedono ripetibilità, verificabilità e tracciabilità. Infine, cultura e competenze: pensiero critico e giudizio umano diventeranno ancora più importanti.

Crede che arriveremo a standard globali condivisi sull’etica dell’AI o prevarrà una frammentazione normativa e culturale?
Anche se regolamentazioni come l’AI Act europeo tendono a influenzare altri Paesi, la sfida di uno standard mondiale è la mancanza di applicabilità globale a un livello sufficiente per monitorare e far rispettare le regole. Spero, però, che si possano raggiungere accordi tra nazioni per vietare l’uso dell’AI in applicazioni che generano danni chiari e riconoscibili su larga scala, in modo simile agli accordi sulla proliferazione nucleare.

Se dovesse sintetizzare in una sola raccomandazione la strada per costruire fiducia nell’AI, quale sarebbe?
La fiducia nell’AI, come qualsiasi altra, si costruisce nel tempo e può essere persa molto rapidamente. In questo momento, in particolare, la fiducia nella tecnologia è secondaria rispetto a quella nelle persone che la producono. È il momento per i leader di farsi avanti e dimostrarsi degni della fiducia del pubblico. Questo significa, tra le altre cose, scelte di progettazione incentrate sull’uomo, integrazione di controlli e trasparenza nel ciclo di vita dell’AI, oltre a una governance presa seriamente. La giusta governance, infatti, non limita l’innovazione, ma rende l’AI difendibile, scalabile e capace di generare valore sostenibile nel lungo periodo.

Questa intervista è parte della terza edizione dello Speciale AI, pubblicato sul numero di Business People di maggio 2026. Scarica il numero o abbonati qui

© Riproduzione riservata