Governance dell’IA: dall’intelligenza del modello all’autorità istituzionale
Un modello produce risposte. Un sistema di IA operativo può leggere dati, chiamare strumenti, interrogare memoria, avviare flussi di lavoro e agire attraverso permessi. La governance inizia quando la capacità diventa autorità.
Il sistema, non soltanto il modello
La valutazione dei modelli resta necessaria, ma il rischio istituzionale nasce dall’intero stack: dati, istruzioni, retrieval, strumenti, connettori, identità, permessi, memoria, routing ed escalation umana. Lo stesso modello può essere poco rischioso in un’interfaccia di scrittura isolata e diventare critico quando è collegato a pagamenti, CRM, software sanitario, infrastrutture o conoscenza interna.
VOCE distingue l’intelligenza dell’IA dalla sua autorità. La capacità risponde a “che cosa sa fare il modello?”. La governance chiede “che cosa può fare il sistema, con quali dati, sotto quale identità, e chi può fermarlo?”.
Agenti, strumenti, API, IAM e MCP
L’IA agentica modifica la superficie di controllo. Un sistema può scomporre un obiettivo, scegliere strumenti ed eseguire sequenze prima svolte manualmente. Gestione delle identità e degli accessi, scope API, strumenti autorizzati, segreti, gate di approvazione e revoca diventano quindi oggetti di governance.
MCP e gli altri livelli di connessione aumentano l’interoperabilità, ma anche i percorsi attraverso cui un’IA può raggiungere dati o azioni. Il controllo rilevante non è soltanto l’allineamento del modello: è minimo privilegio, delega esplicita, esecuzione tracciabile e revoca rapida.
L’Europa ha bisogno di un’architettura di riferimento per gli agenti, non di un altro catalogo.
VOCE pubblica ora un’architettura vendor-neutral che collega OpenAPI, MCP 2026-07-28, A2A 1.0, workload identity SPIFFE/SPIRE, autorizzazione policy-based, ciclo di vita RAG, osservabilità in stile OpenTelemetry, continuous assurance, AI FinOps e quadro regolatorio europeo.
Il riferimento definisce cinque livelli di maturità, da A0 assistant ad A4 rete agentica critica, e un evidence pack in dodici elementi che board, risk function o autorità possono richiedere al team operativo.
Infrastruttura agentica → · Agent Conformance → · ARGOS Continuous Assurance → · Assurance cognitiva e neuropsicologica →
RAG e ciclo di vita della conoscenza istituzionale
La generazione aumentata da retrieval può rendere le risposte più ancorate alle fonti creando però un secondo ciclo di vita della conoscenza accanto al sistema documentale. Un documento può essere corretto, archiviato o eliminato mentre un embedding, un frammento in cache o un indice resta interrogabile se la sincronizzazione è incompleta.
Un serio piano di controllo RAG segue provenienza, versione, momento di sincronizzazione, comportamento della cancellazione, revoca, diritti di accesso e citazioni. Per VOCE, la conoscenza va governata dall’ingestione fino al ritiro, non soltanto al momento della pubblicazione.
Orchestrazione multi-modello e controllo dei fornitori
Il modello diventa un componente di un sistema instradato. Modelli diversi possono essere assegnati a codice, ricerca, ragionamento, cybersicurezza, traduzione o compiti di routine a basso costo. Questa architettura può migliorare resilienza ed economia, ma apre una questione di politica interna: chi decide quale modello riceve quali dati e sotto quali condizioni contrattuali e giurisdizionali?
Un’architettura indipendente dai fornitori non significa assenza di fornitori. Significa poterli confrontare, sostituire, limitare o revocare senza ricostruire l’istituzione attorno a un unico attore.
Leggi il percorso VOCE sulla sovranità e l’orchestrazione dell’IA.
Osservabilità, sicurezza e AI FinOps
Un sistema governato deve produrre telemetria operativa. L’istituzione deve poter ricostruire quale modello è stato eseguito, quale contesto ha ricevuto, quali strumenti ha chiamato, quale azione è avvenuta, quanto è costata e se un essere umano è intervenuto. Senza questo, l’analisi post-incidente diventa inferenza.
L’AI FinOps appartiene allo stesso livello di controllo. Budget di token, calcolo e azioni agentiche sono permessi economici. Un’anomalia di costo può anche rivelare workflow fuori controllo, chiamate duplicate, abuso di prompt o inefficienza architetturale.
Responsabilità del consiglio, assurance e regolazione
La governance deve collegare i controlli tecnici alla responsabilità istituzionale. In Europa, i poteri di applicazione dell’AI Act si esercitano dal 2 agosto 2026 per le disposizioni già applicabili, mentre diversi obblighi principali relativi ai sistemi ad alto rischio seguono date successive. GDPR, obblighi di cybersicurezza e norme settoriali continuano inoltre a modellare le implementazioni. VOCE considera quindi la conformità come uno strato della governance, non come il suo obiettivo finale.
A livello di consiglio, la domanda è se l’organizzazione possa dimostrare ownership, inventario, classificazione del rischio, supervisione umana, risposta agli incidenti, controllo dei fornitori, evidenze di test e capacità di sospendere una funzione IA senza disattivare il resto dell’attività.
Domande chiave di governance
Riferimenti tecnici
Vico, Don Carlo e l’architettura della responsabilità
Giambattista Vico condensa un’idea esigente in “verum ipsum factum”: conosciamo più profondamente ciò di cui possiamo rendere conto come cosa costruita. Applicato alla governance dell’IA, il principio è severo. Un’istituzione non può trattare come un oracolo incomprensibile un sistema agentico capace di agire in suo nome. Don Carlo di Verdi offre un altro contrappunto: quando l’autorità si distribuisce tra corte, Chiesa e coscienza, la responsabilità può essere ovunque e in nessun luogo. VOCE usa filosofia e opera come contrappunti all’analisi tecnica, mai come decorazione.
Torna a VOCE