Può un sistema di intelligenza artificiale sapere quando non lo sa? Quella prima domanda ha portato il nostro team dieci anni a fa esplorare la quantificazione dell’incertezza, la spiegabilità, la causalità, il diritto e l’etica verso un’ambizione più ampia: un’intelligenza artificiale che rafforzi le persone che devono comprenderla, governarla e assumersene la responsabilità.
Come si è espansa la domanda di ricerca
Capitolo 1: Matematica + informatica
Insegnare all’IA a dubitare
Può un sistema di intelligenza artificiale sapere quando non lo sa?
Il problema fondamentale era l’incertezza: un modello può essere sbagliato perché il caso è al di fuori del suo ambito operativo, perché il modello non ha imparato abbastanza dalle prove rappresentative, o perché il mondo rimane genuinamente variabile anche con buone prove.
Il nostro contributo scientifico è stato quello di sfruttare queste fonti di incertezza per informare il processo decisionale. Comprendere l’incertezza è diventato utile per determinare cosa è successo dopo: raccogliere prove migliori, riprogettare l’ambito operativo o passare al giudizio umano responsabile.
Un quadro di incertezza ben sviluppato consente processi decisionali congiunti uomo-intelligenza artificiale, in cui rifiuti, revisioni e responsabilità sono incorporati nel sistema.
Il caso potrebbe trovarsi al di fuori delle condizioni di distribuzione o operativa in cui il modello dovrebbe essere considerato attendibile.
Incertezza epistemica
Impara e confronta i modelli
Il modello manca di una conoscenza rappresentativa sufficiente; prove, dati o modelli migliori potrebbero ridurlo.
Incertezza aleatoria
Mostra scenari agli esseri umani
Molti risultati rimangono plausibili perché l’osservazione è parziale, rumorosa o intrinsecamente variabile.
Capitolo 2: Ingegneria + progetti pubblici + sistemi critici
Un problema di fondo condiviso
Dove possiamo integrare la quantificazione dell’incertezza nel processo decisionale?
La nostra ricerca sul processo decisionale informato dalla quantificazione dell’incertezza si è spostata attraverso la finanza, i sistemi critici per la sicurezza, la mobilità autonoma, la ricerca farmaceutica, l’integrità delle informazioni e altri contesti applicati.
L'ampia diversità di questi ambiti rivela una sfida comune nel determinare in che modo si rivelano incomplete, condizioni operative mutevoli o conseguenze asimmetriche modellano le decisioni. La quantificazione dell’incertezza si rivela essenziale per affrontare questa complessità e garantire un processo decisionale responsabile.
Modelli di rischio, decisioni consapevoli dell'incertezza.
02
Mobilità critica
Guida autonoma, ADAS, aviazione.
03
Automazione industriale
Sistemi in tempo reale, processori, intelligenza artificiale ad alta integrità.
04
Salute e farmaceutica
Controfattuali clinici, di scienze della vita e di trattamento.
05
Settore pubblico
Adozione istituzionale, appalti, istruzione.
06
Integrità delle informazioni
Disinformazione, rilevamento di notizie false, resilienza democratica.
07
Diritti creativi
Paternità, attribuzione, diritto d'autore, opera culturale.
Capitolo 3: Causalità + spiegabilità
In cerca di spiegazioni
Cosa ha causato la previsione? Cosa cambierebbe con un intervento diverso?
L’incertezza ci dice quando la fiducia è limitata. ma non spiega da sola cosa ha prodotto un risultato o cosa cambierebbe con un intervento diverso. Per rendere il sistema più affidabile diventa necessario esaminare insieme limiti, ragioni e alternative.
Il ragionamento causale, i controfattuali e la spiegabilità forniscono questo strato di ragioni e alternative che possono essere ispezionate, contestate e utilizzate nel processo decisionale. A questo punto, l’ambito della nostra ricerca si è ampliato dall’IA sicura all’IA affidabile.
Cosa può un essere umano ispezionare e contestare?
04
Fedeltà
La spiegazione riflette il modello e la decisione?
Capitolo 4: Legge + regolamenti + norme
Quando la fiducia tecnica non basta
Combinare competenze tecniche e legali per la governance dell’IA
Un sistema di intelligenza artificiale può funzionare in modo affidabile ed essere comunque inadatto per una particolare implementazione quando deve affrontare obblighi legali come la gestione del rischio, la governance dei dati, la documentazione e gli standard, le valutazioni dei diritti fondamentali, la supervisione o la responsabilità.
TRAILAB porta questi requisiti nel processo di ricerca, traducendoli ove possibile in requisiti ed evidenze verificabili. Il risultato è un quadro di governance che supporta e integra lo sviluppo del sistema.
La Commissione inquadra la legge sull'intelligenza artificiale come un quadro giuridico basato sul rischio con applicazione graduale: pratiche proibite e alfabetizzazione sull'intelligenza artificiale da febbraio 2025, governance GPAI da agosto 2025 e obblighi ad alto rischio ora sequenziati verso dicembre 2027 e agosto 2028 nell'ambito del pacchetto di semplificazione.
La Commissione descrive come le norme armonizzate traducono i requisiti della legge sull’IA in un linguaggio tecnico per la gestione del rischio, la governance dei dati, la registrazione, la trasparenza, il controllo umano, l’accuratezza, la robustezza, la sicurezza informatica, la gestione della qualità e la valutazione della conformità.
CEN-CENELEC JTC 21 sviluppa standard europei sull’IA, comprese norme armonizzate a sostegno della legge dell’UE sull’IA e il lavoro correlato su affidabilità, gestione del rischio, gestione della qualità e valutazione della conformità.
La norma ISO/IEC 42001 specifica i requisiti per stabilire, implementare, mantenere e migliorare continuamente un sistema di gestione dell'intelligenza artificiale per le organizzazioni che forniscono o utilizzano sistemi di intelligenza artificiale.
La norma ISO/IEC 23894 fornisce indicazioni sulla gestione del rischio specifico dell'IA e sull'integrazione della gestione del rischio dell'IA nelle attività e funzioni organizzative.
Doveri basati sul rischio, alfabetizzazione all’intelligenza artificiale, governance GPAI e obblighi di sistema ad alto rischio.
02
CEN-CENELEC
Le norme armonizzate che traducono i requisiti legali in prove tecniche.
03
ISO/IEC
Sistemi di gestione dell'IA e gestione del rischio dell'IA: ISO/IEC 42001 e ISO/IEC 23894.
04
Standard di settore
Garanzia nei settori automobilistico, aeronautico, dell'automazione, medico e dei sistemi critici.
Capitolo 5: Etica + filosofia + legittimità sociale
L'affidabilità ha bisogno di uno scopo
In che modo le capacità tecniche possono rafforzare il giudizio responsabile?
Un sistema che soddisfi i requisiti tecnici e legali necessita ancora di essere esaminato attentamente nel modo in cui modella l'autonomia, la responsabilità, la paternità o lo scopo istituzionale. L’etica e la filosofia entrano in gioco per determinare cosa dovrebbe rimanere umano, dove risiede la responsabilità, quali compromessi contano e quali forme di progresso vale la pena vincente.
Capacità
Può funzionare?
Conformità
Può essere giustificato?
Legittimità
Vale la pena perseguirlo?
01
Agenzie umane
Autonomia, paternità e controllo.
02
Responsabilità
Responsabilità, responsabilità ed equità.
03
Motivi sociali
Dignità, cura, vulnerabilità e giustizia epistemica.
04
Giudizio responsabile
Scopo e interesse pubblico.
Capitolo 6: Scienza + cultura + società
L’intelligenza artificiale rimodella le condizioni del pensiero
Cosa succede quando l’intelligenza artificiale diventa un’infrastruttura di giudizio?
L’intelligenza artificiale è sempre più integrata nei flussi di lavoro del ragionamento, della creazione e dell’indagine. Questa interazione sta modellando il modo in cui le persone formulano le domande, esaminano le alternative e assumono impegni. Sebbene l’intelligenza artificiale possa fornire soluzioni già pronte in diversi ambiti, il rischio è che la comprensione, il pensiero critico, la paternità o la responsabilità vengono ignorati nel processo.
IA riflessiva si chiede come l’intelligenza artificiale cambi le capacità umane da cui dipende il buon giudizio. TRAILAB propone RAIO, il Orchestratore di IA riflessiva, come architettura di ricerca che coordina chiarimenti, ipotesi, incertezze, alternative e compromessi durante un'interazione uomo-IA. L’intelligenza artificiale riflessiva diventa un obiettivo di ricerca per rafforzare il giudizio, il pensiero critico, la creatività, la responsabilità e l’impegno umano esplicito.
Il keynote ICML 2026 di Narayanan inquadra l'intelligenza artificiale come un cambiamento su ciò su cui lavorano gli esseri umani, motivando strumenti e ruoli che trasformano le soluzioni generate dall'intelligenza artificiale in comprensione umana e azione responsabile.
Narayanan e Kapoor sostengono di considerare l’intelligenza artificiale come una potente tecnologia di uso generale la cui adozione, implementazione e controllo umano contano tanto quanto la capacità del modello.
Messeri e Crockett avvertono che gli strumenti di intelligenza artificiale possono accelerare la produzione scientifica creando al contempo illusioni di comprensione e monoculture scientifiche se la spiegazione, la convalida e la critica vengono aggirate.
Questo viaggio scientifico aveva bisogno di un’istituzione
Perchè creare TRAILAB?
I problemi che affrontiamo hanno superato ogni singola disciplina, ma le competenze pertinenti sono rimaste distribuite tra università, centri di ricerca, industria, istituzioni pubbliche e società civile.
Abbiamo fondato TRAILAB nel 2026 come organizzazione no-profit indipendente in cui tutte queste capacità possono essere combinate attorno a domande di ricerca condivise senza sostituire le affiliazioni primarie delle persone e delle istituzioni coinvolte. Consolida, estende e trasferisce la traiettoria di ricerca che sta dietro di essa, costruendo metodi, prove, progetti pilota e capacità istituzionale per un'IA affidabile e riflessiva.
