TRAILAB / una mirada més propera
TRAILAB treballa al punt de trobada entre la fiabilitat tècnica, la garantia jurídica i la reflexió ètica, i després prova aquests mètodes davant les condicions d'organitzacions i institucions reals.
01 / Metodologia
Requereixen un programa de recerca connectat. Cada mètode aborda un mode de fallada diferent; conjuntament ajuden a fer que els sistemes d'IA siguin més fiables, explicables, governables i respectuosos amb l'agència.
Donar sentit a la confiança mitjançant la calibració, l'anàlisi de fiabilitat, la incertesa aleatòria i epistèmica, la detecció fora de distribució, la detecció d'anomalies i l'abstenció segura.
Explora les nostres publicacions sobre quantificació de la incertesaAnar més enllà de la correlació per raonar sobre efectes, alternatives, atribució, equitat i conseqüències a escala de decisió.
Explora les nostres publicacions sobre causalitatDesenvolupar explicacions contrafactuals, basades en conceptes i mecanicistes, i després comprovar-ne la fidelitat, l'estabilitat i la utilitat per a les persones.
Explora les nostres publicacions sobre explicabilitatConnectar els drets fonamentals, la gestió de riscos, les normes, la rendició de comptes, la supervisió humana i les vies de reparació amb els sistemes que s'estan dissenyant.
Explora les nostres publicacions sobre IA reguladoraIncorporar dignitat, responsabilitat, cura, vulnerabilitat, justícia epistèmica, creativitat i agència humana a les decisions tècniques i institucionals.
Explora les nostres publicacions sobre IA ètica
Multidisciplinari per disseny
TRAILAB s'organitza com un equip multidisciplinari: el nucli tècnic desenvolupa mètodes fonamentals, mentre que l'expertesa jurídica i filosòfica creix en paral·lel perquè aquests mètodes siguin èticament responsables, estiguin preparats per a la governança i tinguin en compte els drets.
01
El personal investigador desenvolupa mètodes fonamentals i capacitats de validació tècnica per a una IA fiable i reflexiva.
Fiabilitat, robustesa i estimació de la incertesa per a la presa de decisions crítiques.
Inferència causal, raonament contrafactual i raonament estructurat per a un suport robust a la decisió.
Noves mètodes d'explicació per a la interpretabilitat, la fidelitat i l'estabilitat.
02
Expertesa jurídica i de polítiques públiques sobre drets fonamentals, governança de la IA, polítiques d'IA, regulació d'IA i interfícies amb el sector públic.
Requisits de governança basats en drets.
Normalització, entorns de proves regulatoris d'IA, orientació reguladora i alineació amb el sector públic.
Visibilitat institucional, aliances internacionals i difusió.
03
Expertesa filosòfica i ètica especialitzada en ètica de la IA, responsabilitat, agència humana i IA reflexiva.
Responsabilitat i rendició de comptes, ètica de la cura, equitat i injustícia epistèmica.
Autonomia, agència i control en sistemes d'IA.
Aliniament, seguretat de la IA i profunditat interpretativa.
03 / Ecosistema
Traduïm entre comunitats que tenen tipus diferents d'evidència i responsabilitat. El resultat és una metodologia que es pot traslladar sense perdre el seu rigor.
Rigor científic, profunditat metodològica i qüestions d'avantguarda. La recerca no és un exercici acadèmic aïllat: ens guien problemes reals, necessitats industrials, restriccions jurídiques i conseqüències socials.
Explora les nostres publicacionsUn enfocament compartit en el desplegament, la sostenibilitat, l'optimització de recursos i l'escalabilitat. Les noves metodologies han d'ajudar les empreses a construir sistemes d'IA en què es pugui confiar i que resisteixin l'escrutini operatiu, jurídic i reputacional.
Ens guien els principis de la governança de la IA, la rendició de comptes, el valor públic i la sostenibilitat social a llarg termini. Creiem que la IA s'ha de dissenyar per donar suport a les institucions democràtiques, als marcs basats en drets i a una transformació digital responsable.
Posem el focus en l'impacte humà, la legitimitat, la creativitat i la confiança social, per donar suport a sistemes d'IA que treballin amb les persones sense limitar-ne l'agència. Creiem que la IA no pot ser sostenible si debilita les estructures socials i culturals que fan possible la innovació.
