Avaluació i garantia

L'avaluació és com la IA fiable es converteix en evidència.

La confiança en la IA no es pot establir només amb mètriques de rendiment, declaracions reguladores o documentació tècnica. Cal evidència rigorosa sobre què pot fer un sistema, on són els seus límits, com es comporta en condicions canviants i quines conseqüències pot tenir el seu ús.

TRAILAB desenvolupa i aplica enfocaments científics per a l'avaluació de la IA, combinant modelització probabilística, anàlisi de robustesa, inferència causal i explicabilitat amb coneixement jurídic, de governança i ètic. L'objectiu és produir evidència tècnicament defensable, transparent sobre la incertesa i significativa per a les persones i institucions responsables de decidir.

Avaluació i garantia

Què avaluem

Capacitats, fiabilitat i limitacions

Analitzem capacitats, calibratge, robustesa, incertesa, comportament fora de distribució i modes de fallada, incloses les condicions en què un model ha d'abstenir-se, diferir o demanar més evidència.

Riscos, salvaguardes i mitigació

Examinem com les capacitats i comportaments poden causar resultats adversos, l'eficàcia i límits de les salvaguardes i les opcions d'estimació i mitigació.

Explicabilitat, causalitat i responsabilitat

Avaluem si les explicacions són fidels, estables i causalment significatives, i si l'evidència permet supervisió, impugnació i responsabilitat.

Agència humana i impacte social

Investiguem els efectes sobre comprensió, autonomia, drets i responsabilitat, inclosos el risc de dependència excessiva i de falsa certesa.

Metodologia

El nostre enfocament d'avaluació

  1. 01

    Definir el sistema, el context i els riscos

    Establir l'abast, l'ús previst, les capacitats rellevants, els danys previsibles, les hipòtesis i l'evidència necessària.

  2. 02

    Establir un protocol defensable

    Seleccionar o desenvolupar mètodes, referències, condicions de prova, mètriques i procediments estadístics amb atenció explícita a la validesa i reproductibilitat.

  3. 03

    Generar i posar a prova l'evidència

    Fer proves controlades, anàlisis de robustesa, avaluacions adversarials o altres estudis rellevants, validant mesures automatitzades i documentant limitacions.

  4. 04

    Interpretar resultats entre disciplines

    Connectar resultats tècnics amb escenaris de risc, obligacions jurídiques, governança i conseqüències per a persones i institucions.

  5. 05

    Informar de troballes, incertesa i límits

    Documentar mètodes, resultats, evidència, incertesa residual i limitacions, amb recomanacions adequades a l'abast i a la confidencialitat aplicable.

Independència

Avaluació externa independent

L'avaluació independent exigeix més que coneixement tècnic: competència de domini, autonomia metodològica, accés a l'evidència rellevant, seguretat de la informació i salvaguardes davant influències financeres, directives o operatives. TRAILAB distingeix les avaluacions externes independents de la recerca col·laborativa, la validació i l'assessorament.

Les condicions d'independència i qualificació s'han d'avaluar per a cada encàrrec segons l'abast, l'equip i el domini de risc. No presentem una avaluació com a independent si no se'n poden establir les condicions necessàries.

01

Recerca col·laborativa i assessorament

Recerca, desenvolupament de mètodes, validació col·laborativa, anàlisi de polítiques o suport institucional fet conjuntament amb organitzacions.

02

Avaluació externa independent

Avaluació per a la qual s'han establert els requisits organitzatius, individuals, tècnics, financers, directius i operatius d'independència.

Posicionament científic

Un enfocament científicament fonamentat

L'avaluació no ha de reduir riscos complexos a una puntuació única ni a una declaració binària de seguretat. Una avaluació creïble distingeix rendiment observat de afirmacions més àmplies, identifica incertesa i límits metodològics, i explica què justifica —i què no— l'evidència disponible.

TRAILAB

Explora els tipus d'evidència i informes

L'avaluació no ha de reduir riscos complexos a una puntuació única ni a una declaració binària de seguretat. Una avaluació creïble distingeix rendiment observat de afirmacions més àmplies, identifica incertesa i límits metodològics, i explica què justifica —i què no— l'evidència disponible.