AA sistema batek jakin al dezake ez dakienean? Lehen galdera horrek gure taldea duela hamarkada bat ziurgabetasunaren kuantifikazioa, azalgarritasuna, kausalitatea, zuzenbidea eta etika aztertzera eraman zuen, anbizio handiago baterantz: hura ulertu, gobernatu eta haren erantzukizuna hartu behar duten pertsonak indartzen dituen AA.
Nola zabaldu zen ikerketa-galdera
1. kapitulua: Matematika + informatika
AAri zalantza egiten irakastea
AA sistema batek jakin al dezake ez dakienean?
Oinarrizko arazoa ziurgabetasuna zen: eredu bat oker egon daiteke kasua haren funtzionamendu-eremutik kanpo dagoelako, ereduak ebidentzia adierazgarritik nahikoa ikasi ez duelako edo munduak ebidentzia onarekin ere benetako aldakortasuna duelako.
Gure ekarpen zientifikoa ziurgabetasun-iturri horiek erabiltzea izan zen erabakiak hartzeko. Ziurgabetasuna ulertzea baliagarri bihurtu zen hurrena zer egin zehazteko: ebidentzia hobea biltzea, funtzionamendu-eremua berriz diseinatzea edo giza iritzi arduratsura igotzea.
Ziurgabetasun-esparru garatu batek gizakiaren eta AAren arteko erabaki-prozesu bateratuak ahalbidetzen ditu, non ukoak, berrikuspenak eta erantzukizuna sisteman txertatuta dauden.
Kasua ereduan konfiantza izan behar den banaketatik edo funtzionamendu-baldintzetatik kanpo egon daiteke.
Ziurgabetasun epistemikoa
Ikasi eta alderatu ereduak
Ereduak ez du nahikoa ezagutza adierazgarri; ebidentzia, datu edo eredu hobeek murriztu dezakete.
Ziurgabetasun aleatorioa
Erakutsi agertokiak pertsonari
Hainbat emaitzak sinesgarriak izaten jarraitzen dute behaketa partziala, zaratatsua edo berez aldakorra delako.
2. kapitulua: Ingeniaritza + proiektu publikoak + sistema koitikoak
Oinarriko arazo partekatua
Non integra dezakegu ziurgabetasunaren kuantifikazioa erabakiak hartzean?
Ziurgabetasunaren kuantifikazioak informatutako erabakiak hartzeari buruzko gure ikerketa finantzetan, segurtasunerako sistema koitikoetan, mugikortasun autonomoan, ikerketa farmazeutikoan, informazioaren osotasunean eta beste testuinguru aplikatu batzuetan zehar mugitu zen.
Eremu hauen aniztasun zabalak erronka komun bat erakusten du: ebidentzia osatugabeak, funtzionamendu-baldintza aldakorrek edo ondorio asimetrikoek erabakiak nola moldatzen dituzten zehaztea. Ziurgabetasunaren kuantifikazioa ezinbestekoa da konplexutasun horiek kudeatzeko eta erabaki arduratsuak bermatzeko.
Zerk eragin zuen iragarpena? Zer aldatuko litzateke beste esku-hartze batekin?
Ziurgabetasunak konfiantza noiz mugatua den esaten digu, baina ez du berez azaltzen zerk sortu zuen emaitza edo zer aldatuko litzatekeen beste esku-hartze baten pean. Sistema fidagarriagoa egiteko, beharrezkoa da mugak, arrazoiak eta alternatibak elkarrekin aztertzea.
Arrazoibide kausalak, kontrafaktualek eta azalgarritasunak aztertu, zalantzan jarri eta erabakiak hartzeko erabil daitekeen arrazoi eta alternatiben geruza ematen dute. Une horretan, gure ikerketaren eremua AA segurutik AA fidagarrira zabaldu zen.
AAren gobernantzarako espezializazio teknikoa eta juridikoa uztartzea
AA sistema batek fidagarri funtziona dezake eta, hala ere, hedapen jakin baterako desegokia izan daiteke arrisku-kudeaketa, datuen gobernantza, dokumentazioa eta arauak, oinarrizko eskubideen ebaluazioak, gainbegiratzea edo kontu-ematea bezalako lege-betebeharrak bete behar dituenean.
TRAILABek eskakizun hauek ikerketa-prozesura eramaten ditu, ahal denean probagarriak diren eskakizun eta ebidentzia bihurtuz. Emaitza sistemaren garapena babestu eta osatzen duen gobernantza-esparrua da.
Batzordeak AA Araudia arriskuetan oinarritutako lege-esparru gisa aurkezten du, mailakako aplikazioarekin: debekatutako praktikak eta AAren alfabetatzea 2025eko otsailetik, GPAIren gobernantza 2025eko abuztutik, eta arrisku handiko betebeharrak 2027ko abendura eta 2028ko abuztura bideratuta, sinplifikazio-paketearen arabera.
Batzordeak azaltzen du nola arau harmonizatuek AA Araudiaren eskakizunak hizkuntza tekniko bihurtzen dituzten arrisku-kudeaketarako, datuen gobernantzarako, erregistroetarako, gardentasunerako, giza gainbegiratzerako, zehaztasunerako, sendotasunerako, zibersegurtasunerako, kalitate-kudeaketarako eta adostasun-ebaluaziorako.
CEN-CENELEC JTC 21ek Europako AA arauak garatzen ditu, tartean EBko AA Araudia babesteko arau harmonizatuak eta fidagarritasunari, arrisku-kudeaketari, kalitate-kudeaketari eta adostasun-ebaluazioari buruzko lana.
ISO/IEC 42001 arauak AA sistemak eskaintzen edo erabiltzen dituzten erakundeentzako AA kudeaketa-sistema ezarri, inplementatu, mantendu eta etengabe hobetzeko eskakizunak zehazten ditu.
ISO/IEC 23894 arauak AAri berariazko arriskua kudeatzeko eta AAren arrisku-kudeaketa erakundeko jarduera eta funtzioetan integratzeko orientabideak ematen ditu.
Arriskuetan oinarritutako betebeharrak, AAren alfabetatzea, GPAIren gobernantza eta arrisku handiko sistemen betebeharrak.
02
CEN-CENELEC
Lege-eskakizunak ebidentzia tekniko bihurtzen dituzten arau harmonizatuak.
03
ISO/IEC
AA kudeatzeko sistemak eta AAren arrisku-kudeaketa: ISO/IEC 42001 eta ISO/IEC 23894.
04
Sektore-arauak
Bermea automobilgintzan, abiazioan, automatizazioan, medikuntzan eta sistema koitikoen industrian.
5. kapitulua: Etika + filosofia + gizarte-zilegitasuna
Fidagarritasunak xede bat behar du
Nola indartu ditzakete gaitasun teknikoek iritzi arduratsua?
Eskakizun tekniko eta juridikoak betetzen dituen sistema batek ere azterketa behar du autonomia, erantzukizuna, egiletza edo erakunde-xedea nola moldatzen dituen ikusteko. Etika eta filosofia sartzen dira zer geratu behar duen gizakiaren esku, non dagoen erantzukizuna, zein truke diren garrantzitsuak eta zer aurrerapen-mota merezi duen jarraitzea zehazteko.
Gaitasuna
Funtziona dezake?
Betetzea
Justifika daiteke?
Zilegitasuna
Merezi al du jarraitzea?
01
Giza agentzia
Autonomia, egiletza eta kontrola.
02
Kontu-ematea
Erantzukizuna, erantzukizun juridikoa eta zuzentasuna.
03
Oinarri sozialak
Duintasuna, zaintza, zaurgarritasuna eta justizia epistemikoa.
04
Iritzi arduratsua
Xedea eta interes publikoa.
6. kapitulua: Zientzia + kultura + gizartea
AAk pentsatzeko baldintzak birmoldatzen ditu
Zer gertatzen da AA iritzi-azpiegitura bihurtzen denean?
AA gero eta gehiago txertatzen da arrazoitzeko, sortzeko eta ikertzeko lan-fluxuetan. Elkarrekintza honek pertsonek galderak nola formulatzen dituzten, alternatibak nola aztertzen dituzten eta konpromisoak nola hartzen dituzten moldatzen du. AAk hainbat eremutan prest egindako irtenbideak eman ditzakeen arren, arriskua da ulermena, pentsamendu koitikoa, egiletza edo erantzukizuna prozesuan saihestea.
AA gogoetatsua galde egiten du AAk nola aldatzen dituen iritzi onaren oinarri diren giza gaitasunak. TRAILABek proposatzen du RAIO, AA gogoetatsuaren orkestratzailea, gizakiaren eta AAren arteko elkarrekintzan argitzeak, hipotesiak, ziurgabetasuna, alternatibak eta trukeak koordinatzen dituen ikerketa-arkitektura gisa. AA gogoetatsua iritzia, pentsamendu koitikoa, sormena, erantzukizuna eta giza konpromiso esplizitua indartzeko ikerketa-helburu bihurtzen da.
Narayananen ICML 2026ko hitzaldi nagusiak AA pertsonen lanaren edukia aldatzen ari dela dio, AA bidez sortutako irtenbideak giza ulermen eta ekintza arduratsu bihurtzen dituzten tresnak eta rolak bultzatuz.
Narayananek eta Kapoorrek AA helburu orokorreko teknologia indartsu gisa tratatzearen alde egiten dute; haren hartzeak, hedapenak eta giza kontrolak ereduaren gaitasunak bezainbeste garrantzia dute.
Messerik eta Crockettek ohartarazten dute AA tresnek ekoizpen zientifikoa bizkortu dezaketela, baina ulermenaren ilusioak eta monolaborantza zientifikoak sor ditzaketela azalpena, baliozkotzea eta koitika saihesten badira.
02 / agentziaAgerian utzi ziurgabetasuna kontrola utzi gabe
03 / sormenaArakatu alternatibak itxi aurretik
04 / erantzukizunaBerrikusi balioak eta trukeak konpromisoa hartu aurretik
Giza iritzia
7. kapitulua: Diziplina anitzeko erakunde independentea
Ibilbide zientifiko honek erakunde bat behar zuen
Zergatik sortu TRAILAB?
Lantzen ditugun arazoek edozein diziplina bakar gainditu dute, baina espezializazio egokia unibertsitateen, ikerketa-zentroen, industriaren, erakunde publikoen eta gizarte zibilaren artean banatuta geratu da.
TRAILAB 2026an sortu genuen irabazi-asmorik gabeko erakunde independente gisa, gaitasun horiek guztiak ikerketa-galdera partekatuen inguruan uztartu ahal izateko, parte hartzen duten pertsona eta erakundeen lotura nagusiak ordezkatu gabe. Haren atzean dagoen ikerketa-ibilbidea finkatu, zabaldu eta transferitzen du, AA fidagarri eta gogoetatsurako metodoak, ebidentzia, pilotuak eta erakunde-gaitasuna eraikiz.
