인터페이스를 중심으로 구축
TRAILAB은 프로젝트에 추가되는 또 다른 전문가가 아닙니다. 이는 기술적 증거, 법적 의무, 제도적 거버넌스, 윤리적 질문 및 인간의 주체성 간의 인터페이스를 중심으로 구축되었습니다.
왜 TRAILAB인가?
하나의 학문 분야, 하나의 영역 또는 하나의 기관에 대한 연구 문제가 너무 커졌습니다.
TRAILAB은 성숙한 연구 기반을 바탕으로 설립된 새로운 독립 기관입니다. 그 뒤에 있는 궤적은 불확실성에서 시작되어 고위험 결정, 중요한 시스템, 인과 관계, 설명 가능성, 법률, 표준, 윤리 및 인간의 주체성로 옮겨갔고 결국에는 이러한 인터페이스를 함께 연구할 수 있는 내구성 있는 홈이 필요했습니다.
TRAILAB을 필요하게 만든 여정
TRAILAB을 필요하게 만든 여정
-
2015-2019
확률적 의심
핵심 기술 질문은 AI 시스템이 어떻게 불확실성을 나타낼 수 있는지였습니다. 영역 제한, 인식적 격차 및 우연적 변동성은 처음에는 의심할 여지 없이 자동화가 위험한 금융 및 은행 결정에 의해 동기가 부여되었습니다.
-
2020-2022
금융부터 핵심 시스템까지
자율 주행, 항공, 산업 자동화, 가짜 뉴스 탐지 및 공공 프로젝트에서도 동일한 결정 문제가 나타났습니다. 즉, 불완전한 증거, 변화하는 운영 조건 및 인간의 책임입니다.
-
2021-2023
인과성과 설명 가능성
불확실성만으로는 충분하지 않았습니다. 작업은 인과성, 반사실적 및 설명 가능성 쪽으로 확장되었습니다. 예측의 원인이 무엇인지, 개입에 따라 무엇이 바뀔지, 설명이 충실하고 안정적이며 모순되지 않는지 여부 등이 포함됩니다.
-
2023-2024
법률, AI법 및 표준
신뢰할 수 있는 AI가 규제된 환경에 진입했습니다. AI법 의무, ISO/IEC 42001, ISO/IEC 23894, CEN-CENELEC 조화 표준 및 부문 보증 프레임워크를 운영 방법으로 변환해야 했습니다.
-
2024-2025
윤리와 철학
기술 및 법적 신뢰에는 여전히 적법성, 공정성, 관리, 저작자, 책임, 평판 및 인간 목적에 대한 의문이 남아 있습니다. 윤리와 철학은 나중에 고려되는 것이 아니라 방법의 일부가 되었습니다.
-
2026
성찰적 AI 및 TRAILAB
AI가 판단에 대한 인프라적 효과를 획득함에 따라 신뢰할 수 있는 AI는 인간의 능력을 보존하고 강화하기 위한 연구 목표인 성찰적 AI로 보완되어야 했습니다. TRAILAB은 해당 작업을 위한 독립적이고 다학제적이며 다양한 기관이 되는 공간이 됩니다.
독립적인 디자인
독립성은 방법, 증거 및 결론의 신뢰성을 보호하므로 파트너와 자금 제공자에게 가치가 있습니다.
방식별 적용
연구가 실제 시스템에서 스트레스 테스트를 받고, 표준으로 변환되고, 프로젝트, 교육 및 공익 증거를 통해 재사용 가능해지면 영향이 발생합니다.
야망을 반영하다
성찰적 AI는 AI에 대한 의존이 판단, 창의성, 책임감을 가능하게 하는 인간의 역량을 어떻게 변화시키는지 묻습니다.
영향에 대한 우리의 접근 방식
우리의 영향력 주기는 연구를 역량으로 전환합니다.
TRAILAB은 연구, 실제 검증 및 기관 이전이 서로를 강화하도록 설계되었습니다. 적용된 사례는 새로운 연구 질문을 드러냅니다. 방법은 실제로 스트레스 테스트를 거쳤습니다. 정책과 표준은 증거를 재사용 가능한 용량으로 변환합니다.
연구 및 규제 앵커 9
-
2020 · Building Uncertainty Models on Top of Black-Box Predictive APIs
불확실성 정량화 · 승인된 논문
브란도, A., 토레스, D., 로드리게스-세라노, J. A., 비트리아, J.
-
2022 · Using Quantile Regression in Neural Networks for Contention Prediction in Multicore Processors
불확실성 정량화, 규제 AI · 게재 논문
Brando, A., Serra, I., Mezzetti, E., Abella, J., Cazorla, F. J.
-
2023 · Main Sources of Variability and Non-Determinism in AD Software: Taxonomy and Prospects to Handle Them
규제 AI · 승인 논문
Alcon, M., Brando, A., Mezzetti, E., Abella, J., Cazorla, F. J.
-
2023 · SAFEXPLAIN: Safe and Explainable Critical Embedded Systems Based on AI
설명 가능성, 규제 AI · 승인 논문
Abella Ferrer, J., Pérez, J., Englund, C., Zonooz, B., Giordana, G., 외. (브란도, A. 포함)
-
2024 · A Novel Application of SCMs to Time Series Counterfactual Estimation in the Pharmaceutical Industry
인과관계 · 워크숍 논문
Garriga, T., Sanz, G., de Cambra, E. S., Brando, A.
-
2025 · Managing Sources of Uncertainty in Utilizing AI in Development and Deployment of Safety-Critical Autonomous Systems
불확실성 정량화, 규제 AI · 게재 논문
Lowe, R., Ulan, M., Bui, T. H., Adell, A., Labaien, J., Brando, A.
-
2026 · AI Sandboxes Must Be SME-Oriented Compliance Accelerators
규제 AI · 검토 중
Rodrigo-Albert, D., Eguíluz, J. A., Hidalgo, J., Vargas, V., Mir, M., Brando, A.
-
2026 · EU AI Act implementation timeline
규제 출처 · 유럽연합 집행위원회 FAQ
위원회는 AI법을 단계적 적용을 통해 위험 기반 법적 프레임워크로 구성합니다. 즉, 2025년 2월부터 금지된 관행 및 AI 활용 능력, 2025년 8월부터 GPAI 거버넌스, 단순화 패키지에 따라 2027년 12월과 2028년 8월로 순차적으로 진행되는 고위험 의무입니다.
-
2026 · Standardisation of the AI Act
규제 출처 · 유럽연합 집행위원회 정책 페이지
위원회는 조화된 표준이 AI법 요구 사항을 위험 관리, 데이터 거버넌스, 로깅, 투명성, 인간 감독, 정확성, 견고성, 사이버 보안, 품질 관리 및 적합성 평가를 위한 기술 언어로 변환하는 방법을 설명합니다.
연구 → 방법
불확실성, 인과성, 설명 가능성, 안전, 규제, 윤리 및 성찰적 AI에 관한 출판물 및 공개 질문입니다.
검증 적용 → 증거
금융, 은행, 항공, 자율 시스템, 자동화, 제약 연구, 의료, 교육 및 공익 인프라 분야의 사용 사례입니다.
전신이전 → 채택
규제 인식 방법, 표준 번역, 정책 역량, SME 채택, 공공 부문 지침 및 권리에 민감한 제도적 학습.
TRAILAB 이중 주기 접근 방식
방법/노하우
불확실성 · 인과성 · 설명 가능성 · 거버넌스 · 성찰적 상호 작용
연구 ⇔ 응용 ⇔ 영향
- 연구출판물, 박사과정, 벤치마크 문제, 이론적인 질문
- 신청은행, 금융, ADAS, 항공, 제약, 건강, 자동화, 교육
- 영향채택, 안전한 시스템, 더 나은 의사결정, 공익 역량
연구 ⇔ 전신적 전달 ⇔ 영향
- 연구출판물, 박사과정, 벤치마크 문제, 이론적인 질문
- 전신 전달AI법 맥락, ISO, CEN-CENELEC, 공공정책, 시민사회, 권리
- 영향채택, 안전한 시스템, 더 나은 의사결정, 공익 역량
왜 지금인가 - 유럽
유럽은 신뢰할 수 있는 인간 중심의 AI, 기술 및 제도적 역량을 계속 강조하면서 AI 규칙 제정에서 전략적 부문 전반에 걸친 대규모 채택으로 전환하고 있습니다. TRAILAB은 역량, 채택, 신뢰, 권리 및 인간의 주체성 간의 인터페이스에서 작동합니다.
- EU AI법 맥락위험 기반 의무, AI 활용 능력, GPAI 거버넌스 및 고위험 시스템 의무
- 통일된 표준위험 관리, 데이터 거버넌스, 로깅, 투명성, 인간 감독, 견고성 및 사이버 보안을 위한 기술 언어
- 제도적 채택역량을 부문 전반에 걸쳐 증거, 거버넌스, 기술 및 책임으로 전환