우리의 이야기 / 2015년부터 2026년까지

불확실성에서 인간의 주체성로.

AI 시스템은 언제 알지 못하는지 알 수 있습니까? 첫 번째 질문으로 인해 우리 팀은 10년 전 더 큰 야망인 AI를 이해하고 관리하며 책임을 져야 하는 사람들을 강화하는 방향으로 불확실성 정량화, 설명 가능성, 인과 관계, 법률 및 윤리를 탐구하게 되었습니다.

연구 질문이 어떻게 확장되었는지

1장: 수학 + 컴퓨터 과학

AI에게 의심을 가르치기

AI 시스템은 언제 알지 못하는지 알 수 있습니까?

근본적인 문제는 불확실성이었습니다. 사례가 조작 영역을 벗어나거나, 모델이 대표적인 증거로부터 충분히 학습하지 않았거나, 좋은 증거가 있어도 세상이 실제로 가변적으로 남아 있기 때문에 모델이 틀릴 수 있습니다.

우리의 과학적 기여는 이러한 불확실성의 원인을 활용하여 의사 결정을 알리는 것이었습니다. 불확실성을 이해하는 것은 더 나은 증거 수집, 운영 영역 재설계 또는 책임 있는 인간 판단으로 확대 등 다음에 무슨 일이 일어날지 결정하는 데 유용해졌습니다.

잘 개발된 불확실성 프레임워크는 거부, 검토 및 책임이 시스템에 내장되어 있는 인간-AI 공동 의사 결정 프로세스를 허용합니다.

연구 앵커 9
불확실성 정량화에 대한 연구 살펴보기
불확실성 원인 및 모델 반응

도메인 불확실성

이상 징후 감지/기권

케이스는 모델을 신뢰할 수 있는 배포 또는 작동 조건 외부에 있을 수 있습니다.

인식론적 불확실성

모델 학습 및 비교

모델에는 대표 지식이 부족합니다. 더 나은 증거, 데이터 또는 모델이 이를 줄일 수 있습니다.

우발적 불확실성

인간에게 시나리오 보여주기

관찰이 부분적이거나 잡음이 많거나 본질적으로 가변적이기 때문에 여러 가지 결과는 그럴듯하게 남아 있습니다.

2장: 엔지니어링 + 공공 프로젝트 + 중요 시스템

공유된 근본적인 문제

불확실성 정량화를 의사결정에 어디에서 통합할 수 있습니까?

불확실성 정량화를 기반으로 한 의사 결정에 대한 우리의 연구는 금융, 안전 필수 시스템, 자율 이동성, 제약 연구, 정보 무결성 및 기타 응용 맥락 전반에 걸쳐 진행되었습니다.

이러한 영역의 광범위한 다양성은 불완전한 증거, 변화하는 운영 조건 또는 비대칭 결과가 의사 결정을 어떻게 형성하는지 결정하는 데 있어 공통적인 과제를 드러냅니다. 불확실성 정량화는 이러한 복잡성을 탐색하고 책임 있는 의사 결정을 보장하는 데 필수적입니다.

연구 앵커 6
TRAILAB이 전체 이해관계자 생태계와 어떻게 상호작용하는지 알아보세요.
중요한 의사결정
01

금융 및 은행

위험 모델, 불확실성을 인식한 결정.

02

중요한 이동성

자율주행, ADAS, 항공.

03

산업 자동화

실시간 시스템, 프로세서, 높은 무결성 AI.

04

건강 및 제약

임상, 생명 과학 및 치료 반사실적.

05

공공 부문

기관 채택, 조달, 교육.

06

정보 무결성

허위 정보, 가짜 뉴스 탐지, 민주적 탄력성.

07

창작권

저작권, 귀속, 저작권, 문화 저작물.

3장: 인과관계 + 설명 가능성

설명을 찾는 중

예측의 원인은 무엇입니까? 다른 개입으로 인해 무엇이 바뀔까요?

불확실성은 자신감이 제한되는 시기를 알려줍니다. 그러나 결과를 낳은 것이 무엇인지, 다른 개입으로 인해 무엇이 변할지 단독으로 설명하지는 않습니다. 시스템을 더욱 신뢰할 수 있게 만들려면 한계, 이유 및 대안을 함께 검토해야 합니다.

인과 추론, 반사실 및 설명 가능성은 의사 결정에서 검사하고, 이의를 제기하고, 사용할 수 있는 이유와 대안의 계층을 제공합니다. 이때 우리의 연구 범위는 안전한 AI에서 신뢰할 수 있는 AI로 확대되었습니다.

연구 앵커 8
설명 가능성과 인과성에 대한 연구를 살펴보세요.
01

인과관계

어떤 결과가 나왔나요?

02

반사실적

다른 조건에서는 무엇이 바뀌나요?

03

설명 가능성

인간이 무엇을 검사하고 경쟁할 수 있습니까?

04

충실함

설명이 모델과 결정을 반영합니까?

4장: 법률 + 규정 + 표준

기술적 신뢰만으로는 충분하지 않은 경우

AI 거버넌스를 위한 기술 및 법률 전문 지식 결합

AI 시스템은 위험 관리, 데이터 거버넌스, 문서화 및 표준, 기본권 평가, 감독 또는 책임과 같은 법적 의무를 처리해야 하는 경우 안정적으로 수행되지만 여전히 특정 배포에 적합하지 않을 수 있습니다.

TRAILAB은 이러한 요구 사항을 연구 프로세스에 적용하여 가능한 경우 테스트 가능한 요구 사항 및 증거로 변환합니다. 그 결과 시스템 개발을 지원하고 보완하는 거버넌스 프레임워크가 탄생했습니다.

연구 앵커 11
AI 거버넌스 및 AI 규제에 대한 연구를 살펴보세요.
01

AI법

위험 기반 의무, AI 활용 능력, GPAI 거버넌스 및 고위험 시스템 의무.

02

CEN-CENELEC

법적 요구 사항을 기술적 증거로 변환하는 조화된 표준입니다.

03

ISO/IEC

AI 관리 시스템 및 AI 위험 관리: ISO/IEC 42001 및 ISO/IEC 23894.

04

부문 표준

자동차, 항공, 자동화, 의료 및 중요 시스템 산업에 대한 보증입니다.

제5장 윤리 + 철학 + 사회적 정당성

신뢰성에는 목적이 필요합니다

기술적 능력이 어떻게 책임감 있는 판단을 강화할 수 있습니까?

기술 및 법적 요구 사항을 충족하는 시스템은 자율성, 책임, 저자 또는 제도적 목적을 형성하는 방식에 대해 여전히 면밀한 조사가 필요합니다. 윤리와 철학은 무엇이 인간에게 남아야 하는지, 책임이 어디에 있는지, 어떤 균형이 중요한지, 어떤 형태의 진보가 추구할 가치가 있는지를 결정하기 위해 들어갑니다.

연구 앵커 3
윤리적 AI에 대한 연구 살펴보기
규정 준수에서 적법성까지
능력 작동할 수 있나요?
규정 준수 그것이 정당화될 수 있는가?
정당성 추구할 가치가 있나요?
01

인간의 주체성

자율성, 저작권 및 통제.

02

책임

책임, 의무 및 공정성.

03

사회적 근거

존엄성, 배려, 취약성 및 인식론적 정의.

04

책임있는 판단

목적과 공익.

6장: 과학 + 문화 + 사회

AI는 사고 조건을 재구성합니다

AI가 판단 인프라가 되면 어떻게 될까요?

AI는 추론, 생성, 조사 작업 흐름에 점점 더 많이 포함되고 있습니다. 이러한 상호작용은 사람들이 질문을 구성하고, 대안을 검토하고, 약속을 하는 방식을 형성합니다. AI는 다양한 영역에서 기성 솔루션을 제공할 수 있지만 그 과정에서 이해, 비판적 사고, 저자 또는 책임이 우회될 위험이 있습니다.

성찰적 AI AI가 올바른 판단에 달려 있는 인간의 능력을 어떻게 변화시키는지 묻습니다. TRAILAB이 제안하는 RAIO, 성찰적 AI 오케스트레이터는 인간-AI 상호 작용 중에 설명, 가정, 불확실성, 대안 및 절충을 조정하는 연구 아키텍처입니다. 성찰적 AI는 판단력, 비판적 사고, 창의성, 책임감 및 명시적인 인간 의지를 강화하기 위한 연구 목표가 됩니다.

연구 앵커 6
성찰적 AI와 RAIO에 대해 자세히 알아보세요.
성찰적 AI
어떻게 해야 하나요?
01 / 이해행동하기 전에 가정을 명확히 하세요.
02 / 주체성통제권을 포기하지 않은 표면 불확실성
03 / 창의성폐쇄 전 대안 탐색
04 / 책임약속하기 전에 가치와 장단점을 검토하세요.
인간의 판단

7장: 독립적인 종합 기관

이 과학적 여정에는 기관이 필요했습니다.

TRAILAB을 만드는 이유는 무엇입니까?

우리가 다루는 문제는 단일 분야를 능가하지만 관련 전문 지식은 대학, 연구 센터, 산업, 공공 기관 및 시민 사회 전반에 걸쳐 분산되어 있습니다.

우리는 2026년에 관련된 사람과 기관의 기본 소속을 대체하지 않고도 공유 연구 질문을 중심으로 모든 기능을 결합할 수 있는 독립적인 비영리 단체로 TRAILAB을 설립했습니다. 신뢰할 수 있고 성찰적인 AI를 위한 방법, 증거, 파일럿 및 제도적 역량을 구축하는 등 연구 궤적을 통합, 확장 및 이전합니다.

연구 앵커 3
TRAILAB이 어떻게 구성되어 있는지 확인하세요