프랑스 Inria, 과학 AI 신뢰성 높일 ‘Delphi’ 추진…기존 지식을 학습 제약으로 넣는 실험
ERC 시작연구 지원 대상으로 확인된 Michael Arbel의 DELPHI
그럴듯함과 과학적 타당성은 다르다…암묵적 제약 학습이 겨누는 지점
성과가 아니라 연구 계획 단계, 새 조건에서의 검증은 여전히 별도 과제
프랑스 국립정보자동화연구원 Inria에서 과학 AI의 신뢰성을 높이기 위한 새 연구가 추진된다. 유럽연구위원회가 2026년 9월 3일 공개한 ERC Starting Grants 선정 문서를 보면 Inria의 Michael Arbel은 DELPHI라는 이름의 과제로 지원 대상에 포함됐고, 과제 제목은 ‘Foundations of Implicitly Constrained Learning: A Functional Framework’다. Inria가 9월 24일 공개한 기관 소식 목록과 25일 갱신된 소개 범위에서도 같은 연구가 더 신뢰할 수 있는 AI 모델을 겨냥한다고 설명한다.
이 사안에서 먼저 구분해야 할 것은 ‘무엇이 확인됐는가’다. 확인된 것은 오류가 이미 줄었다는 성능 성과가 아니라, 과학 분야에서 쓰이는 AI가 기존 지식과 맞지 않는 출력을 내놓는 문제를 줄이기 위해 학습 자체에 제약을 넣는 방향의 연구가 시작됐다는 점이다. 다시 말해 DELPHI는 결과 발표가 아니라 설계와 방법론의 출발점에 가깝다.
왜 과학 AI에는 ‘그럴듯함’만으로 부족한가
생성형 AI나 예측 모델은 겉보기에는 자연스럽고 매끈한 답을 만들 수 있다. 그러나 과학 영역에서는 문장이 자연스러운지보다 결과가 물리 법칙, 생물학적 메커니즘, 관측 조건, 실험 설계와 맞는지가 더 중요하다. 의료 영상, 기후 모델, 유체 해석, 재료 탐색처럼 작은 모순이 전체 해석을 흔드는 분야에서는 이 차이가 특히 크다.
그래서 과학 AI의 평가는 두 층으로 나뉜다. 하나는 출력이 데이터에 잘 맞는가, 즉 외형적 성능이다. 다른 하나는 그 출력이 해당 분야의 기존 지식과 양립하는가, 즉 과학적 타당성이다. DELPHI가 겨누는 지점은 후자다. 단순히 많이 맞히는 모델이 아니라, 배운 결과가 애초에 지켜야 할 조건을 벗어나지 않도록 학습 틀을 다시 짜려는 시도다.
명시적 제약보다 어려운 ‘암묵적 제약’ 문제
기계학습에서 제약은 모델이 따라야 하는 조건이다. 가장 쉬운 형태는 명시적 제약이다. 예를 들어 어떤 값은 0보다 커야 한다거나, 합이 1이어야 한다는 식처럼 수학식으로 바로 적을 수 있다. 이런 조건은 손실함수에 벌점을 주거나 최적화 과정에 직접 넣는 방식으로 다뤄왔다.
암묵적 제약은 더 까다롭다. 법칙이 한 줄의 식으로 끝나지 않고 데이터 생성 과정, 구조적 관계, 대칭성, 보존성, 관측 절차 같은 형태로 숨어 있기 때문이다. Inria 안팎의 관련 공개 자료를 종합하면 Arbel의 연구 관심사는 제약 학습, 최적화, 과학 응용이 만나는 지점에 놓여 있다. DELPHI의 과제명에 들어간 ‘implicit constraints’는 바로 이런 숨은 조건을 학습 가능한 형태로 다루겠다는 뜻에 가깝다.
기존 지식을 학습에 넣는다는 것은 무엇을 뜻하나
과학 분야의 기존 지식을 AI에 반영하는 방식은 크게 세 갈래로 나눌 수 있다. 첫째는 데이터 전처리와 변수 설계 단계에서 사람이 규칙을 심는 방식, 둘째는 모델 구조 자체를 특정 대칭성이나 보존 법칙에 맞게 설계하는 방식, 셋째는 학습 과정에서 결과가 특정 조건을 만족하도록 제약을 거는 방식이다. DELPHI는 이 가운데 세 번째 축을 더 일반화하려는 연구로 읽힌다.
이 접근의 의미는 분명하다. 새로운 데이터를 더 많이 모으는 것만으로는 과학적 일관성이 자동으로 생기지 않기 때문이다. 예를 들어 훈련 데이터 안에서는 그럴듯해 보여도, 관측 환경이 바뀌거나 드문 조건을 만나면 모델은 분야 지식과 충돌하는 답을 낼 수 있다. 학습 단계에서 기존 지식을 제약으로 반영하려는 이유는 바로 이 틈을 줄이기 위해서다.
물리정보 AI와 닮았지만, 검증 기준은 더 넓다
비슷한 계열의 연구로는 물리 법칙을 손실함수에 넣는 물리정보 신경망, 안전성이나 공정성 조건을 거는 제약 최적화 기반 학습이 널리 알려져 있다. 다만 DELPHI의 포인트는 특정 응용 하나의 성능 개선보다, 과학 지식이 수식으로 완전히 주어지지 않더라도 학습 제약으로 다룰 수 있는 보다 일반적인 토대를 만들겠다는 데 있다. ERC 문서가 과제 제목에 ‘foundations’와 ‘functional framework’를 넣은 이유도 이 방법론적 성격을 보여준다.
그렇다고 분야 지식을 넣었다고 해서 검증이 끝나는 것은 아니다. 기존 지식은 편향되거나 불완전할 수 있고, 실제 자연현상은 알려진 규칙 바깥의 예외를 드러낼 수도 있다. 따라서 과학 AI에서는 제약을 잘 넣는 문제와, 낯선 조건에서 실제로 맞는지 시험하는 문제를 분리해서 봐야 한다.
지금 독자가 확인해야 할 판단 기준
이번 발표를 해석할 때는 세 가지를 구분하는 편이 정확하다. 첫째, ERC 선정과 Inria 소개는 연구의 필요성과 방향을 보여주는 공식 신호이지, 독립 검증을 마친 성능 보고서가 아니다. 둘째, 암묵적 제약 학습은 단순한 정답률 경쟁이 아니라 과학 지식과 학습 알고리즘을 연결하는 설계 문제다. 셋째, 향후 DELPHI의 의미는 실제 논문과 실험에서 어떤 제약을 어떻게 구현했고, 새 데이터와 새 조건에서 오류 양상이 어떻게 달라졌는지로 판단해야 한다.
결국 ‘그럴듯한 결과를 만드는 AI에 과학 분야의 기존 지식을 어떻게 반영할 수 있나’라는 질문에 대한 현재 시점의 답은 이렇다. 정답을 많이 맞히는 모델을 더 키우는 것만으로는 부족하며, 과학이 이미 알고 있는 구조와 조건을 학습의 제약으로 끌어들여야 한다는 것이다. 프랑스 Inria의 DELPHI는 바로 그 방법을 찾기 위한 연구 계획으로 확인된다. 다만 그 계획이 실제로 어느 정도의 일반화 성능과 신뢰성 향상으로 이어지는지는 앞으로 공개될 연구 결과에서 따로 검증돼야 한다.