표정·음성으로 정신건강 보는 AI, 정확도만으론 부족…케임브리지대 연구진이 제시한 ‘공정성 설명’
웰빙 평가용 멀티모달 모델, 평균 성능이 높아도 성별·인종별 편차는 남을 수 있다는 문제 제기
영국 케임브리지대 연구진, ACM ICMI 2026에서 FAIR_XAI 발표…정확도와 설명가능성을 함께 보자는 접근
정신건강을 평가하는 멀티모달 AI는 평균 정확도가 높아도 집단별 편향이 남을 수 있나. 현재까지 확인되는 답은 그렇다는 쪽에 가깝다. 영국 케임브리지대 컴퓨터과학기술학과가 10월 6일 공개한 자료에 따르면, 연구진은 ACM 국제 멀티모달 상호작용 학회 ICMI 2026에서 웰빙 평가용 멀티모달 파운데이션 모델의 공정성과 설명가능성을 함께 다룬 연구 ‘FAIR_XAI’를 발표했다. 이 연구가 던지는 핵심은 단순하다. 의료·정신건강 AI에서 전체 평균 성능만으로는 실제 위험을 충분히 설명할 수 없다는 것이다.
이 문제는 특히 표정, 음성, 텍스트, 영상처럼 여러 신호를 함께 읽는 멀티모달 모델에서 더 민감하다. 입력이 많아질수록 모델은 더 정교해질 수 있지만, 동시에 어떤 단서를 근거로 판단했는지 사람이 이해하기는 더 어려워진다. 정신건강 평가처럼 결과 해석이 환자 안전과 직결될 수 있는 영역에서는 높은 정확도와 별개로, 누구에게 더 자주 틀리는지, 왜 그런 판단이 나왔는지를 따져야 한다는 뜻이다.
두 개의 모델, 두 개의 편향
케임브리지대가 소개한 연구 내용을 보면, 연구진은 우울 평가 인터뷰 녹화 데이터를 이용해 두 종류의 비전-언어 계열 모델을 살폈다. 대상은 환자가 코치와 일대일로 대화하는 환경과 더 임상적인 환경에 걸친 인터뷰 데이터였고, 연구진은 각 모델의 진단 신뢰도와 인구집단별 공정성이 설명가능성 개선 기법을 적용했을 때 어떻게 달라지는지 비교했다. 여기서 확인된 것은 성능이 환경과 모델 구조에 따라 크게 달라졌다는 점, 그리고 두 모델 모두 편향을 보였지만 편향의 양상은 같지 않았다는 점이다. 한 모델은 성별 편향이 더 컸고, 다른 모델은 인종 편향이 더 두드러졌다고 연구진은 설명했다.
이 대목은 AI 평가의 맹점을 드러낸다. 평균 정확도는 여러 집단의 결과를 한데 묶은 값이어서 특정 집단의 오차를 가릴 수 있다. 예를 들어 전체 성능이 비슷해 보여도 어떤 집단에서는 일관되게 과소평가하거나 과대평가할 수 있다. 정신건강 평가 도구에 이런 편차가 남으면, 모델이 실제 증상보다 말투·표정 습관·촬영 환경 차이를 학습했을 가능성까지 점검해야 한다.
설명가능성은 왜 공정성과 연결되나
FAIR_XAI가 제안하는 방향은 편향을 정확도 바깥의 별도 윤리 항목으로 두지 않는 데 있다. 설명가능성, 즉 모델이 어떤 입력 특징을 근거로 결론에 이르렀는지 드러내는 과정이 있어야 집단별 편향도 더 구체적으로 추적할 수 있다는 접근이다. 케임브리지대 자료에서도 연구진은 절차적 투명성이 곧바로 공평한 결과를 보장하지는 않는다고 짚었다. 설명이 붙었다고 해서 편향이 사라지는 것은 아니지만, 적어도 임상의나 개발자가 모델의 실패 양상을 검토할 수 있는 토대는 넓어진다.
이 문제의식은 규제 논의와도 맞닿아 있다. 미국 식품의약국 FDA와 영국 의약품건강관리제품규제청 MHRA, 캐나다 보건당국이 최근 정리한 기계학습 의료기기 투명성 원칙은 의도된 사용 목적, 성능, 위험, 한계, 데이터 특성, 알려진 편향과 실패 모드를 사용자에게 명확히 전달해야 한다고 본다. 세계보건기구 역시 보건의료 AI에서 투명성, 설명가능성, 형평성을 별개가 아닌 핵심 거버넌스 원칙으로 제시해 왔다. 정신건강 AI가 실제 의료기기로 이어지든 그렇지 않든, 평가 기준이 평균 점수 중심에서 사용 맥락 중심으로 이동하는 흐름은 분명해지고 있다.
학회 발표와 임상 적용은 아직 다르다
다만 이번 연구를 곧바로 임상 진단 성능의 입증으로 받아들여선 안 된다. 확인된 사실의 범위는 학회 발표 연구다. 케임브리지대가 공개한 정보는 웰빙 평가용 멀티모달 모델의 공정성과 설명가능성을 개선하는 방법을 제안했다는 데까지이며, 특정 도구가 의료현장에서 안전하고 효과적으로 쓰일 수 있다는 승인이나 독립 검증을 뜻하지는 않는다.
그럼에도 이번 발표가 갖는 의미는 작지 않다. 정신건강 AI 논의는 종종 “정확한가, 아닌가”의 이분법에 머물렀지만, 실제 현장에서는 “누구에게 얼마나 다르게 작동하는가”, “판단 근거를 사람이 검토할 수 있는가”, “훈련 데이터와 실제 사용 환경이 얼마나 닮았는가”가 더 중요할 수 있다. 멀티모달 모델이 사람의 표정과 음성, 언어를 더 많이 읽을수록 성능 경쟁보다 먼저 확인해야 할 것은 해석 가능성과 집단별 안전성이라는 점을 이번 연구는 분명히 보여준다.
정확도 이후의 평가 기준이 필요하다
앞으로 관건은 이런 접근이 후속 연구와 제품 개발 단계에서 얼마나 표준화되느냐다. 집단별 성능 공개, 데이터 대표성 점검, 모델 업데이트 이후의 재검증, 임상의가 이해할 수 있는 설명 인터페이스가 함께 갖춰져야 정신건강 AI의 신뢰성을 논할 수 있다. 평균 정확도가 높은 모델이라도 특정 집단에 체계적으로 불리하다면 의료 보조도구로서는 불완전하다. 표정과 음성으로 마음 상태를 읽는 AI의 경쟁력은 더 많이 맞히는 데만 있지 않다. 왜 그렇게 판단했는지, 그리고 그 판단이 누구에게 공평한지까지 설명할 수 있을 때 비로소 의료 영역의 문턱에 가까워진다.