심리상담 AI가 공감 문장을 써도 인간 상담이 필요한 이유…성과 검증은 증상 개선·안전·위기 대응으로 갈린다
생성형 AI가 사람을 위로하는 말투를 빠르게 흉내 내면서 “상담사 일도 곧 대체되는 것 아니냐”는 질문이 커지고 있다. 다만 지금 확인되는 근거는 직업 전체의 소멸보다 과업의 분화를 가리킨다. 국제노동기구(ILO)는 2025년 갱신한 생성형 AI 직무 노출 지수에서 자동화의 직접 대상을 ‘직업’보다 ‘과업’ 수준에서 평가했고, 고노출 직군이 있더라도 실제 노동시장 결과는 도입 방식과 제도, 감독에 따라 달라진다고 봤다. 상담 영역에서도 핵심 쟁점은 AI가 공감해 보이는 문장을 만들 수 있느냐보다, 어떤 업무를 맡길 수 있고 그 성과와 위험을 무엇으로 검증하느냐다.
결론부터 말하면 일상적 정서 지원과 임상적 치료 책임은 같은 일이 아니다. 심리상담 AI가 짧은 위로, 감정 반영, 자기점검 질문, 기록 보조 같은 저강도 지원을 수행할 수 있다는 연구는 늘고 있다. 그러나 평가, 진단, 치료 계획, 위기 선별, 자·타해 위험 대응, 약물이나 치료 결정과 같은 책임은 여전히 인간 전문가의 영역으로 남아 있다. 실제로 최근 정신의학계 공식 입장문도 생성형 AI를 정신건강 전문직의 대체물로 제시해서는 안 되며, 독립적으로 치료나 처방 결정을 내려서는 안 된다고 못 박고 있다.
상담 성과는 ‘말투’가 아니라 임상 지표로 본다
심리상담 AI의 효과를 검증하려면 먼저 결과지표가 필요하다. 최근 무작위대조시험을 묶어 분석한 2023년 메타분석은 우울 증상에서 단기 효과크기 g=0.29, 장기 추적에서는 g=0.16을 보고했다. 일반화 불안 증상은 단기 g=0.29였지만 장기 추적 효과는 통계적으로 뚜렷하지 않았다. 스트레스와 삶의 질에서도 일부 개선 신호가 있었지만, 효과 크기는 전반적으로 크지 않았고 연구마다 대상, 개입 기간, 비교군이 달랐다.
이 수치는 AI가 전혀 쓸모없다는 뜻은 아니다. 반대로 공감형 문장을 만들어 낸다고 해서 치료 효과가 자동으로 입증된다는 뜻도 아니다. 검증의 기준은 사용자가 “위로받은 느낌”을 말하는 수준이 아니라, 우울·불안 같은 증상 척도가 대조군보다 얼마나 줄었는지, 효과가 몇 주 뒤에도 유지되는지, 삶의 기능이 실제로 나아졌는지로 옮겨가야 한다. 영국 NICE의 디지털 헬스 기술 근거 기준도 건강기술을 단순 웰빙 도구와 ‘임상 관리에 정보를 제공하거나 질환을 치료하는’ 기술로 나눠, 후자일수록 더 높은 수준의 임상 근거를 요구하는 구조를 취하고 있다.
효과가 보여도 바로 ‘상담사 대체’로 이어지지 않는 이유
같은 2023년 메타분석에서 눈에 띄는 대목은 이 도구들이 주로 짧은 기간의 저강도 개입에서 시험됐다는 점이다. 개입 중도 이탈률은 연구 간 편차가 컸고, 일부 연구에서는 상당히 높았다. 이용자가 초반에는 AI의 반응을 새롭게 느끼더라도, 실제 치료에서는 지속 참여와 관계 형성이 결과를 좌우한다는 뜻이다. 상담 업무의 성과가 한두 번의 공감 문장으로 끝나지 않는 이유다.
인간 상담의 강점은 단지 더 따뜻한 말투에 있지 않다. 무엇이 우울 삽화인지, 무엇이 불안장애인지, 무엇이 외상 반응인지 구분하고, 현재 위험도를 판단해 개입 수준을 조정하며, 필요하면 가족·의료기관·응급체계와 연결하는 과정 전체가 포함된다. 미국 국립정신건강연구소(NIMH)도 심리치료를 면허를 가진 정신건강 전문가가 1대1 또는 집단으로 제공하는 치료로 설명한다. 화상 상담이나 원격진료는 가능하지만, 그 경우에도 치료의 주체는 사람이다.
이 점에서 ILO가 제시한 ‘과업 변화’ 프레임은 상담 직무에도 그대로 적용된다. 기록 정리, 표준화된 안내, 숙제 리마인더, 기본적인 자기점검 문항 제시처럼 구조화된 업무는 AI 지원 가능성이 크다. 반면 진단적 판단, 미묘한 비언어 신호 해석, 치료 동맹의 유지, 윤리적 책임 부담, 위기 상황의 즉시 판단은 자동화 난도가 높다. 따라서 현실적인 변화는 상담사 소멸보다 보조 도구 확장과 업무 재배치에 가깝다.
가장 큰 경계선은 위기 대응과 책임 소재다
상담 AI를 둘러싼 가장 민감한 문제는 자해·자살 위험, 망상·조증 같은 급성 증상, 학대·폭력 노출처럼 즉시 보호가 필요한 상황이다. 미국정신의학회(APA)는 2026년 공식 입장문에서 생성형 AI의 효능·효과·안전성이 아직 확립되지 않았고, 정신건강 맥락의 AI는 목적과 한계, 위기 대응의 한계, 지역 응급 지원 수단을 분명히 밝혀야 한다고 제시했다. 동시에 AI는 정신건강 전문직으로 묘사되거나 대체재로 판매돼서는 안 되며, 독립적으로 치료나 처방 판단을 내려서는 안 된다고 밝혔다.
이 기준은 기술에 대한 보수적 반감이라기보다 책임의 문제에 가깝다. 위기 상황에서는 누가 위험을 판별하고, 누가 대면 진료나 응급 이송을 연결하며, 오판이 났을 때 누가 책임을 지는지가 분명해야 한다. 공감형 문장을 잘 만드는 시스템이라도, 발화의 맥락이 은유인지 구조 신호인지 판별하지 못하면 위기 선별에 실패할 수 있다. 그래서 많은 정신건강 AI 서비스가 스스로를 치료 도구가 아니라 자기관리·정보 제공·대화형 지원 도구로 한정하고, 위기 상황에서는 인간 상담이나 지역 응급체계로 넘기는 설계를 채택한다.
독자가 봐야 할 검증 항목은 다섯 가지다
심리상담 AI의 성과를 따질 때는 최소 다섯 가지를 구분해 봐야 한다. 첫째, 무엇을 개선했다는 주장인지다. 외로움 완화인지, 우울 증상 감소인지, 임상 진단 보조인지에 따라 필요한 근거 수준이 달라진다. 둘째, 비교 대상이 무엇인지다. 대기군보다 나아진 것과, 인간 상담이나 표준치료만큼 효과가 있다는 것은 전혀 다른 주장이다.
셋째, 효과의 지속성이다. 몇 주간의 단기 개선이 몇 달 뒤에도 유지되는지, 중도 이탈이 높은 서비스는 아닌지 봐야 한다. 넷째, 안전성이다. 부적절한 응답, 위기 대응 실패, 개인정보 처리, 연령별 사용 제한, 전문가 감독 체계가 확인돼야 한다. 다섯째, 적용 범위다. 일반 스트레스 관리용인지, 의료체계 안에서 전문가 감독 아래 쓰는지에 따라 같은 기술도 사회적 의미가 달라진다.
결국 심리상담 AI를 둘러싼 질문은 “AI가 사람처럼 공감하느냐”에서 끝나지 않는다. 더 중요한 질문은 “그 공감이 어떤 결과를 냈고, 실패했을 때 누가 개입하며, 어디까지를 치료라고 부를 수 있느냐”다. 지금까지 확인된 자료를 종합하면 AI는 상담 직무의 일부 과업을 바꾸고 접근성을 넓힐 수 있지만, 인간 상담의 필요를 없앴다고 말할 단계는 아니다. 성과 검증의 기준이 문장 품질이 아니라 증상 개선, 장기 추적, 안전, 위기 대응으로 이동할수록 그 경계는 오히려 더 선명해진다.
자료: International Labour Organization, Generative AI and Jobs: A Refined Global Index of Occupational Exposure(2025년 5월 20일); He Yuhao 외, Conversational Agent Interventions for Mental Health Problems: Systematic Review and Meta-analysis of Randomized Controlled Trials(Journal of Medical Internet Research, 2023년 4월 28일); Abd-Alrazaq A 외, Effectiveness and Safety of Using Chatbots to Improve Mental Health: Systematic Review and Meta-Analysis(Journal of Medical Internet Research, 2020년 7월 13일); American Psychiatric Association, Position Statement on the Use of Artificial Intelligence for Mental Health Services and Treatment(2026년 7월 승인); National Institute of Mental Health, Psychotherapies(열람 기준 2026년 10월 16일); National Institute for Health and Care Excellence, Evidence standards framework for digital health technologies(2022년 8월 갱신)