AI 교육 서비스가 아동 대화 데이터를 모을 때 보호자가 확인할 5가지
아동과 대화하는 AI 교육 서비스의 장점은 분명하다. 유니세프와 유네스코는 AI와 교육기술이 개인별 맞춤 학습, 접근성 개선, 학습 기회 확대에 도움을 줄 수 있다고 본다. 다만 이번에 확인한 공개 자료들만 놓고 보면, 아동의 음성·채팅 같은 원자료를 장기간 보관하거나 모델 학습에 다시 쓰는 것이 학습 성과를 얼마나 높이는지는 강한 공개 근거가 많지 않았다. 반대로 보호자 통지, 보관 기간, 삭제권, 제3자 제공과 학습 활용을 분명히 하라는 기준과 집행 사례는 비교적 또렷했다.
즉 보호자가 먼저 봐야 할 질문은 ‘AI가 공부를 도와주느냐’ 하나가 아니다. 아이의 대화가 무엇으로 저장되는지, 얼마나 오래 남는지, 삭제를 누르면 실제로 무엇이 지워지는지, 그리고 그 데이터가 서비스 운영을 넘어서 모델 개선이나 상업적 분석에 쓰이는지를 따져봐야 한다. 교육 서비스라고 해서 이런 확인이 뒤로 밀릴 수는 없다는 것이 이번에 확인한 국제기구 보고서와 법 집행 자료의 공통점이다.
첫째, 무엇을 수집하는지부터 음성과 대화기록을 나눠 봐야 한다
보호자가 가장 먼저 확인할 항목은 수집 데이터의 범위다. 아동이 AI 튜터와 말로 대화하면 서비스는 보통 음성파일, 음성에서 변환된 텍스트, 질문·답변 기록, 이용 시각, 기기 정보, 계정 정보 등을 따로 저장할 수 있다. 겉으로는 ‘학습 기록’처럼 한 묶음으로 보이지만, 실제 위험도는 항목마다 다르다. 음성 자체는 생체 특성과 연결될 수 있고, 자유 대화 텍스트에는 이름, 학교, 건강, 가족관계처럼 민감한 내용이 섞이기 쉽다.
미국 연방거래위원회는 아동 개인정보 규정 해설과 기업 준수 지침에서 운영자가 무엇을 수집하고 왜 필요한지, 부모가 이를 검토하고 삭제할 수 있는지, 보안·보관·삭제 체계가 있는지를 점검하라고 밝히고 있다. 유네스코와 유니세프도 교육기술의 효용과 별도로 학생 데이터 수집이 과도해지면 사생활 침해, 편향적 프로파일링, 상업적 이용 위험이 커진다고 짚었다. 보호자 입장에서는 개인정보 처리방침에 ‘대화 데이터’가 한 줄로만 적혀 있는지, 음성 원본과 텍스트 전사본을 구분해 설명하는지부터 확인할 필요가 있다.
둘째, 보관 기간이 ‘서비스 개선’처럼 넓게 적혀 있으면 경계할 필요가 있다
이번 검토에서 가장 분명한 기준은 보관 기간이다. 미국의 아동 온라인 개인정보 보호 규정(COPPA) 최종 규칙은 2025년 1월 확정되면서, 아동 개인정보를 수집 목적을 달성하는 데 합리적으로 필요한 기간까지만 보관하고 더 이상 필요하지 않으면 삭제해야 한다는 원칙을 다시 명시했다. 무기한 보관은 허용되지 않으며, 최소한 수집 목적, 보관 필요성, 삭제 시점을 적은 서면 정책을 갖추도록 했다.
교육 서비스가 ‘AI 품질 개선’ 또는 ‘안전성 향상’을 이유로 긴 보관을 설명하더라도, 그 문구만으로 충분하다고 보기는 어렵다. 연방거래위원회는 2022년 교육기술 정책 성명에서 교육기술 업체가 나중에 쓸 수도 있다는 이유만으로 아동 데이터를 오래 보관할 수 없다고 밝혔다. 다시 말해 보호자가 봐야 할 것은 ‘개선에 활용할 수 있습니다’라는 문장보다 ‘몇 개월 또는 몇 년 뒤 삭제하는지’라는 숫자다. 기간이 없거나, 탈퇴 후에도 내부 정책상 계속 보관할 수 있다고만 적혀 있다면 위험 신호에 가깝다.
셋째, 삭제 기능은 계정 삭제와 대화 원자료 삭제가 같은지 따로 확인해야 한다
보호자가 흔히 놓치는 대목은 ‘삭제’의 실제 범위다. 계정을 탈퇴해도 음성 원본, 전사 텍스트, 오류 분석용 로그, 모델 개선용 별도 데이터셋이 모두 함께 지워지는지는 별개 문제다. 연방거래위원회와 미국 법무부가 2023년 5월 31일 제기한 아마존 알렉사 사건은 이 점을 잘 보여준다. 당시 당국은 아동 음성 녹음과 전사본을 지나치게 오래 보관했고, 부모의 삭제 요청을 충분히 이행하지 않았다고 문제 삼았다. 같은 사건에서 당국은 삭제 관행 개편과 함께 일부 데이터의 알고리즘 학습 활용 제한도 요구했다.
보호자가 서비스에서 확인해야 할 질문은 구체적일수록 좋다. ‘삭제를 요청하면 백업본과 전사본도 지워지는가’, ‘삭제 처리까지 며칠이 걸리는가’, ‘법적 보관 의무가 있는 항목과 없는 항목을 구분해 설명하는가’, ‘비식별화 뒤 계속 보관하는 데이터가 있는가’가 핵심이다. 삭제 메뉴가 있어도 실제 범위가 불명확하면, 이용자가 가진 통제권은 제한적일 수밖에 없다.
넷째, 모델 학습 활용은 서비스 제공과 다른 목적일 수 있다
아동 대화 데이터를 AI 모델 학습에 쓰는 문제는 서비스 작동에 필요한 처리와 서비스 바깥의 추가 활용을 나눠 봐야 한다. 사용자가 질문을 입력했을 때 답을 생성하기 위해 일시적으로 처리하는 것과, 그 대화 내용을 모아 다음 모델 학습이나 성능 개선 데이터셋으로 재사용하는 것은 같은 일이 아니다. 유니세프의 2025년 ‘Guidance on AI and children’은 아동 중심 AI의 핵심 요건으로 데이터 보호와 프라이버시, 투명성, 설명가능성, 책임성을 제시했다. 공개 문서가 이 구분을 흐리면 보호자는 아이 대화가 사실상 개발용 자산으로 넘어가는지 판단하기 어렵다.
이번에 확인한 국제기구 자료들은 AI와 교육기술의 기회를 인정하면서도, 학습자 데이터의 상업적 이용과 과도한 프로파일링을 반복해 위험 요소로 꼽는다. 따라서 개인정보 처리방침이나 보호자 안내문에 ‘서비스 개선’이 적혀 있다면, 그 말이 오류 수정과 안전성 점검을 뜻하는지, 새로운 모델 학습과 추천 고도화, 제휴사 분석까지 포함하는지 분리해서 설명하는지 봐야 한다. 분리 설명이 없다면 보호자가 동의 범위를 제대로 가늠하기 어렵다.
다섯째, 한국에서는 만 14세 미만 법정대리인 동의와 권리행사 절차가 기본선이다
한국 적용성도 분명하다. 개인정보보호위원회와 국가법령정보센터에 따르면 한국 개인정보 보호법 체계에서는 만 14세 미만 아동의 개인정보 처리에 법정대리인 동의가 필요하고, 법정대리인은 그 아동의 개인정보에 대해 열람, 정정·삭제, 처리정지 등 요구를 할 수 있다. 따라서 국내에서 서비스되는 AI 교육 앱이나 웹서비스라면 최소한 보호자 동의 절차, 권리행사 창구, 처리방침상의 보유 기간과 파기 기준이 확인 가능해야 한다.
다만 한국의 동의 절차가 있다고 해서 곧바로 ‘학습 활용까지 충분히 설명됐다’고 볼 수는 없다. 실제 쟁점은 동의를 받았는지 여부만이 아니라, 어떤 데이터를 어떤 목적으로 얼마 동안 보관하고, 보호자가 어떤 방식으로 철회·삭제를 요구할 수 있는지 구체적으로 공개했는지에 있다. 특히 해외 사업자가 한국어 서비스를 제공하는 경우 국내 법 적용 범위와 실제 집행은 사안별 검토가 필요하므로, 보호자는 한국어 처리방침이 짧더라도 영문 원문이나 별도 아동·교육용 공지를 함께 확인하는 편이 안전하다.
결국 공개 자료로 지금 확인할 수 있는 결론은 비교적 단순하다. AI 교육 서비스의 교육적 가능성은 인정되지만, 아동의 대화 원자료를 오래 보관하거나 모델 학습에 넓게 재사용하는 것이 학습 성과를 높인다는 강한 공개 근거는 제한적이다. 반면 보호자 통지, 최소 수집, 명시된 보관 기간, 실질적 삭제권, 학습 활용의 분리 고지는 국제기구 권고와 법 집행 사례에서 반복해서 확인된다. 보호자가 확인해야 할 핵심은 기능 소개 페이지의 화려한 약속보다, 처리방침과 보호자 안내문에 적힌 수집 항목·기간·삭제 범위·학습 활용 문구가 얼마나 구체적인가다.
자료: UNICEF Innocenti, Guidance on AI and children Version 3.0(2025년 12월); UNICEF Innocenti, Data Governance for EdTech: Landscape review and policy recommendations(2025년 9월); UNICEF Europe and Central Asia, Data protection in schools(2024년 8월); UNESCO, 2023 Global Education Monitoring Report: Technology in education(2023년); Federal Trade Commission, Children’s Online Privacy Protection Rule Final Rule(2025년 1월 16일); Federal Trade Commission, FTC to Crack Down on Companies that Illegally Surveil Children Learning Online(2022년 5월 19일); Federal Trade Commission, FTC and DOJ Charge Amazon with Violating Children’s Privacy Law by Keeping Kids’ Alexa Voice Recordings Forever and Undermining Parents’ Deletion Requests(2023년 5월 31일); 개인정보보호위원회 개인정보 포털, 개인정보 열람등요구 안내; 국가법령정보센터, 개인정보 보호법 시행 2025년 3월 13일