도시가 스스로 판단한다면…K-AI 시티의 권한과 책임
–원주·천안아산 시범도시 추진…새만금·광주는 모델도시로 육성
–정부, 2027년까지 기반 마련하고 2030년 전후 실증성과 확산
정부가 도시 전체를 인공지능으로 연결하는 ‘K-AI 시티’ 실행전략을 내놨다. 교통신호와 안전관리, 생활서비스처럼 각각 따로 운영되던 도시 데이터를 연결하고 AI가 이를 분석해 도시 운영을 더 빠르게 최적화하겠다는 구상이다. 원주와 천안·아산을 시범도시로 조성하고, 새만금과 광주에는 향후 확산을 위한 모델도시 기능을 부여한다. 정부는 2027년까지 제도와 인프라 기반을 마련한 뒤 2030년 전후 시범도시 성과를 본격적으로 확산한다는 계획이다.
그러나 K-AI 시티의 핵심은 센서를 더 많이 설치하거나 관제센터에 AI 화면을 추가하는 데 있지 않다. 도시에서 발생하는 교통량과 이동경로, 안전정보, 에너지 사용량, 생활데이터를 누가 얼마나 수집하고 연결할 수 있는지, AI가 이를 근거로 실제 운영에 개입했을 때 잘못된 판단의 책임을 누구에게 물을 것인지가 더 중요한 문제다.
특히 교통신호 조정이나 사고위험 탐지처럼 즉각적인 대응이 필요한 영역에서는 AI 자동화의 효과가 클 수 있지만, 시민의 이동과 안전, 공공서비스 이용에 직접 영향을 주는 만큼 데이터 활용범위와 알고리즘의 통제권도 함께 설계해야 한다. K-AI 시티가 단순한 첨단도시 사업이 아니라 도시행정의 의사결정 구조를 바꾸는 사업으로 봐야 하는 이유다.
원주·천안아산에서 먼저 시작되는 K-AI 시티
국토교통부는 지난 6월 AI 특화 시범도시로 강원 원주시와 충남 천안시·아산시를 선정했다. 원주는 혁신도시를 중심으로, 천안·아산은 천안아산역 일대를 중심으로 AI 기반 도시서비스를 실증한다. 정부는 도시데이터를 AI가 활용할 수 있는 기반을 만들고 교통과 안전, 생활서비스 전반에 AI를 적용해 2030년까지 시범도시 조성을 추진한다.
천안아산역 일대는 KTX와 SRT, 수도권 전철, 버스와 택시 등 다양한 교통수단이 집중돼 있어 이동량과 혼잡도, 환승정보를 실시간으로 분석하는 AI 서비스의 실증 가능성이 높은 지역이다. 원주 역시 혁신도시와 기존 생활권을 바탕으로 교통과 안전, 도시관리 분야의 실증을 추진할 수 있다.
중요한 것은 이들 지역이 단순히 새로운 스마트기기를 설치하는 시험장이 아니라는 점이다. 정부는 도시 데이터를 수집하고 결합해 AI가 분석할 수 있는 공통 기반을 만들고, 이를 도시 운영과 연결하는 것을 목표로 하고 있다.
현재 단계에서 AI가 도시 전체를 자동으로 운영하는 것은 아니다. 정부 역시 도시지능센터와 데이터 활용기반, 규제특례 등을 순차적으로 마련한 뒤 실증을 확대하는 방식으로 사업을 추진하고 있다.
정부가 제시한 핵심은 5대 과제다
국토교통부가 9월 9일 발표한 K-AI 시티 실행전략은 AI 서비스와 인프라 구축부터 국내외 확산, 관련 법·제도 정비까지 5대 핵심과제로 구성됐다. 정부는 2027년까지 사업 추진을 위한 기반을 마련하고 2030년 전후 시범도시에서 가시적인 성과를 만든다는 시간표를 제시했다.
방향은 기존 스마트시티 사업보다 한 단계 더 적극적이다. 과거 스마트시티가 데이터를 수집하고 관제하는 데 집중했다면 K-AI 시티는 수집된 데이터를 AI가 분석해 도시 운영을 지원하고, 일부 영역에서는 실시간 최적화까지 시도하는 구조를 지향한다.
예를 들어 교통량이 갑자기 증가하면 신호체계를 조정하거나, 특정 지역에서 반복적으로 사고 위험이 발생하면 관련 정보를 분석해 대응 우선순위를 정하는 방식이다. 에너지 사용량이나 대중교통 수요 역시 실시간 분석을 통해 공급을 조절할 수 있다.
다만 AI가 실제 도시 운영에 얼마나 깊게 개입할지는 아직 실증과 제도설계 과정에서 정해져야 할 부분이 많다.
관제센터가 ‘도시지능센터’로 바뀌면 무엇이 달라지나
기존 도시 관제센터는 CCTV와 교통정보, 재난상황 등을 한곳에서 모니터링하는 역할이 중심이었다. K-AI 시티에서는 이 기능이 데이터 분석과 예측, 자동 대응까지 확대되는 도시지능센터로 발전할 가능성이 크다.
차이는 단순하다. 기존 관제는 사람이 화면을 보고 상황을 판단하는 방식이었다면 AI 기반 관제는 시스템이 먼저 이상징후를 탐지하고 대응방안을 제안하는 방식으로 바뀐다.
교통사고 가능성이 높은 구간이나 특정 시간대의 혼잡을 AI가 미리 예측하면 담당자가 사고가 발생한 뒤 대응하는 것보다 빠르게 신호와 교통흐름을 조정할 수 있다. 재난과 시설관리에서도 이상 패턴을 조기에 찾는 데 AI가 활용될 수 있다.
이런 변화는 행정효율을 높일 수 있지만 동시에 새로운 질문을 만든다. AI가 잘못 판단해 교통량을 오히려 악화시키거나 위험경보를 놓쳤다면 책임을 누가 져야 하는가 하는 문제다.
도시지능센터가 단순한 분석지원기관인지, 실제 도시 운영을 자동으로 조정하는 기관인지에 따라 책임구조도 달라질 수밖에 없다.
도시데이터를 얼마나 모을 것인지가 첫 번째 쟁점이다
AI가 도시를 분석하려면 데이터가 필요하다. 교통량과 차량 이동, 대중교통 이용, 보행흐름, 에너지 사용, CCTV와 센서정보 등 다양한 데이터가 연결될수록 AI의 분석범위도 넓어진다.
하지만 도시데이터는 모두 같은 성격이 아니다. 기온과 도로상태처럼 개인과 관련이 적은 정보가 있는 반면, 이동경로와 영상정보처럼 특정 개인을 식별하거나 행동패턴을 추정할 수 있는 데이터도 있다.
AI 도시에서는 서로 별개로 관리하던 데이터를 연결할 가능성이 높아진다. 하나의 데이터만으로는 개인을 알아보기 어렵더라도 여러 정보를 결합하면 생활패턴이나 이동경로가 드러날 수 있다.
따라서 K-AI 시티의 성패는 데이터를 얼마나 많이 확보하느냐보다 필요한 데이터만 수집하고, 어떤 목적으로 결합하며, 누가 접근할 수 있는지를 얼마나 명확하게 정하느냐에 달려 있다.
시민 입장에서는 자신의 정보가 도시 운영을 위해 사용된다는 사실뿐 아니라 언제까지 보관되고 다른 목적으로 활용될 가능성은 없는지도 알 수 있어야 한다.
교통신호를 AI가 바꾸면 최종 결정권자는 누구인가
AI 도시에서 자동화 효과가 가장 빠르게 나타날 수 있는 분야 가운데 하나가 교통이다.
현재도 많은 도시에서 교통량에 따라 신호시간을 조정하는 시스템을 사용하고 있지만 AI가 적용되면 더 많은 변수를 실시간으로 분석할 수 있다. 차량 정체뿐 아니라 보행량과 버스 도착시간, 사고정보, 날씨까지 함께 고려해 신호주기를 변경하는 방식이다.
문제는 AI가 얼마나 직접적으로 통제할 수 있도록 허용할 것인가다.
단순히 담당자에게 신호조정안을 추천하는 수준과 시스템이 사람의 승인 없이 직접 신호를 변경하는 것은 책임의 성격이 다르다.
실시간 교통은 몇 초의 판단지연도 큰 영향을 줄 수 있기 때문에 모든 결정을 사람이 승인하도록 하면 자동화의 효과가 줄어들 수 있다. 반대로 AI에 지나치게 넓은 권한을 주면 오류가 발생했을 때 대응하기 어려울 수 있다.
결국 업무의 위험도에 따라 AI의 권한을 다르게 설계할 필요가 있다. 단순 혼잡 완화는 자동조정을 허용하더라도 보행자 안전이나 긴급차량 이동처럼 생명과 직접 관련된 상황에는 별도의 통제가 필요할 수 있다.
안전 분야에서는 ‘오탐’과 ‘미탐’을 함께 봐야 한다
AI를 활용한 도시안전 서비스는 CCTV와 센서정보를 분석해 화재와 사고, 침수, 범죄위험 등의 이상징후를 빠르게 포착하는 방향으로 발전할 가능성이 크다.
하지만 AI 경보가 많다고 안전한 것은 아니다.
정상적인 상황을 위험으로 잘못 판단하는 오탐이 지나치게 많으면 담당자가 경보를 신뢰하지 않게 되고 실제 위험신호도 놓칠 수 있다. 반대로 위험상황을 정상으로 판단하는 미탐은 직접적인 안전사고로 이어질 수 있다.
따라서 AI 도시의 성과를 단순히 탐지 건수나 설치된 센서 수로 평가하기보다 실제 사고가 얼마나 줄었는지, 잘못된 경보가 어느 정도인지, 경보 이후 대응시간이 얼마나 단축됐는지를 함께 측정해야 한다.
시스템의 정확도가 높은 것과 시민이 실제로 더 안전해지는 것은 같은 의미가 아니다.
주민이 AI 판단에 이의를 제기할 방법도 필요하다
AI가 도시 운영에 깊게 들어오면 시스템의 판단이 시민의 일상에 영향을 미치는 경우가 늘어날 수 있다.
교통통제와 주차관리, 시설 이용, 안전관리 등에서 AI 판단이 잘못되면 시민은 그 결과를 직접 경험하게 된다. 이때 누구에게 문제를 제기하고 어떤 기준으로 다시 판단받을 수 있는지가 중요하다.
AI가 만든 결과라는 이유로 책임소재가 불분명해져서는 안 된다. 시스템을 구축한 기업과 운영하는 지자체, 정책을 설계한 정부 사이에서 책임이 분산되면 시민은 오류를 바로잡기 어려워질 수 있다.
따라서 K-AI 시티에서는 AI가 어떤 영역에 사용되는지 공개하고, 시민에게 직접 영향을 주는 판단에 대해서는 이의제기와 재검토 절차를 마련하는 것이 필요하다.
스마트한 도시라는 이름보다 중요한 것은 잘못된 판단을 수정할 수 있는 도시인가 하는 문제다.
원주에서 잘된 서비스가 다른 도시에서도 통할까
정부는 원주와 천안아산의 실증성과를 바탕으로 2030년 전후 K-AI 시티 모델을 다른 지역으로 확산할 계획이다.
하지만 도시마다 교통구조와 인구밀도, 산업구조, 생활패턴이 다르기 때문에 한 지역에서 성공한 AI 서비스를 그대로 다른 지역에 적용하기는 어렵다.
천안아산역 주변처럼 대규모 환승수요가 집중된 지역에서 효과적인 교통 AI가 지방 중소도시에서도 같은 성과를 낼 것이라고 단정할 수 없다. 원주의 도시데이터를 바탕으로 만든 예측모델 역시 다른 지역에서는 성능이 달라질 수 있다.
따라서 실증사업의 목적은 하나의 완성된 AI 도시 모델을 만드는 것보다 어떤 조건에서 어떤 서비스가 효과적인지를 확인하는 데 있어야 한다.
향후 전국 확산 단계에서는 동일한 시스템을 복제하기보다 공통 데이터 기준과 안전원칙을 만들고 각 지역이 필요한 서비스를 선택해 적용하는 방식이 현실적이다.
성과지표도 센서와 AI 서비스 숫자에서 달라져야 한다
스마트시티 사업은 그동안 설치된 장비와 구축된 시스템 수처럼 눈에 보이는 지표로 성과를 평가하기 쉬웠다.
K-AI 시티에서는 이런 방식만으로는 부족하다.
AI 서비스가 100개 만들어졌다는 사실보다 시민의 이동시간이 얼마나 줄었는지, 사고 대응이 얼마나 빨라졌는지, 에너지 비용이 얼마나 절감됐는지가 더 중요하다.
또 비용도 함께 봐야 한다. AI 시스템 구축에 대규모 예산을 투입했지만 실제 이용자가 적거나 지속적인 유지비가 지나치게 높다면 다른 도시로 확대하기 어렵다.
따라서 정부가 2030년 전후 실증성과를 평가할 때는 기술적 성능과 함께 비용 대비 효과, 시민 체감도, 개인정보 보호, 시스템 오류율 등을 함께 평가할 필요가 있다.
물리 AI가 들어오면 도시 운영의 범위는 더 넓어진다
K-AI 시티가 장기적으로 주목하는 영역 가운데 하나는 물리 AI다.
현재의 도시 AI가 데이터를 분석하고 판단을 지원하는 데 집중한다면 앞으로는 자율주행차와 배송로봇, 시설관리 로봇, 지능형 교통시스템처럼 AI가 실제 물리적 공간에서 움직이는 단계로 확대될 수 있다.
이 경우 문제는 단순한 데이터 오류를 넘어 실제 사고와 연결된다.
자율주행 셔틀이 잘못된 판단을 하거나 시설관리 시스템이 오작동한다면 소프트웨어 오류가 물리적인 피해로 이어질 수 있기 때문이다.
따라서 물리 AI 실증에는 데이터와 알고리즘 검증뿐 아니라 안전인증과 사고책임, 보험제도까지 함께 설계해야 한다.
도시가 지능화될수록 소프트웨어와 현실세계의 경계가 희미해진다는 의미다.
2027년까지 기반, 2030년 전후 성과라는 시간표
정부가 제시한 K-AI 시티 일정은 비교적 장기적이다.
2027년까지 AI 도시를 구현하기 위한 인프라와 제도 기반을 마련하고, 이후 원주와 천안아산 등의 실증을 통해 2030년 전후 가시적인 성과를 만든 뒤 국내외 확산에 나선다는 구상이다.
이는 도시 전체에 AI를 적용하는 일이 단기간에 끝날 수 없다는 점을 반영한다. 센서와 데이터센터를 설치하는 것보다 기관별로 나뉜 데이터를 연결하고 법적 권한을 조정하며 실제 시민서비스와 연동하는 과정이 더 복잡하기 때문이다.
AI 기술 자체도 빠르게 바뀐다. 2026년에 선택한 모델과 시스템이 2030년에도 가장 효율적인 기술일 것이라는 보장은 없다.
따라서 특정 AI 기업이나 모델에 도시 인프라가 지나치게 종속되지 않도록 데이터와 시스템의 호환성을 확보하는 것도 중요하다.
K-AI 시티의 핵심은 도시가 얼마나 똑똑한지가 아니다
K-AI 시티가 성공한다면 시민에게 가장 먼저 보이는 변화는 거대한 AI 관제센터가 아닐 가능성이 크다. 출퇴근 정체가 줄고, 대중교통 환승이 쉬워지고, 사고나 재난 대응이 빨라지는 작은 변화들이 먼저 나타날 수 있다.
정부 역시 원주와 천안아산 시범도시를 통해 도시데이터와 AI를 연결하고 교통·안전·생활서비스를 개선한다는 방향을 제시하고 있다.
그러나 도시 전체의 데이터가 연결될수록 정부와 지자체가 시민의 생활을 관찰하고 분석할 수 있는 범위도 넓어진다. AI가 도시 운영의 판단에 참여하는 순간 기술적 효율성과 시민의 권리 사이의 균형이 중요해진다.
따라서 K-AI 시티를 평가할 기준도 ‘AI가 얼마나 많이 들어갔는가’가 되어서는 안 된다. 불필요한 데이터를 수집하지 않는지, AI의 판단을 사람이 통제할 수 있는지, 오류가 발생했을 때 시민이 이를 바로잡을 수 있는지, 실제 생활이 얼마나 개선됐는지를 함께 봐야 한다.
도시가 스스로 판단하는 능력을 갖추는 것보다 중요한 것은 그 판단을 누가 통제하고 책임지는지를 정하는 일이다. K-AI 시티가 기존 스마트시티와 다른 새로운 도시 모델이 되려면 기술의 지능만큼 도시 운영의 책임구조도 함께 지능화돼야 한다.