양자 머신러닝, 기존 AI보다 더 정확하거나 더 쌀까…지금까지 확인된 답은 ‘일반론으론 아니다’
양자컴퓨터와 AI를 결합한 양자 머신러닝은 자주 ‘기존 AI를 뛰어넘을 차세대 기술’로 소개되지만, 현재까지 공개된 검증 자료를 기준으로 보면 일반적인 고전 데이터 학습에서 더 높은 정확도나 더 낮은 비용이 이미 입증됐다고 말하기는 어렵다. 오히려 지금 단계에서 더 분명하게 확인되는 사실은 따로 있다. 이미지·텍스트·표 데이터 같은 고전 데이터를 양자 상태로 올리는 입력 비용이 크고, 학습과 추론 과정에서도 반복 측정과 회로 실행 비용이 붙기 때문에, 실제 총비용 기준으로는 불리한 경우가 많다는 점이다.
이 결론은 ‘양자컴퓨터가 쓸모없다’는 뜻과는 다르다. 연구자들이 비교적 일관되게 지적하는 적용 범위는 따로 있다. 양자 물질, 양자 화학, 고에너지 물리처럼 원래 데이터 자체가 양자계에서 나오거나, 고전 컴퓨터가 전부 기술하기 어려운 양자 상태를 직접 다루는 문제에서는 양자 머신러닝이 장기적으로 의미 있는 후보가 될 수 있다. 다만 이런 가능성을, 오늘의 일반적 AI 업무 전반에 대한 성능 우위로 곧바로 번역할 수는 없다.
병목은 계산보다 입력에서 먼저 드러난다
양자컴퓨터의 강점은 중첩과 얽힘을 이용해 특정 계산을 압축적으로 표현할 수 있다는 데 있다. 그러나 실제 머신러닝은 계산만으로 끝나지 않는다. 학습할 데이터를 불러오고, 회로에 넣고, 결과를 읽어내는 전 과정이 비용에 포함된다. NIST는 양자컴퓨터 역시 입력과 출력의 제약을 받으며, 계산 과정에서 거대한 상태공간을 다룰 수 있어도 마지막 측정에서 뽑아낼 수 있는 정보량은 제한된다고 설명한다. 양자 상태 안에서 많은 계산을 병렬적으로 전개할 수 있다는 설명만으로는, 실제 학습 비용이 자동으로 줄었다고 볼 수 없는 이유다.
최근 이른바 ‘입력 문제’를 정리한 연구들은 이 병목을 더 직설적으로 다룬다. 대표적인 데이터 인코딩 방식인 basis encoding, amplitude encoding, 확률분포 로딩은 회로 수준으로 펼치면 데이터 크기에 선형으로 비례하는 비용이 남는다는 분석이 제시됐다. 특히 양자 커널 방식처럼 학습 샘플끼리의 유사도를 대량 계산해야 하는 경우에는 그램 행렬을 만들기 위한 상태 준비 비용이 샘플 수의 제곱에 비례해 커질 수 있다는 지적도 나온다. 결국 ‘양자 회로 안의 계산 이득’만 떼어 보면 빨라 보여도, 데이터를 밀어 넣는 단계까지 포함한 종단 간 비용에서는 이득이 사라질 수 있다는 뜻이다.
정확도 우위도 아직은 조건부 주장에 가깝다
정확도 문제도 비슷하다. 양자 머신러닝 논문에는 특정 데이터셋이나 설계된 과제에서 고전 모델보다 좋은 결과가 보고되지만, 그런 결과가 곧바로 ‘기존 AI보다 더 정확하다’는 일반 명제로 이어지지는 않는다. PRX Quantum에 실린 관점 논문은 기계학습이 이미 매우 강력한 고전 알고리즘을 갖고 있고, 양자 쪽은 아직 현실적 규모에서 실용 비교를 하기 어렵다고 지적했다. 이 때문에 현재의 이론 증명은 지나치게 인공적인 설정에 머무르기 쉽고, 초기 양자 장비 실험은 실제 산업 규모의 문제를 아직 시험하지 못한다는 것이다.
실제로 양자와 고전 모델을 비교한 연구들에서도 결과는 엇갈린다. Nature Communications에 실린 ‘Power of data in quantum machine learning’은 양자 모델이 유리하도록 설계된 데이터에서도 고전 모델이 상당히 경쟁적이거나 더 나은 예측 성능을 보일 수 있다고 보고했다. 반대로 양자 모델이 두드러지는 경우도 있지만, 대체로 데이터 구조가 양자 회로에 맞게 설계됐거나 비교 대상이 제한된 경우가 많다. 따라서 지금 시점에서 더 정확하다고 말하려면 최소한 어떤 데이터인지, 어떤 고전 기준선과 비교했는지, 하드웨어 실행인지 시뮬레이션인지, 잡음과 반복 측정을 어떻게 처리했는지를 함께 봐야 한다.
샘플 복잡도 우위는 있다. 다만 ‘어떤 문제냐’가 핵심이다
양자 머신러닝이 늘 불리한 것만은 아니다. 정보이론 관점의 연구에서는 분명한 예외가 확인된다. 양자 실험에서 나온 데이터를 예측하는 일부 문제, 특히 모든 입력에 대해 작은 오차를 보장해야 하는 최악의 경우 기준에서는 완전한 양자 접근이 고전 접근보다 지수적으로 적은 샘플로 학습할 수 있다는 결과가 제시됐다. 예를 들어 많은 파울리 관측량의 기댓값을 예측하는 과제에서는 양자 모델이 선형 규모의 샘플로 가능한 반면, 고전 모델은 지수적으로 많은 샘플이 필요할 수 있다는 식이다.
하지만 이 역시 해석 범위를 분명히 해야 한다. 이런 분리는 주로 ‘양자 데이터를 양자적으로 접근할 수 있는가’라는 조건에서 성립한다. 다시 말해, 일상적인 기업 데이터나 웹 문서, 이미지 분류, 추천 시스템 같은 고전 데이터 학습에 그대로 옮겨 붙일 수 있는 결론이 아니다. 평균적인 예측오차 기준에서는 고전 모델이 양자 모델에 가까운 성능을 낼 수 있다는 결과도 함께 제시돼 있다. 결국 샘플 복잡도 우위는 존재하지만, 그것이 지금의 범용 AI 시장에서 곧바로 비용 우위나 정확도 우위로 바뀌는 것은 아니라는 얘기다.
그래서 지금의 답은 ‘범용 우위’가 아니라 ‘제한적 유망성’이다
독자의 질문으로 돌아가면, 양자 머신러닝이 기존 AI보다 더 정확하거나 더 저렴하다고 일반적으로 답할 근거는 현재 부족하다. 고전 데이터를 다루는 보편적 학습 문제에서는 데이터 업로드 비용, 반복 측정, 회로 잡음, 하이브리드 최적화 오버헤드 때문에 오히려 비싸고 느릴 가능성이 더 자주 지적된다. 정확도 역시 일부 실험적 사례가 아니라 넓은 문제군에서 재현된 우위로 정리되지는 않았다.
다만 이 분야를 과장만으로 치부하는 것도 사실과 거리가 있다. 양자 머신러닝의 실질적 가능성은 범용 AI 대체가 아니라, 양자계가 직접 만들어내는 데이터를 다루는 과학 문제나 특정한 최악 사례 학습 문제에서 먼저 시험될 가능성이 크다. 다시 말해 지금 확인된 결론은 ‘양자와 AI를 결합하면 무조건 더 좋다’가 아니라, ‘어떤 데이터와 어떤 비용항목을 포함해 비교하느냐에 따라 결론이 완전히 달라진다’에 가깝다. 현재까지의 검증 수준만 놓고 보면, 상용 컴퓨팅 전반에서 기존 AI보다 더 정확하거나 더 싸다고 단정할 단계는 아니다.
자료: NIST, Quantum Computing Explained; Maria Schuld·Nathan Killoran, Is Quantum Advantage the Right Goal for Quantum Machine Learning?(2022); Hsin-Yuan Huang·Richard Kueng·John Preskill, Information-theoretic bounds on quantum advantage in machine learning(2021); M. Cerezo 외, Challenges and opportunities in quantum machine learning(2022); The Input Problem: A Permanent Bottleneck for Quantum Machine Learning(2026); Hsin-Yuan Huang 외, Power of data in quantum machine learning(2021)