안녕하세요. 혹시 여러분은 쿠팡에서 개인정보가 유출되었다는 문자 받으셨나요? 개인정보 유출이 이젠 때마다 돌아오는 뉴스가 될 만큼 잦아진 게 씁쓸하긴 하지만 이번엔 유출 규모도 크고 쿠팡의 보안 시스템 자체에 구조적인 취약점이 있었다는 지적까지 나오면서 많은 사람들의 공분을 낳고 있습니다.

다시금 개인정보의 소중함을 느끼면서도, 한편으로는 다양한 기기를 통해 수집되는 오늘날의 내 개인 데이터가 AI 학습에 무분별하게 사용되는 건 아닌가 하는 우려도 듭니다. 홈캠이 해킹되어서 영상이 유출되는 사고도 발생하고 있고 CCTV를 통해 군중을 파악하고 분석하는 AI도 이미 있으니까요.

오늘 오그랲에서는 CCTV를 통해 군중을 감시하는 AI 이야기를 해보려고 합니다. 일각에서는 안보 차원에서 군중 감시 AI가 필요하다고 주장합니다. 하지만 한편으로는 사실상 감시 국가의 시작이라는 우려도 커지고 있죠. 군중 감시 AI가 어느 수준까지 와 있는지, 또 주요 국가들은 얼마나 사용하고 있는지 5가지 그래프를 통해 살펴보도록 하겠습니다.

'하늘 위 그물'과 '매의 눈'으로 감시하는 중국
안보를 위해 군중 감시가 필요하다는 입장의 대표주자는 단연 중국입니다. 중국은 다양한 시스템을 활용해 수많은 사람들을 감시하고 있습니다. 최근엔 AI까지 곁들여서요. 중국 중앙 정부가 발표한 AI+ 행동계획이라는 게 있습니다. 여기에는 사회, 교육, 의료, 엔터테인먼트 등 영역을 가리지 않고 모든 분야에 AI를 적용하고 활용할 계획이 담겨 있습니다. 안보 영역 역시 AI 기술의 적용 대상이죠.

군중을 감시하는 데에서 가장 핵심이 되는 AI 기술은 안면 인식 알고리즘입니다. 미국의 국가기술표준연구소 NIST에서는 안면 인식 알고리즘 테스트를 꾸준히 진행해 오고 있습니다. 이름하여 FRVT라고 하는데, 2010년대부터 중국은 이 대회에서 상위권을 차지해오고 있습니다. 지난 2018년 대회에서는 1위부터 5위까지 모든 알고리즘이 중국의 것이기도 했죠.

이러한 경쟁력은 최근 테스트에서도 꾸준히 이어지고 있습니다.

대회는 크게 2개로 나누어집니다. 먼저 두 얼굴 이미지가 동일인인지 판단하는 1:1 검증이 있고요. 다른 하나는 주어진 얼굴 이미지를 수백만 명 규모의 데이터에서 찾아내는 1:N 검증이 있습니다.

출입국 심사 사진을 가지고 대규모 여권, 비자 사진 데이터베이스에 검증 작업을 진행한 최근 테스트 순위를 살펴보면 중국은 각각 2, 3개의 알고리즘을 TOP 10 안에 두었습니다.

중국은 이 강력한 안면 인식 알고리즘이 잘 작동될 인프라도 많이 갖추고 있습니다. 세계에서 CCTV가 가장 많은 나라 역시 중국이거든요. 사실 전 세계 CCTV 설치 규모를 정확히 파악하는 건 어렵습니다. 그래도 보안 전문 기업들에서는 정부 보고서나 언론 보도자료, 경찰 자료 등을 통해 간접적으로나마 파악하고 있어요.

현재 추정컨대 전 세계적으로 약 10억 대의 CCTV가 설치된 것으로 파악하고 있습니다. 그중에 7억 대가 중국에 있고요. 인구 대비로 보면 인구 천 명당 494대의 카메라가 있는 셈입니다. 이게 어느 정도인지 다른 국가들과 비교해 보겠습니다.

인구 천 명 당 CCTV가 70대 이상 설치된 도시는 인도의 하이데라바드와 인도르 이렇게 두 곳입니다. 뒤이어 인도 벵갈루루와 파키스탄 라호르 순이고요. 대한민국 서울도 인구 천 명 당 24.3대의 CCTV가 설치되어 있어서 상당히 높은 수치를 기록하고 있습니다. 여기에 중국의 수치를 얹으면요? 다른 도시들과 비교할 수 없을 정도로 압도적으로 높습니다.

중국은 강력한 알고리즘과 압도적인 인프라를 바탕으로 거대한 감시 시스템을 구축했습니다. 하나는 하늘의 그물, 톈왕이 있고요 다른 하나는 '매서운 눈 프로젝트' 쉐량공정이 있습니다. 베이징, 선전, 청두 같은 대도시에선 톈왕이 돌아가고, 후난성이나 쓰촨성 같은 농촌 지역에는 쉐량공정이 돌아갑니다.

톈왕은 수억 대의 CCTV를 활용해 사람들의 얼굴, 차량 번호, 보행 패턴 등을 인식하고 분석합니다. 수 만 명이 모인 대형 콘서트장에서 바로 특정 인물을 찾아낼 정도로 뛰어난 정확도를 갖고 있다고 하죠.

쉐량공정은 농촌 곳곳에 있는 CCTV에 더해 개인 가정용 카메라까지 중앙 감시 플랫폼에 통합해 운영되고 있어요. 일부 지역에서는 주민들이 감시 플랫폼에 접근하도록 해서 '참여형 감시' 모델을 구축하기도 했고요. 단순히 불특정 다수를 향한 감시가 아니라 반체제 인사들의 타깃이 되기도 합니다. 또한 소수민족들이 모여있는 신장 위구르 자치구의 모스크라던가 티벳 사찰에서도 시스템이 돌아가고요.

백악관과 팔란티어의 수상한 협력... 미국은 군중 감시에 자유롭나
중국의 강력한 감시 시스템에는 민간 기업들의 기술과 인프라도 당연히 포함되어 있습니다. 미국은 이들 기업들이 인권 탄압에 관여했다는 이유로 블랙리스트에 올려 규제를 하고 있죠. 하지만 정작 미국의 상황도 이런 감시 기술 활용에서 자유롭지 못하다는 비판이 나오고 있습니다.

트럼프 대통령이 지난 3월 한 행정 명령에 서명을 했습니다. '정보 사일로를 제거해서 낭비와 사기, 남용을 막자'는 건데요. 제목 자체는 문제가 없어 보입니다. 부서 간의 칸막이를 없애고 분절되어 있던 정부 데이터를 서로 공유하도록 하는 거니까요. 하지만 당시 문제가 되었던 건 일론 머스크의 정부효율부 DOGE 때문이었습니다. 일론 머스크가 다양한 부처의 데이터를 들여다보고, 해고의 칼춤을 추는 것 아니냐는 우려가 있었거든요.

지금은 트럼프와 일론 머스크 사이가 소원해지기도 했고, DOGE도 해체되었습니다. 그러면 뭐 문제 될 게 없을 것 같은데 왜 이 행정명령 이야기를 했을까요? 트럼프가 이 행정명령에 사인을 한 이후 주요 부처들이 데이터 분석을 위한 기술적 토대를 마련하기 시작합니다. 그러면서 유독 많이 등장하는 기업 이름이 있습니다. 바로 팔란티어죠. 페이팔 마피아 편에서 다루었듯 일론 머스크가 DOGE를 만들고 팔란티어 출신 인사들을 많이 끌고 왔습니다. 그리고 트럼프 행정부에선 올해 신규 사업을 진행할 때 팔란티어와 유독 계약을 많이 하고 있습니다.

2025년 팔란티어가 연방 정부 업무를 받아 따낸 프로젝트 금액은 무려 9억 650만 달러입니다. 역대 가장 큰 규모이죠.

팔란티어의 핵심 제품인 파운드리가 국토안보부, 보건복지부 같은 주요 연방 기관에 도입되고 있습니다. 팔란티어의 또 다른 제품 고담은 이미 정보기관과 국방부에서 활용하고 있고요.

미국 정부 관계자들은 팔란티어의 제품 도입으로 여러 기관의 정보를 쉽게 통합할 수 있는 기반을 마련했다고 평가하고 있어요. 다만 이러한 데이터 통합 작업이 자칫 광범위한 인권 침해의 토대가 될 수 있다는 우려가 일각에서 나오고 있습니다. 특히 이민자를 감시하고 트럼프 행정부와 정치적 입장이 다른 세력을 견제하는 데 활용할 가능성이 있는 건 아니냐는 비판이 나오는 거죠.

이런 우려는 팔란티어 내부에서도 나오고 있습니다. 팔란티어 전직 직원 13명이 발표한 서한입니다. 이 서한에는 트럼프 대통령과의 거래를 중단할 것을 촉구하는 내용이 담겨 있습니다. 팔란티어를 비롯한 빅테크 기업들이 윤리적 원칙을 저버리고 트럼프 행정부에 가담하고 있는 현 상황을 비판하는 겁니다. 팔란티어 전략 파트에서 일했던 직원은 올해 특히 이민세관단속국 ICE와의 업무가 확대되는 상황을 더 이상 견디지 못하고 사표를 던지기도 했죠.

이 ICE는 트럼프 2기 행정부가 들어서면서 업무 규모라든지 행동반경이 크게 늘어났습니다. 단순히 이민자만 체포하고 감금하는 게 아니라 정치적 성향이 다른 민주당 소속의 정치인들도 막무가내로 체포하면서 정치 경찰화 된 것 아니냐는 지적도 받고 있습니다. ICE의 이런 막무가내 행동에 불을 지피는 건 다름 아닌 트럼프 대통령입니다. 최근엔 소말리아 이민자들을 향해 쓰레기라고 쏘아붙이는 등 노골적인 혐오 발언을 퍼붓고 있습니다.

이런 상황이 이어지면서 미국 내 이민자 추방 규모는 점점 늘어나고 있습니다.

트럼프 2기 행정부가 들어선 이후 ICE에 의해 체포되어 구금된 사람 규모는 점점 늘어나고 있습니다. 2025년 11월 기준으로 6만 5천 명 이상이 구금 중이죠. 단순히 구금으로만 그치는 게 아니라 추방으로도 이어지고 있죠. 셧다운 기간 동안 추방된 5만 6천여 명을 포함하면 현재까지 29만 명이 추방됐어요. 이러한 상승세에는 AI 기술이 큰 역할을 하고 있습니다.

사실 팔란티어는 일찍이 2014년부터 ICE와 계약을 체결했었습니다. 당시 불법 이민자의 범죄 기록을 추적하는 시스템을 구축했었죠. 올해엔 추방 대상자를 실시간으로 식별, 추적하고 허가된 체류 기간을 넘어선 외국인을 표적화하는 기능까지 제공하는 감시 시스템 계약을 맺었습니다.

물론 ICE가 팔란티어하고만 협력을 하는 건 아닙니다. 안면 인식 쪽에서는 올해 9월에 Clearview AI라는 회사와 계약했는데요. 이 회사가 꽤나 문제가 많습니다.

2017년에 설립된 Clearview AI는 SNS에 공개된 이미지를 이용자 동의 없이 크롤링해서 500억 개 이상의 얼굴 이미지 데이터베이스를 구축했습니다. 이 사실이 알려지면서 미국, 유럽 가릴 것 없이 많은 국가에서 소송이 걸리고 제재를 받았던 기업인데 ICE는 이들로부터 얼굴 데이터베이스 제공 받고 얼굴 인식 시스템을 이용할 계획인 거죠.

민감 정보를 무단으로 수집... 인권 침해하는 AI?
이런 일들이 중국과 미국같은 기술 강대국이나 권위주의 국가에서만 발생할 것 같지만 사실 멀리서 찾을 필요도 없습니다. 왜냐하면 우리나라에서도 군중 감시 AI 연구가 진행된 바 있으니까요. 지난 정부 시절 김용현 전 국방장관이 경호처장으로 재직할 당시 진행한 사업이 있습니다. 바로 'AI 기반 전영역 경비안전 기술개발 사업' 이었죠.

2024년부터 5년간 총예산 240억 원이 투입될 예정이었는데요. 사람들의 생체 신호를 토대로 긴장도를 측정해 위험인물을 인식하는 시스템을 개발하려고 했습니다. 위험인물을 AI를 통해 판단하겠다는 사업인데 따로 윤리 검토 없이 사업이 진행됐습니다. 지난 10월에 이 사실이 밝혀지자 지금 정부에서는 사업 중단을 위한 절차에 착수했고 현재는 연구가 중단된 상태입니다.

개인의 민감 정보인 생체 정보를 무단으로 수집하고 추적하고 분석하는 AI는 인권을 침해할 소지가 다분합니다. 게다가 여전히 알고리즘이 왜 이런 선택을 했는지 정확히 우리가 해석할 수 없는 상황이기 때문에 AI가 왜 특정인을 위험인물로 지목했는지 설명하지 못하는 '블랙박스' 문제도 심각합니다. 그 사이에 학습 데이터에 내재된 인종과 성별에 따른 차별이 AI의 편향을 고착시킬 수 있죠.

하지만 일부 국가에서는 이미 행해지고 있습니다. 단순히 불특정 군중을 상대로 하는 게 아니라 중국에서는 소수 민족을 대상으로, 또 미국에서는 이민자를 대상으로 표적 추적이 이뤄지고 있습니다.

당연히 많은 사람들이 이러한 흐름에 반발하고 있습니다. 대표적으로 유럽이 있습니다. AI 발전도 좋은데 조금은 신중히 접근하자는 입장인 EU에서는 AI 법을 통해 AI 기술의 인권 침해를 막고 있습니다.

EU의 AI 법에서는 위험 수준에 따라 총 4가지 레벨로 나누어 규제를 하고 있습니다. AI 시스템이 인간의 존엄성이나 평등, 민주주의 같은 기본 가치를 위배하는 경우를 가장 심각한 Level 1로 설정하고 있죠. Level 1에 해당되는 AI 시스템은 공공과 민간을 불문하고 사용을 원천적으로 금지하고 있습니다. Level 1에 해당하는 영역을 살펴보면 대부분이 오늘 살펴본 군중 감시 AI가 커버하는 영역입니다. 물론 테러 대응과 인신매매 피해자 수색 같은 예외적인 경우에 한해서는 허용하는 등 일부 예외 조항을 두긴 했습니다.

AI 기술은 분명 우리 사회에 도움이 될 겁니다. 테러를 미연에 방지하고, 실종된 아이를 빠르게 찾아내고, 범죄자를 추적하는 데 강력한 도구가 될 수 있죠. 하지만 기술이 권력과 결합하고 견제 장치가 사라진다면 조지 오웰이 <1984>에서 경고했던 빅브라더가 현실이 될 수 있습니다.

AI가 우리의 삶을 더 편리하게 해주는 더 나은 미래를 위해선 견고한 통제 체계가 갖춰져야 할 겁니다. 정부와 국제사회는 법적 규제를 통해, 기업들은 알고리즘의 투명성을 높이는 방법으로 말이죠. 오늘 준비한 오그랲 군중감시 편은 여기까지입니다. 긴 글 끝까지 읽어주셔서 진심으로 감사드립니다.

참고자료
- Face Recognition Technology Evaluation 1:1 Verification & 1:N Identification | NIST
- Surveillance camera statistics: which are the most surveilled cities? | comparitech
- "Stopping Waste, Fraud, and Abuse by Eliminating Information Silos" | The White House
- The Scouring of the Shire: a letter from concerned Palantir alumni to the tech workers of Silicon Valley
- USA Spending.gov (U.S. Department of the Treasury)
- Brianna Katherine Martin | LinkedIn.
- ICE Enforcement and Removal Operation Statistics | ICE
- By the numbers: the latest ICE and CBP data on arrests, detentions and deportations in the US | The Guardian
- Limited-Sources Justification for Palantir Technologies | ICE
- 2024년도 지능형 유무인 복합 경비안전 기술개발사업 신규과제 공모 | 과학기술정보통신부
- EU Artificial Intelligence Act
- Connecting the dots in trustworthy Artificial Intelligence: From AI principles, ethics, and key requirements to responsible AI systems and regulation | Díaz-Rodríguez et al. (2023)

글 : 안혜민 디자인 : 안준석 인턴 : 주하나

최신 콘텐츠

홈캠·CCTV·SNS…당신의 얼굴이 AI로 흘러간다면