중국의 모든 것을 감시하는 시스템은 AI를 통해 어떤 진화를 이룩할까?
원형으로 배치한 감방 중앙에 감시탑을 세우면 죄수는 간수도, 다른 죄수도 보이지 않지만, 감시탑의 간수만이 죄수 전원을 감시할 수 있는 시스템, 파놉티콘은 '전전망 감시시스템'이라고도 한다.
중국에서 정부가 모든 장소에서 모든 각도에서 시민을 감시하는 시스템이 구현되고 있으며, 언론인 로스 안데르센이 '디지털 파놉티콘'이라 할 수 있는 AI를 구사한 중국의 감시체제에 대해 설명한 내용을 요약해 보았다.
중국의 종합연구 및 자연과학 최고 연구기관인 중국과학원에는 중국 정상급의 연구자가 AI 연구를 하는 「자동화연구소」가 있다. 시진핑 국가주석은 자동화연구소에 큰 관심을 기울이고 있으며 2030년까지 중국이 AI 패권을 잡기 위한 구상을 내놓을 정도로 중국 내 AI 기술 발전을 중요시하고 있다.
중국이 AI 발전에 주력하는 이유 중 하나로 안데르센은 중국 정부가 오랜 기간 감시체계 도입·발전에 주력해 왔다는 점을 꼽고 있다. 중국 국내에는 수억대의 감시카메라가 설치되어 있어 카메라로 수집한 영상의 대부분은 보안상의 위협을 발견하기 위한 독자적인 알고리즘에 의해 해석된다.
가까운 미래에 공공장소에 발을 들여놓는 모든 사람은 SNS로부터의 정보와 몸의 특징 등 대량의 개인 데이터로 AI에 의해 순식간에 식별될 것이다.
머지않아 알고리즘은 행동기록, 친구나 지인의 관계 등에서 얻을 수 있는 정보원을 연결하여 개인의 정치적 저항을 사전에 예측할 수 있게 될 가능성이 있다. 중국 정부는 곧 10억 명 이상의 사람들에 대해 전례 없이 정치적으로 제압할 수 있을 것이다」라고 안데르센은 주장했다.
◆ 신장위구르 자치구에서의 실험적 감시체제
코로나19 발생에 따라 중국에서는 스마트폰 앱에서 확진자를 색상코드로 식별하고 이용자의 개인정보나 위치정보를 경찰에 보내는 앱이 배포되고 있었다고 뉴욕타임스가 보도하였다.
그러나 그 이전에 위구르족이 사는 중국 북서부 신장위구르 자치구에서는 앱에서 개인을 컬러 코드로 식별하는 시스템의 전신이 이미 운용되고 있었다. 위구르족을 실험대상으로 하는 것으로, 중국 전역에 AI의 감시를 확대하는 목적이 있다고 안데르센은 지적하고 있다.
위구르족은 2009년에 일어난 중국인에 의한 위구르족의 살상을 계기로 대규모 항의 행동을 일으켜 2009년 위구르 소란으로 발전했다. 시 주석은 신장위구르자치구에 대해 모스크를 파괴하는 등 위구르족을 탄압하고 100만명 이상의 위구르인을 강제수용소로 연행했다.
소란을 계기로 위구르족에 대한 감시가 강화되었다. 위구르족이 가진 스마트폰은 대부분 말웨어에 의해 감시되고 있다고 보고되고 있다. 인류학자 대런 바일러에 따르면 경찰에 의해 강제로 설치된 말웨어도 있고 말웨어에 의해 위구르족 스마트폰은 항상 채팅로그 스캔이나 화상파일 검열이 이루어지고 있다.
그리고 위구르족은 암호화되는 채팅 앱을 내려받지 못하고 온라인 상점에서 이슬람교에 관한 상품을 구입하거나 이슬람교 책의 디지털 복사본을 저장하는 것은 공안(경찰)로부터 모두 위험한 행위로 간주된다.
스마트폰에 악성코드를 심는 것뿐만 아니라 경찰은 신장위구르자치구에 검문소를 설치해 위구르족 스마트폰에서 최근 통화와 문자메시지를 꼼꼼히 살피고 있다.한편, 디지털 기기의 불소지도 의혹의 대상이 되고 있어 「소셜 미디어로부터 완전히 떠나는 것도 해결책은 아니다」라고 안데르센은 말했다.
경찰은 위구르족 사람들이 통상적인 행동 패턴에서 벗어난 행위를 하면 주의하라는 지시를 하고 있다. 수상한 움직임을 포착하기 위해 CCTV로 인해 이전보다 이웃과 대화하는 시간이 줄었는지, 전기 사용량에 이상이 없는지 생활의 세세한 점까지도 위구르족은 경찰에 감시되고 있는 것이다.
신장 위구르 자치구에도 수많은 CCTV가 있어 위구르족은 지역간 이동에만 수십 대의 감시카메라를 갖춘 검문소를 지나야 한다. CCTV 영상에서 경찰이 사전에 촬영한 위구르족 사진과 대조하는 알고리즘에 의해 검열이 이뤄지고 있다.
경찰은 사진과 더불어 사람들의 키를 재고 혈액 샘플을 채취하고 목소리도 기록하고 있는 것으로 알려졌으며, 경찰은 위구르인에서 유전자 데이터를 채취해 정밀 조사를 벌이고 있으며 "더 많은 데이터를 입수하는 것을 빌미로 코로나19를 이용할 가능성이 크다"고 안데르센은 추측했다.
또한 위구르족 여성에 대해서는 엄격한 임신 검사가 이루어지고 있으며, 그 중에는 낙태를 피할 수 없게 되는 사람도 있다. 허가받지 않은 출산을 한 어머니는 경찰에 의해 구속되고, 자녀와 떨어지기 때문에 신장위구르자치구에서는 3년 사이에 출산율이 60% 이상 감소한 지역도 있다고 안데르센은 말했다.
시 주석은 신장위구르 자치구를 감시시스템 실험실로 이용해 모든 것을 감시하는 디지털 파놉티콘 조정을 한 뒤 중국 전역으로 범위를 넓힐 것 같다. 신장 위구르 자치구의 감시 시스템의 대부분을 구축한 국유 기업인 CETC는 이미 저장성과 광둥성의 일부에서 감시시스템의 시험 프로젝트를 실시하고 있다.
이 회사에 따르면 프로젝트는 「전국 전개를 위한 견고한 기반」으로, 중국의 거대한 디지털 패놉티콘의 일부에 지나지 않는다」라고 안데르센은 말했다.
◆중국 감시사회의 미래
중국의 방대한 인구와, 국내에 10억대 이상 있는 스마트폰 등의 디바이스 모두에 고성능 센서가 탑재되어 있기 때문에, 안데르센은 「중국은 디지털 패놉티콘의 실험에 이상적인 환경이다」라고도 말했다.
중국에서는 검색엔진 쿼리·방문 웹사이트·모바일 결제 등이 타임스탬프와 위치정보를 연결해 센서에 의해 기록되고 있다.
또한 전화회사는 스마트폰 계약 시 구매자의 얼굴을 카메라로 스캔하고 있기 때문에 스마트폰 데이터를 특정인의 얼굴에 연결하는 것도 가능하게 되어 있다.
미국 경찰 또한 아마존의 홈 보안 카메라 '링' 영상 등을 이용해 감시 시스템 확대를 추진하고 있다. 하지만 중국 정부는 CCTV에서 영상을 수집할 뿐 아니라 드론과 자율주행차 등에서 얻을 수 있는 영상과 정보를 수집해 도시를 관리하는 AI 'City Brin'으로 대량의 데이터를 접목해 보완함으로써 거리 전체의 영상을 초단위로 갱신하는 기술을 구현하고 있다.
앞으로 수십 년 안에 City Brain이나 그 후계 시스템은 암묵적인 사고조차 읽을 수 있게 될 수도 있다. 실제로 드론은 이미 뇌파를 감지해 제어할 수 있게 돼 있다.
미래, 충분한 힘을 가지는 권위주의 국가는, 시민의 신경 활동의 모든 정보를 정부의 데이터베이스에 송신하도록 소프트웨어 메이커에 명할 가능성도 있다」고 안데르센는 말했다.
또한 중국의 감시시스템은 아직 개발도상국이며 개인 데이터의 형식이 시스템을 제공하는 기업에 의해 통합되지 않은 등의 문제도 있다. 그러나, 「모든 데이터의 통합은 어려운 문제는 아니다」라고도 안데르센는 말했다.
◆중국 정부와 감시사회를 원치 않는 사람들
중국의 정치구조는 AI 기술의 최악의 사용방법을 제한하는 것이 아니라 장려하고 있다. 인권이 헌법으로 보장된 민주주의 국가인 미국은 감시국가의 탄생을 막기 위해 고투하고 있으며, 적어도 미국에는 사람들이 감시사회에 저항할 수 있는 정치구조가 있다.
하지만 중국에서는, 모든 것이 정부의 요구대로 되는 정치구조가 완성되고 있다」라고 안데르센은 말한다.
안데르센은 철저한 감시사회를 요구하는 정부를 막기 어렵고 시민들이 불복종을 표시하는 행동이 수백만 번 필요할 것이다. 불복종을 표현하는 것이 시민들에게 어떤 어려움을 가져올지, 시민이 그 어려움을 견딜 수 있을지 예측할 수 없다.
중국 사람들은 아직 감시에 대해 과격해지지 않은 것 같다. 코로나19 팬데믹으로 감시를 중시하는 사람이 늘어나 사생활이 경시될 수도 있다며 감시사회의 발전을 우려했다.
그러나 중국의 일부 사람들은 감시사회에 대해 분노를 표출하고 있으며, 젊은 운동(활동) 중에는 중국의 민주주의에 반발하는 것도 여럿 있다고 안데르센은 밝혔다.
홍콩 사람들은 틀림없이 감시사회에 위험을 느끼고 있지만 홍콩 국가안전유지법에 의해 지배되고 있으며, 홍콩은 수적으로 불리한 입장이라고 안데르센은 지적했다.
연구자 또한 감시시스템 발전에 동참하는 것이 아니라 일부 연구자는 난색을 표하고 있다. 최근 컴퓨터 과학자 이첸, 철학자 조팅양 등은 중국에서 AI 악용에 대해 경고를 보냈다. 이첸 등은 AI가 자율성, 존엄, 사생활, 기타 많은 인간의 가치관을 저해할 가능성에 대해 담은 매니페스토 '베이징 AI 원칙'을 2019년 발표한 바 있다.
안데르센이 이첸에게 "베이징 AI 원칙은 사람들에게 어떻게 받아들여졌느냐"고 물었더니 "'베이징 AI 원칙은 정부의 공식 발표여야 한다'는 말을 들을 정도였다.
베이징 AI 원칙은 저의 라이프워크라고 말했다. 또 중국과학원 교수이기도 한 이 첸은 저는 학생들에게 AI 철학을 가르치고 있다. 저는 학생들에게 아무도 살인 로봇에 관여하지 않기를 바란다고도 전한다. 인생은 짧고, 학생의 장래에는 살인 로봇을 만드는 것보다 더 많은 것을 할 수 있을 것이다"라고도 말했다.
China's Artificial Intelligence Surveillance State Goes Global - The Atlantic
https://www.theatlantic.com/magazine/archive/2020/09/china-ai-surveillance/614197/