‘인공지능 식별추적 시스템 구축’ 중단 및 법무부 장관 면담 요청 시민사회 기자회견 개최

개인정보보호법과 국제인권규범 위반, 즉각 사업 중단해야  

2021. 11. 9.(화) 오전 10시 30분, 참여연대 지하 느티나무홀

공익법센터 어필, 민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 외국인이주노동운동협의회, 진보네트워크센터, 참여연대는 오늘(11/9) 오전 10시30분, 참여연대 지하 느티나무홀에서 기자회견을 개최하고 정부 주도로 진행 중인 생체인식 감시시스템 구축 사업의 즉각 중단과 사후 대책 마련 등을 위해 법무부 장관의 면담을 요청하는 기자회견을 개최했습니다.

지난 10월 21일 국회 법제사법위원회 국정감사에서 법무부와 과기부가 출입국 심사와 공항 보안 목적으로 얼굴인식 및 행동인식 기술을 활용한 실시간 원격 감시시스템을 개발하고, 이 과정에서 1억건이 넘는 외국인의 얼굴 사진과 내국인의 출입국 심사 정보를 동의 없이 국가와 민간기업의 인공지능 학습용 데이터로 제공한 것이 드러났습니다. 얼굴과 같은 생체정보는 특히 쉽게 바꿀 수 없는 거의 유일무이한 정보이며 프라이버시 침해가 치명적입니다. 많은 전문가들은 얼굴인식 기술을 매우 위험한 기술로 보아, 얼굴인식 기술 자체는 물론이고 개발과 사용 기업까지 법률로 통제해야 한다고 강조하고 있습니다. 그런데 이번 사안은 얼굴인식 기술의 안전성을 연구, 관리, 통제해야 할 국가기관이 공적 목적으로 수집한 생체정보를 민간기업의 얼굴인식 활용 기술개발에 제공한 전대미문의 사건입니다. 

시민사회는 이번 사안이 알려진 직후, 생체인식 감시시스템 구축 사업을 즉각 중단할 것을 요구했지만 정부는 여전히 사업을 유지하겠다는 입장입니다. 박범계 법무장관은 ‘출입국 관리라는 본래 목적과 최소한의 범위 내에서 활용하겠다’고 답변했으며, 법무부와 과기부는 “법률에 명시적 규정이 있고, 개인정보를 민간기업에 이전한 게 아닌 처리를 위탁한 것이므로 개인정보보호법상 문제가 없다”는 입장을 밝혔습니다. 개인정보보호 관련 주무기관인 개인정보보호위원회는 유례없는 개인정보 침해 사업의 추진을 인지조차 하지 못하다가 뒤늦게 조사에 착수한 상황입니다. 

공익법센터 인공지능 식별추적시스템에 외국인 개인정보를 수집이용한 전 과정은 개인정보의 목적 외 처리를 금지하고 있는 개인정보보호법 위반입니다. 또한 이는 생체정보를 활용한 실시간 원격 감시 시스템에 대한 규제방안을 마련하고 있는 미국, 유럽 등과 달리, 국가가 적극 나서 민간기업에 대규모의 공적 데이터를 넘겨준 것으로 국민보호라는 국가의 존재 이유조차 저버리는 것입니다. 지난 9월 유엔인권최고대표는 <디지털시대의 프라이버시권 보고서>를 발표하면서 얼굴인식 등 생체정보를 활용한 실시간 원격 감시 시스템은 기본권 침해의 정도가 매우 크기 때문에 고위험 인공지능에 대한 사용유예를 각국에 촉구한바 있습니다. 

시민사회는 기술의 불완전성과 남용에 따른 위험, 사생활침해와 차별적 결과를 야기할 수 있는 생체인식기술을 기반으로 한 시스템 활용을 즉각 중단하고, 국가 및 공공기관, 지자체 등에서 추진하고 있는 얼굴인식 등 생체정보를 활용한 인공지능 시스템 구축 전반을 중단할 것을 요구합니다. 또한 더 늦기 전에 사회적 논의를 시작하여 인권과 헌법에 부합하는 인공지능 규제 방안을 마련할 것을 요구합니다. 끝. 

▣ 기자회견 개요 

    • 제목 : ‘인공지능 식별추적 시스템 구축’ 중단 및 법무부 장관 면담 요청 시민사회 기자회견
    • 일시 장소 : 2021.11.9.(화) 오전 10시 30분 / 참여연대 지하 느티나무홀
    • 공동 주최 : 공익법센터 어필, 민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 외국인이주노동운동협의회, 진보네트워크센터, 참여연대
    • 순서

- 사회 : 장여경(정보인권연구소 상임이사)
- 발언
서채완 (민주사회를위한변호사모임 디지털정보위원회 변호사)
김민 (진보네트워크센터 활동가)
고기복 (모두를 위한 이주인권문화센터 대표)
- 우리의 요구 낭독 : 이지은 (참여연대 활동가), 이 일 (공익법센터 어필 변호사) 
- 질의 응답


▣ 붙임. 우리의 요구

‘인공지능 식별추적 시스템 구축’은 당장 중단되어야 합니다

지난 2019년부터 법무부와 과학기술정보통신부가 출입국 심사의 고도화와 공항보안을 목적으로 얼굴인식 및 행동인식 기술을 활용한 실시간 원격 감시시스템을 개발하고, 이 과정에서 1억건이 넘는 내외국인의 얼굴 사진과 성별 나이 등의 정보를 아무런 동의 없이 민간기업의 인공지능 개발을 위한 학습용 데이터로 사용하도록 한 것이 드러났습니다. 충격이 아닐 수 없습니다. 이는 국민의 기본권을 보호해야 할 국가기관이 공적 목적으로 수집한 생체정보를 민간기업에 제공한 것으로, 우리사회의 공적 신뢰를 심각하게 훼손하는 일입니다. 

법무부와 과기부가 추진하고 있는 인공지능 식별추적 시스템 구축은 출입국심사의 편의와 공항보안 목적 이외에도 국내 인공지능 산업 육성이 중요한 목적으로 제시되고 있습니다. 전세계적으로 위험한 기술로 인식, 중단하거나 유예하고 있는 얼굴인식 인공지능 활용 시스템을 국가기관이 나서서 설계하고 도모한 것은 위법 여부를 떠나 국민이 위임한 공권력을 잘못 사용한 것입니다. 무엇보다 대량 감시의 위험이 있는 실시간 추적감시 시스템 구축은 민주주의 국가에서 용납해서도 용납되어서도 안 됩니다. 

미국, 유럽 연합 등 주요 국가들은 생체정보를 활용한 실시간 원격 감시 시스템에 대한 규제방안을 마련하고 있습니다. 또한 관련 전문가들은 “얼굴인식 기술을 사용한다면 유례없는 규모의 집단감시가 발생할 수 있다”며 “얼굴인식 기술 자체는 물론이고 개발·사용 기업까지 법률로 통제해야 한다”고 주장하고 있습니다. 미국의 경우 구글, 아마존, IBM, 마이크로소프트를 포함한 일부 기업들조차 엄격한 규제가 도입될 때까지 얼굴 인식 시스템 사용을 금지해야 한다고 주장하고 있는 실정입니다. 유럽의회 또한 인공지능 개인 식별 시스템이 소수 민족·여성·노인 등 사회적 약자들을 오인하는 비율이 높게 나타나는 등 차별적 결과에 대한 우려에서 생체정보를 이용한 원격 식별 등을 반대하는 등의 내용을 담은 결의안을 채택하였습니다. 뿐만 아니라 유럽연합이 지난 4월 발의하여 논의 중인 인공지능법안에 따르면 공개적으로 접근 가능한 공간에서의 법 집행 목적의 실시간 원격 생체인식 시스템을 ‘허용해서는 안될 위험’이나 ‘고위험’ 인공지능으로 규정하고 원칙적 금지를 요구하고 있습니다. 지난 9월 유엔인권최고대표는 <디지털시대의 프라이버시권 보고서>를 발표하면서 얼굴인식 등 생체정보를 활용한 실시간 원격 감시 시스템은 기본권 침해의 정도가 매우 크기 때문에 얼굴인식 기술 등 고위험 인공지능에 대한 사용유예를 각국에 촉구하였습니다. 

새로운 기술 도입이 가져올 위험에 대한 충분한 예측과 위험관리 시스템 구축은 물론이고 무엇보다 인권과 프라이버시에 미칠 영향에 대한 사회적 논의와 합의가 먼저여야 한다는 것은, 미국과 유럽 등에서 얼굴인식 인공지능과 관련하여 벌어진 사회적 논란과 얼굴인식 기술 사용에 대한 규제 도입 진행 과정을 보면 자명해 보입니다. 그러나 법무부와 과기부는 오히려 이들 국가에서의 논란과 이를 해결하기 위한 논의 과정에서 오는 시장 공백을 일종의 ‘기회’로 보아 내국인뿐 아니라 외국인들의 생체정보를 무단으로 기업의 얼굴인식 인공지능식별추적 시스템 개발용 학습용데이터로 제공한 것입니다. 

법무부가 해당 사업에 대한 법적 근거로 제시한 출입국관리법 제12조의2는 외국인이 ‘입국시’ ‘본인임을 확인하는 절차’에 ‘얼굴에 관한 정보를 제공’하는 것일 뿐 민간기업의 인공지능 식별시스템 개발용으로 처리할 수 있다는 것은 아닙니다. 따라서 인공지능 식별추적시스템에 외국인 개인정보를 수집·이용한 전 과정은 개인정보의 목적 외 처리를 금지하고 있는 개인정보보호법 위반이며, 민감정보인 생체인식정보의 처리에서 요구되는 법적 요건도 전혀 준수하지 않은 것입니다. 정부부처가 나서서 민감정보들을 위법하게 민간에 넘긴 것은 국제적으로도 유례 없는 정보인권 침해로, 법무부와 과기부는 즉각 관련 사업을 중단하고 국민들에게 사과부터 하는 것이 순서일 것입니다.

이번 사건은 개인정보 활용에 대한 법적 근거나 정보주체의 동의 여부를 넘어, 국가가 공개된 장소에서 상시적으로 생체정보를 수집하고 즉시 데이터베이스와 대조하여 신원을 확인하고 돌발행동을 통제하도록 허용할 것인지 등 실시간 감시 방식의 위험성과 인권 침해 가능성을 면밀히 검토하지 않고 섣불리 편익만 내세워 자초한 인권 참사입니다. 기술의 불완전성과 남용에 따른 위험, 사생활침해와 차별적 결과를 야기할 위험이 큰 생체인식기술을 기반으로 한 시스템 활용은 즉각 중단해야 할 것입니다. 차제에 국가 및 공공기관, 지자체 등에서 추진하고 있는 얼굴인식 등 생체정보 활용 인공지능 시스템 구축 전반을 중단하고 더 늦기 전에 사회적 논의를 시작하여 인권과 헌법에 부합하는 인공지능 규제 방안을 마련할 것을 요구합니다.  

  • 우리의 얼굴이 차별적 감시도구로 쓰여서는 안된다. 국가 및 공공기관이 추진하는 생체정보 활용 인공지능 시스템을 전면 재검토하라
  • 우리의 얼굴은 기업의 재산이 아니다. 불법적으로 사용된 모든 생체인식정보와 이를 통해 만들어진 모든 모델과 알고리즘, 시스템을 폐기하라
  • 정부는 인공지능이 인권과 안전, 민주주의에 미치는 영향을 평가하고 적정한 규제를 마련하라. 특히 공공장소에서 원격으로 사람을 식별하고 추적하는 얼굴인식 개발 중단하라

2021.11.9.

공익법센터 어필, 민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 외국인이주노동운동협의회, 진보네트워크센터, 참여연대

 

[내려받기] 20211109_보도자료_인공지능 식별추적 시스템 구축 중단 요구 기자회견