정보인권연구소 작성

디지털 노동감시 규제와 기본권 보호를 위한 근로기준법 개정

[내려받기] 20211129디지털노동감시입법공청회_자료집

사업장 내에서 CCTV, 인터넷 모니터링, 위치추적 앱, 생체인식 시스템 등 다양한 전자감시 시스템의 도입이 증가하고 있습니다. 특히 코로나19 확산으로 재택근무가 확대되면서 소위 ‘보스웨어’를 통해 노동자의 근태를 모니터링하는 회사들이 증가하고 있습니다. 2021년 올해 시행된 사업장 전자감시 실태조사에 따르면, 사업장 내 감시설비 도입 과정에서 노동자에 대한 고지나 노동조합과의 사전 협의가 전반적으로 부족한 것으로 나타났습니다. 사용자는 시설 보호, 근로자의 안전, 영업비밀 보호, 업무 효율성 향상 등 경영상의 목적으로 이러한 시스템을 도입하지만, 적절한 절차와 안전조치가 취해지지 않는다면 노동자의 개인정보를 과도하게 수집하거나 부당하게 감시하는 결과를 초래할 수 있습니다.

그러나 현행 개인정보보호법은 노사간의 불평등한 권력관계의 특수성을 고려하고 있지 않으며, 근로기준법은 사업장 전자감시에 대해 특별히 규율하고 있지 않습니다. 또한, 개인정보보호위원회는 이용자의 개인정보에 비해서 노동자의 개인정보에 대한 감독이 미흡하고, 고용노동부는 직장 내 괴롭힘이나 부당노동행위와 관련되지 않는 한 명확한 감독 권한을 가지고 있지 않습니다. <개인정보보호 가이드라인(인사, 노무편)>의 경우 사업장 내 감시설비 도입과 관련한 절차, 범위, 안전조치 등에 대한 내용을 포함하고 있지 않은데, 이와 관련하여 2017년에 국가인권위원회가 개정을 권고했고 고용노동부가 수용했음에도 불구하고 아직 이행되지 않고 있습니다.

개인정보보호법, 근로자참여법 등 현행 법률의 집행과 감독도 중요하지만, 사업장 내 감시설비 도입을 근로조건의 하나로 명시적으로 규정하고, 감시설비 도입시 노동조합과의 사전 협의를 의무화하며 고용노동부의 감독 권한을 명확히 하는 등 법적 미비점을 개선할 필요가 있습니다. 이러한 취지의 근로기준법 개정안을 발의하면서 여러 이해관계자의 의견을 수렴하여 입법 과정에 참고하고자 합니다.

  • 일시 : 2021년 11월 29일(월) 오후 2시 – 4시
  • 장소 : 국회의원회관 제9간담회실
  • 주최 : 국회의원 강은미(정의당), (재)공공상생연대기금, 노동권연구소, 민주사회를위한변호사모임, 전국민주노동조합총연맹, (사)정보인권연구소, 직장갑질119, 진보네트워크센터, 한국노동조합총연맹
  • 인삿말 :
    • 강은미 의원
    • 양동규 (민주노총 부위원장)
    • 박기영 (한국노총 사무1처장)
  • 사회 : 문은영 (변호사, 서울지방변호사회 노동인권소위원회 위원장)
  • 발제 : 노동감시 규율을 위한 근로기준법 개정안의 취지와 내용  / 김하나 (변호사, 해우 법률사무소)
  • 토론 :
    • 김태욱 (민주노총 법률원 변호사)
    • 김기우 (한국노총 중앙연구원 선임연구위원)
    • 장여경 (정보인권연구소 상임이사)
    • 이준희 (한국경영자총협회 노사협력팀 팀장)
    • 정종일 (개인정보보호위원회 영상정보팀장)
    • 오영민(고용노동부 근로기준정책과 과장)

* 유튜브 채널 강은미 TV에서 온라인으로 생중계될 예정입니다.

 

코로나19와 K-식별, 그리고 인권

[이슈리포트 내려받기] 코로나19와 K-식별, 그리고 인권

[ENGLISH/PDF] K-Identification and Human Rights amidst COVID-19

사단법인 정보인권연구소는 이슈리포트 <코로나19와 K-식별, 그리고 인권>을 발간하였습니다.

코로나19 감염병 위기가 1년 이상 계속되고 있습니다. 코로나19는 사회 전체적인 건강권의 위기임에 분명하지만, 인권활동가들은 인권이 취약한 사람들에게 더욱 큰 인권 침해가 발생해 온 현실에 주목해 왔습니다.
한국의 K-방역 정책은 ‘디지털 식별’에 기반한 정교한 추적이 특징입니다. 때로는 집단별로 구별되는 방역 정책도 시행되어 왔습니다. 그런데 정교한 식별과 추적, 그리고 집단의 구별은 성소수자, 이주민, 홈리스 등 사회적 차별에 취약한 계층의 인권을 위협할 우려가 있습니다. 또 생존의 위기 앞에서 저항하는 노동자, 민중의 집회시위의 권리가 계속하여 억압받고 있습니다. 집회의 참가자가 처벌받고 주최자가 구속되었으며, 감염병 예방법 자체가 확진자와 접촉자를 대체로 범죄자로 취급하고 있는 실정입니다.

이 이슈리포트는 성소수자, 이주민, 보건의료, 홈리스, 집회시위, 법률 분야에서 코로나19와 인권 문제를 고민해 온 한국의 활동가들이 추적 기반 방역 환경에서 경험한 현실에 대한 보고입니다.

보고서는 인권재단 사람의 후원으로 제작되었으며, 국문과 함께 영문 보고서로도 발간되었습니다.
지구적 팬데믹 위기 속에도 인권을 보장하는 방역 정책과 사회적 연대를 위하여 국내외 인권활동가들과 문제 의식을 나누고 사회적 대화를 시작하고자 합니다.

△이슈리포트 <정보인권>은 사단법인 정보인권연구소 후원회원을 위한 비정기간행물입니다.
일시후원/후원회원 신청 http://idr.jinbo.net/member

K-Identification and Human Rights amidst COVID-19

[ENGLISH / PDF] K-Identification and Human Rights amidst COVID-19

The crisis of COVID-19 has continued for more than a year. Although it is clear that COVID-19 is a crisis to the right of health in society as a whole, human rights activists have paid attention to the reality where more human rights violations occurred to those vulnerable to the abuse of human rights.
Korea’s so-called “K-Disease Control” policy is characterized by its sophisticated tracing based on digital identification. Sometimes, group-specific disease control policies have been implemented. However, these advanced identification, tracing, and group differentiation may threaten the human rights of those vulnerable to social discrimination, such as sexual minorities, migrants, and the homeless. Moreover, the workers and people’s rights to protest continue to be suppressed in the face of this crisis of survival. Rally participants are punished and organizers are arrested. The Infectious Disease Control and Prevention Act generally treats confirmed patients and their contacts as criminals.

This issue report contains the contents of the reality experienced by Korean activists who have been contemplating COVID-19 and human rights issues in the fields of sexual minorities, migrants, health care, homeless people, demonstrations, and the law in a trace-based disease control environment.

This report is sponsored by Human Rights Foundation SARAM. We would like to share awareness of issues with human rights activists at home and abroad and initiate social dialogues for disease control policies and social solidarity that guarantees human rights even in the midst of a global pandemic.

For more information, please contact :
idr.sec@gmail.com

 

Contents

Introduction
Exposure and Discrimination of Sexual Minorities
Discrimination and Exclusion of Foreigners and Migrants
Tracing and Group Management Issues in Disease Control Policies
Discrimination and Exclusion of the Homeless
Restrictions on Freedom of Assembly and Demonstration, and Tracing Participants
Digital Tracing that Promotes Overcriminalization

 

 

Epidemic Intelligence Support System and Automated Processing of Personal Data in South Korea

[ENGLISH / PDF] Epidemic Intelligence Support System and Automated Processing of Personal Data in South Korea

In South Korea, the Epidemic Intelligence Support System (EISS) has officially been in operation since March 26, 2020 to automate the epidemiological investigation procedure of the Coronavirus disease 2019 (COVID-19) after the pandemic. The EISS aims to automatically analyze the movement routes of confirmed patients by collecting and processing personal data from various public and private institutions. However, there is no provision of law planned to limit the analysis and prediction of sensitive personal data that becomes increasingly precise, the purpose and processing of the system, or ensure the rights of the data subjects.
The structure of the Personal Information Protection Act (PIPA) in Korea has not regulated “automated personal data processing” differently from general personal data processing, such as written documents. The problem is that with the development of digital communication technology, a plethora of more various types of personal data are being processed at a faster speed. As AI technology is applied to personal data processing methods in recent years, we are moving towards automated evaluation, analysis, prediction as well as decision-making. Compared to the methods in which personal data was processed manually or through paper documents, this change in personal data processing methods has a significant impact on the fundamental rights of data subjects, such as the right to the protection of personal data. Nevertheless, there is not enough discussion on the legal regulations.
The civil society in Korea has called the problematic human rights in such automated personal data processing “digital rights” and has demanded that they be guaranteed as fundamental rights protected by the Constitution. Chapter 2 outlines the progress of how Korean society developed by raising questions whenever the impact of the personal data processing methods on fundamental rights increased. Chapter 3 examines international norms related to automated personal data processing, such as profiling, and solely automated decision-making. Chapter 4 looks into problems with the EISS as a profiling system for sensitive data. Chapter 5 presents a legal regulation idea for the EISS to protect the rights of data subjects, and we concludes with Chapter 6.

This report is written by Chang Yeo-kyung from Institute for Digital Rights in South Korea, and sponsored by Human Rights Foundation SARAM. We would like to share awareness of issues with human rights activists at home and abroad and initiate social dialogues for disease control policies and social solidarity that guarantees human rights even in the midst of a global pandemic.

For more information, please contact :
idr.sec@gmail.com

Contents

1. Introduction
2. Growing awareness of problems with automated personal data processing and fundamental rights
3. European norms for automated personal data processing and profiling
--A. Concept of profiling
--B. Principles of general profiling process
--C. Profiling of solely automated decision-making
--D. Comparison with the norms of Korean PIPA
4. Automated personal data processing and profiling of EISS
--A. Overview of EISS
--B. Personal data processing of EISS
5. Direction of EISS regulations
6. Conclusion

 

국가기관, 지자체 등이 구축하는 생체정보 활용 인공지능 시스템 전면 중단해야

- 과기부 주도 인공지능 산업의 위험성 드러나
생체정보 등 공공데이터의 민간기업 AI 학습용데이터 제공은 불법
- 개보위, 전국 지자체 추진 중인 생체정보 활용 사업 전수조사해야

언론보도에 따르면, 과학기술정보통신부(이하, ‘과기부’) 산하 정보통신산업진흥원이 대구 수성구의 ‘인공지능(AI) 융합 국민안전 확보 및 신속대응 지원 사업’에 선정한 5개 민간업체 중 한 업체가 인공지능 학습용으로 제공받은 시민들의 ‘얼굴 영상’ 10만여 건을 통제구역(실증랩) 밖으로 무단 반출한 것이 발각되었다. 법무부와 과기부의 얼굴인식 인공지능 추적식별 시스템 구축 사업에 내⋅외국인 얼굴정보 1억 7천여건이 무단 제공되어 충격을 준 것에 이어, 지자체가 CCTV를 통해 확보한 국민들의 영상정보를 인공지능 학습데이터로 민간기업에 무단으로 제공하였을 뿐 아니라 통제된 장소에서만 정보를 다루기 때문에 안전하다고 발표했던 과기부의 해명이 그야말로 거짓임이 드러난 것이다. 특히 이번에 적발된 업체 씨이랩은 2014년부터 국방부, 중소벤처기업부, 과기부 등 정부 부처나 공공기관의 기술 용역 과제 13건을 수주해온 것으로 알려져 이와 유사한 개인정보 유출 사례가 추가로 있을 수 있다는 의심이 든다. 과기부는 즉각 해당 사업을 중단하고, 적발된 업체를 사법처리할 뿐 아니라 이후 인공지능 관련 사업에서 퇴출시켜야 할 것이다. 

두 달이 지나도록 과기부는 민간업체가 관련 영상정보를 무단 반출한 사실조차 몰랐다고 하니 관리감독조차 제대로 이루어지지 않았다는 것은 명백하다. 데이터뉴딜, 인공지능 산업의 주무부처로 자처하고 있는 과기부가 과연 자신들이 주도하여 개발하고 있는 얼굴 등 생체정보를 활용한 인공지능시스템의 실태를 제대로 파악하고 있는지조차 의문이다. 국민의 생체정보 등을 보호할 의무가 있는 국가와 지자체가 앞다투어 인공지능 시스템 구축 사업 명분으로 정보주체 모르게 생체정보를 민간기업에 제공하고, 개인정보보호법상 정보처리자의 의무를 면제하도록 ‘위탁’형식이라는 꼼수까지 부린 것은 국가가 나서서 불법을 조장한 행태로 비난받아 마땅하며 그러한 사업은 전면 중단해야 한다. 

지난 10월 국회 국정감사에서 드러난 법무부의 얼굴인식 인공지능 식별 추적시스템 뿐 아니라, 이번 대구 수성구의 인공지능 시스템 등 전국의 많은 지방자치단체들이 치안이나 방역 등을 이유로 얼굴인식 인공지능 시스템을 운영 중이거나 개발 중인 것으로 알려지고 있다. 부천시가 도입 개발하고 있는 지능형 역학시스템은 시내 방범용 CCTV를 활용해 코로나19 등 감염병 확진자의 이동경로·마스크 착용 여부·밀접 접촉자 등을 추적한다는 명분이고, 경기 안산시가 2022년 시범도입을 준비 중인 아동학대 실시간 탐지 시스템도 어린이집 CCTV를 활용해 아동학대를 실시간 탐지한다는 목적이다. 이미 범죄예방용으로 인공지능 감시시스템을 시범 운영하는 곳도 있다. 제주 경찰은 안면인식·침입감지 기능을 갖춘 CCTV를 신변보호 대상자 집 주변에 설치해 특정 인물이 주변을 배회하면 대상자와 112 상황실에 실시간으로 얼굴 사진을 전송한다. 경찰청은 2022년부터는 이 시스템을 전국으로 확대할 계획이라고 한다. 

이처럼 국가기관, 지자체 등이 공적 목적으로 보유하고 있는 다양한 개인정보와 얼굴, 지문과 같은 생체정보, 질병, 건강정보와 같은 민감정보를 사회적 합의나 논의 없이 민간기업의 인공지능 기술 개발에 무단 제공하면서 개인정보보호법 위반 여부나 인권, 프라이버시 등 기본권에 미칠 영향을 고려하지 않았다면 큰 문제이다. 막대한 예산이 집행되고 사람의 민감한 얼굴정보를 사용하는 정부 주도 사업에서 현행 개인정보보호법의 준수 여부를 철저하게 검토하거나 주무 부처인 개인정보보호위원회와의 협의는 기본임에도, 최근 언론보도로 알려진 사례들은 개인정보보호위원회의 검토조차 거치지 않은 것으로 보인다. 개인정보 보호의 검토 없이 우후죽순 늘어나는 국가 주도의 생체정보 활용 인공지능 시스템 개발 사업에 관하여 개인정보 감독기구로서 개인정보보호위원회의 제 역할이 절실하다. 최근 드러난 사례 이외에도 전국적으로 추진 중인 유사 사업이 더 많을 것이라는 점에서, 개인정보보호위원회가 공공기관과 전국 지자체 등이 개발 중인 생체정보 활용 인공지능 시스템 사업 현황과 실태를 전수 조사할 것을 요구한다. 

전세계적으로 법집행기관이 얼굴인식 등 생체정보를 활용한 인공지능 시스템을 사용하는 것에 대해 대량감시 위험과 유출시 피해 회복 불가능의 우려에서 규제방안 마련에 사회적 논의를 진행하고 있는 마당에 우리나라만 유독 아무런 견제장치도 없이 국가기관과 지자체들이 앞다투어 인공지능시스템을 운영하려고 하는 것은 부끄러운 일이다. 인공지능은 산업기술적 측면 뿐 아니라 우리 삶 전체를 바꿀 새로운 현상이기 때문에 인권을 중심으로 한 통합적이고 총체적 접근이 필요하다. 인공지능 산업 육성에만 초점을 맞출 것이 아니라, 인공지능으로 발생할 수 있는 인권 제약에 대하여 제대로 된 관리감독체계가 마련되어야 한다. 연이어 드러나는 과기부 주도의 인공지능 시스템 관련 사건들이 이를 여실히 보여주지 않는가. 더 늦기 전에 인공지능의 위험성을 통제할 수 있는 법제를 마련할 것과 이를 위해 인공지능으로 영향을 받는 당사자를 비롯한 시민사회가 함께 참여하는 범국가 차원의 인공지능 컨트롤타워를 마련할 것을 촉구한다. 끝.

[관련기사 참조] 정부가 ‘연구용’ 줬더니, 얼굴 영상 10만건 빼돌렸다

[내려받기] 20211117_논평_생체정보활용인공지능시스템중단촉구

국제인권규범을 준수하는 감염병법 개정 과제 토론회

 

[내려받기] 국제인권규범을 준수하는 감염병법 개정 과제 토론회 자료집

국제인권규범을 준수하는 감염병법 개정 과제 국회 토론회 개최
- 11월 18일 오전10시 국회의원회관 제7간담회실

국제인권규범을 준수하는 「감염병의 예방 및 관리에 관한 법률」(이하 '감염병법')의 개정 과제를 모색하는 토론회가 국회의원과 시민단체 공동주최로 오는 11월 18일 오전10시, 국회의원회관 제7간담회실에서 개최된다. 이번 토론회는 배진교 의원(정의당/정무위원회), 최혜영 의원(더불어민주당/보건복지위원회)과 시민단체가 함께 공동주최하며, 코로나19 위기에서 인권문제를 고민해온 민주사회를위한변호사모임 공익인권변론센터, 사단법인 정보인권연구소, 진보네트워크센터, 참여연대, 코로나19인권대응네트워크, 투명사회를위한정보공개센터가 공동주최한다.

토론회 발제로는 "정보인권과 감염병법 개정과제"를 주제로 오병일 대표(진보네트워크센터 대표, 정보인권연구소 연구위원)와 "형사처벌과 감염병법 개정과제"를 주제로 서채완 변호사(민주사회를위한변호사모임 공익인권변론센터 변호사)가 발표하며, 최홍조 센터장(시민건강연구소 센터장 / 건양대학교 의과대학 교수)이 사회를 맡는다.

이어 토론자로는 시민사회에서 이지은 간사(참여연대 공익법센터 간사), 박한희 변호사(공익인권변호사모임 희망을 만드는 법 변호사), 랑희 활동가(인권운동공간 활 활동가)가 참여하며, 정부 부처에서는 코로나19 중앙사고수습본부, 질병관리청, 법무부 인권국, 국가인권위원회가 토론에 참여한다.

코로나19 위기가 우리 사회를 휩쓰는  동안 많은 국민이 고통을 받았다. 국가와 지방자치단체가 감염병법에 따른 방역 조치에 적극 임하는 동안 확진 환자 및 인권에 취약한 계층이 인권 침해에 노출되는 사례가 발견되어 왔다. 감염병 위기 대처에 있어서도 보다 인권에 기반한 접근법으로 국제인권규범을 준수하려는 노력이 필요하다 할 것이다. 지난 2년 간 우리 사회가 경험한 교훈이 이번 토론회를 계기로 감염병법 개선으로 이어질 수 있기를 기대한다. 토론회는 인권재단 사람에서 후원한다. 끝.

▣ 토론회 개요

  • 제목 : 국제인권규범을 준수하는 감염병법 개정 과제 토론회 
  • 일시 : 2021년 11월 18일(목) 오전10시~12시 (2시간)
  • 장소 : 국회의원회관 제7간담회실
  • 주최 : 민주사회를위한변호사모임 공익인권변론센터, 사단법인 정보인권연구소, 진보네트워크센터, 참여연대, 코로나19인권대응네트워크, 투명사회를위한정보공개센터, 국회의원 배진교(정의당/정무위원회), 국회의원 최혜영(더불어민주당/보건복지위원회) 
  • 주관 : 사단법인 정보인권연구소
  • 후원 : 인권재단 사람

▣ 토론회 프로그램 

사회 : 최홍조 (시민건강연구소 센터장 / 건양대학교 의과대학 교수)
10:00

~10:10

개회 인사말 공동주최 의원
10:10

~10:50

발제1 정보인권과 감염병법 개정과제 오병일 (진보네트워크센터 대표, 정보인권연구소 연구위원)
발제2 형사처벌과 감염병법 개정과제 서채완 (민주사회를위한변호사모임 공익인권변론센터 변호사)
10:50

~11:50

토론 이지은 (참여연대 공익법센터 간사)
박한희 (공익인권변호사모임 희망을 만드는 법 변호사)
랑희 (인권운동공간 활 활동가)
코로나19 중앙사고수습본부
질병관리청
법무부 인권국
국가인권위원회
11:50

~12:00

플로어 토론 및 참석자 전체 토론

 

공교육에 적용되는 인공지능 알고리즘의 공공성 확보방안 연구

사단법인 정보인권연구소는 2021년 3월 <공교육에 적용되는 인공지능 알고리즘의 공공성 확보방안 연구> 보고서를 발간하였습니다.

최근 학교 현장에서 인공지능(AI)을 활용한 교육이 활발해짐에 따라, 학생의 개인정보 보호와 데이터 처리 과정의 투명성 확보를 위하여 공교육 적용 인공지능 알고리즘에 대한 관리방안이 마련될 필요성이 있습니다.

이 연구는 공교육에 적용되는 인공지능 알고리즘에 설명가능성, 투명성, 책무성, 책임성 등의 원칙을 적용하기 위한 정책 방안 마련을 모색하였습니다. 이를 위하여 인공지능 알고리즘과 관련한 국내외 일반 규범에 대하여 특히 공공기관 인공지능 윤리를 중심으로 검토하고, 해외 인공지능 알고리즘 등급 관련 규범을 살펴보았습니다(2021년 3월 시점). 더불어 인공지능 영향평가, 정보공개, 정보주체 권리 보장 등 해외 인공지능 모범 정책도 소개하였습니다.

연구는 서울특별시교육청의 위탁연구로 수행되었으며, 사단법인 정보인권연구소 김기중 이사(법무법인 동서양재 변호사)가 연구책임자로, 임완철 연구위원(경상대학교 교수) 및 장여경 상임이사가 공동연구원으로 참여했습니다.

[연구보고서 내려받기]

한편, 서울특별시교육청은 연구 결과를 기반으로 2021년 9월 <인공지능(AI) 공공성 확보를 위한 현장 가이드라인>을 발표하였습니다.

이 가이드라인은 전국 최초로 학생의 개인정보보호와 데이터 처리 과정의 투명성 및 안전성을 확보하기 위해 개발된 현장 가이드라인으로서, 학교에서 인공지능을 도입할 때 ‘인공지능(AI) 등급 평가 매트릭스’와 ‘인공지능(AI) 영향 평가 체크리스트’를 사용해 인공지능에 기반한 결정의 영향을 평가하도록 하였습니다. 함께 참고하시기 바랍니다.

[서울특별시교육청 인공지능(AI) 공공성 확보를 위한 현장 가이드라인]

♣️ 사단법인 정보인권연구소는 시민사회 관점에서 정보인권을 지지하는 대안적 정책을 연구하고 생산하기 위해 2018년 창립하였습니다(이사장: 이영음 방송통신대학교 교수). http://idr.jinbo.net

‘인공지능 식별추적 시스템 구축’ 중단 및 법무부 장관 면담 요청 시민사회 기자회견 개최

개인정보보호법과 국제인권규범 위반, 즉각 사업 중단해야  

2021. 11. 9.(화) 오전 10시 30분, 참여연대 지하 느티나무홀

공익법센터 어필, 민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 외국인이주노동운동협의회, 진보네트워크센터, 참여연대는 오늘(11/9) 오전 10시30분, 참여연대 지하 느티나무홀에서 기자회견을 개최하고 정부 주도로 진행 중인 생체인식 감시시스템 구축 사업의 즉각 중단과 사후 대책 마련 등을 위해 법무부 장관의 면담을 요청하는 기자회견을 개최했습니다.

지난 10월 21일 국회 법제사법위원회 국정감사에서 법무부와 과기부가 출입국 심사와 공항 보안 목적으로 얼굴인식 및 행동인식 기술을 활용한 실시간 원격 감시시스템을 개발하고, 이 과정에서 1억건이 넘는 외국인의 얼굴 사진과 내국인의 출입국 심사 정보를 동의 없이 국가와 민간기업의 인공지능 학습용 데이터로 제공한 것이 드러났습니다. 얼굴과 같은 생체정보는 특히 쉽게 바꿀 수 없는 거의 유일무이한 정보이며 프라이버시 침해가 치명적입니다. 많은 전문가들은 얼굴인식 기술을 매우 위험한 기술로 보아, 얼굴인식 기술 자체는 물론이고 개발과 사용 기업까지 법률로 통제해야 한다고 강조하고 있습니다. 그런데 이번 사안은 얼굴인식 기술의 안전성을 연구, 관리, 통제해야 할 국가기관이 공적 목적으로 수집한 생체정보를 민간기업의 얼굴인식 활용 기술개발에 제공한 전대미문의 사건입니다. 

시민사회는 이번 사안이 알려진 직후, 생체인식 감시시스템 구축 사업을 즉각 중단할 것을 요구했지만 정부는 여전히 사업을 유지하겠다는 입장입니다. 박범계 법무장관은 ‘출입국 관리라는 본래 목적과 최소한의 범위 내에서 활용하겠다’고 답변했으며, 법무부와 과기부는 “법률에 명시적 규정이 있고, 개인정보를 민간기업에 이전한 게 아닌 처리를 위탁한 것이므로 개인정보보호법상 문제가 없다”는 입장을 밝혔습니다. 개인정보보호 관련 주무기관인 개인정보보호위원회는 유례없는 개인정보 침해 사업의 추진을 인지조차 하지 못하다가 뒤늦게 조사에 착수한 상황입니다. 

공익법센터 인공지능 식별추적시스템에 외국인 개인정보를 수집이용한 전 과정은 개인정보의 목적 외 처리를 금지하고 있는 개인정보보호법 위반입니다. 또한 이는 생체정보를 활용한 실시간 원격 감시 시스템에 대한 규제방안을 마련하고 있는 미국, 유럽 등과 달리, 국가가 적극 나서 민간기업에 대규모의 공적 데이터를 넘겨준 것으로 국민보호라는 국가의 존재 이유조차 저버리는 것입니다. 지난 9월 유엔인권최고대표는 <디지털시대의 프라이버시권 보고서>를 발표하면서 얼굴인식 등 생체정보를 활용한 실시간 원격 감시 시스템은 기본권 침해의 정도가 매우 크기 때문에 고위험 인공지능에 대한 사용유예를 각국에 촉구한바 있습니다. 

시민사회는 기술의 불완전성과 남용에 따른 위험, 사생활침해와 차별적 결과를 야기할 수 있는 생체인식기술을 기반으로 한 시스템 활용을 즉각 중단하고, 국가 및 공공기관, 지자체 등에서 추진하고 있는 얼굴인식 등 생체정보를 활용한 인공지능 시스템 구축 전반을 중단할 것을 요구합니다. 또한 더 늦기 전에 사회적 논의를 시작하여 인권과 헌법에 부합하는 인공지능 규제 방안을 마련할 것을 요구합니다. 끝. 

▣ 기자회견 개요 

    • 제목 : ‘인공지능 식별추적 시스템 구축’ 중단 및 법무부 장관 면담 요청 시민사회 기자회견
    • 일시 장소 : 2021.11.9.(화) 오전 10시 30분 / 참여연대 지하 느티나무홀
    • 공동 주최 : 공익법센터 어필, 민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 외국인이주노동운동협의회, 진보네트워크센터, 참여연대
    • 순서

- 사회 : 장여경(정보인권연구소 상임이사)
- 발언
서채완 (민주사회를위한변호사모임 디지털정보위원회 변호사)
김민 (진보네트워크센터 활동가)
고기복 (모두를 위한 이주인권문화센터 대표)
- 우리의 요구 낭독 : 이지은 (참여연대 활동가), 이 일 (공익법센터 어필 변호사) 
- 질의 응답


▣ 붙임. 우리의 요구

‘인공지능 식별추적 시스템 구축’은 당장 중단되어야 합니다

지난 2019년부터 법무부와 과학기술정보통신부가 출입국 심사의 고도화와 공항보안을 목적으로 얼굴인식 및 행동인식 기술을 활용한 실시간 원격 감시시스템을 개발하고, 이 과정에서 1억건이 넘는 내외국인의 얼굴 사진과 성별 나이 등의 정보를 아무런 동의 없이 민간기업의 인공지능 개발을 위한 학습용 데이터로 사용하도록 한 것이 드러났습니다. 충격이 아닐 수 없습니다. 이는 국민의 기본권을 보호해야 할 국가기관이 공적 목적으로 수집한 생체정보를 민간기업에 제공한 것으로, 우리사회의 공적 신뢰를 심각하게 훼손하는 일입니다. 

법무부와 과기부가 추진하고 있는 인공지능 식별추적 시스템 구축은 출입국심사의 편의와 공항보안 목적 이외에도 국내 인공지능 산업 육성이 중요한 목적으로 제시되고 있습니다. 전세계적으로 위험한 기술로 인식, 중단하거나 유예하고 있는 얼굴인식 인공지능 활용 시스템을 국가기관이 나서서 설계하고 도모한 것은 위법 여부를 떠나 국민이 위임한 공권력을 잘못 사용한 것입니다. 무엇보다 대량 감시의 위험이 있는 실시간 추적감시 시스템 구축은 민주주의 국가에서 용납해서도 용납되어서도 안 됩니다. 

미국, 유럽 연합 등 주요 국가들은 생체정보를 활용한 실시간 원격 감시 시스템에 대한 규제방안을 마련하고 있습니다. 또한 관련 전문가들은 “얼굴인식 기술을 사용한다면 유례없는 규모의 집단감시가 발생할 수 있다”며 “얼굴인식 기술 자체는 물론이고 개발·사용 기업까지 법률로 통제해야 한다”고 주장하고 있습니다. 미국의 경우 구글, 아마존, IBM, 마이크로소프트를 포함한 일부 기업들조차 엄격한 규제가 도입될 때까지 얼굴 인식 시스템 사용을 금지해야 한다고 주장하고 있는 실정입니다. 유럽의회 또한 인공지능 개인 식별 시스템이 소수 민족·여성·노인 등 사회적 약자들을 오인하는 비율이 높게 나타나는 등 차별적 결과에 대한 우려에서 생체정보를 이용한 원격 식별 등을 반대하는 등의 내용을 담은 결의안을 채택하였습니다. 뿐만 아니라 유럽연합이 지난 4월 발의하여 논의 중인 인공지능법안에 따르면 공개적으로 접근 가능한 공간에서의 법 집행 목적의 실시간 원격 생체인식 시스템을 ‘허용해서는 안될 위험’이나 ‘고위험’ 인공지능으로 규정하고 원칙적 금지를 요구하고 있습니다. 지난 9월 유엔인권최고대표는 <디지털시대의 프라이버시권 보고서>를 발표하면서 얼굴인식 등 생체정보를 활용한 실시간 원격 감시 시스템은 기본권 침해의 정도가 매우 크기 때문에 얼굴인식 기술 등 고위험 인공지능에 대한 사용유예를 각국에 촉구하였습니다. 

새로운 기술 도입이 가져올 위험에 대한 충분한 예측과 위험관리 시스템 구축은 물론이고 무엇보다 인권과 프라이버시에 미칠 영향에 대한 사회적 논의와 합의가 먼저여야 한다는 것은, 미국과 유럽 등에서 얼굴인식 인공지능과 관련하여 벌어진 사회적 논란과 얼굴인식 기술 사용에 대한 규제 도입 진행 과정을 보면 자명해 보입니다. 그러나 법무부와 과기부는 오히려 이들 국가에서의 논란과 이를 해결하기 위한 논의 과정에서 오는 시장 공백을 일종의 ‘기회’로 보아 내국인뿐 아니라 외국인들의 생체정보를 무단으로 기업의 얼굴인식 인공지능식별추적 시스템 개발용 학습용데이터로 제공한 것입니다. 

법무부가 해당 사업에 대한 법적 근거로 제시한 출입국관리법 제12조의2는 외국인이 ‘입국시’ ‘본인임을 확인하는 절차’에 ‘얼굴에 관한 정보를 제공’하는 것일 뿐 민간기업의 인공지능 식별시스템 개발용으로 처리할 수 있다는 것은 아닙니다. 따라서 인공지능 식별추적시스템에 외국인 개인정보를 수집·이용한 전 과정은 개인정보의 목적 외 처리를 금지하고 있는 개인정보보호법 위반이며, 민감정보인 생체인식정보의 처리에서 요구되는 법적 요건도 전혀 준수하지 않은 것입니다. 정부부처가 나서서 민감정보들을 위법하게 민간에 넘긴 것은 국제적으로도 유례 없는 정보인권 침해로, 법무부와 과기부는 즉각 관련 사업을 중단하고 국민들에게 사과부터 하는 것이 순서일 것입니다.

이번 사건은 개인정보 활용에 대한 법적 근거나 정보주체의 동의 여부를 넘어, 국가가 공개된 장소에서 상시적으로 생체정보를 수집하고 즉시 데이터베이스와 대조하여 신원을 확인하고 돌발행동을 통제하도록 허용할 것인지 등 실시간 감시 방식의 위험성과 인권 침해 가능성을 면밀히 검토하지 않고 섣불리 편익만 내세워 자초한 인권 참사입니다. 기술의 불완전성과 남용에 따른 위험, 사생활침해와 차별적 결과를 야기할 위험이 큰 생체인식기술을 기반으로 한 시스템 활용은 즉각 중단해야 할 것입니다. 차제에 국가 및 공공기관, 지자체 등에서 추진하고 있는 얼굴인식 등 생체정보 활용 인공지능 시스템 구축 전반을 중단하고 더 늦기 전에 사회적 논의를 시작하여 인권과 헌법에 부합하는 인공지능 규제 방안을 마련할 것을 요구합니다.  

  • 우리의 얼굴이 차별적 감시도구로 쓰여서는 안된다. 국가 및 공공기관이 추진하는 생체정보 활용 인공지능 시스템을 전면 재검토하라
  • 우리의 얼굴은 기업의 재산이 아니다. 불법적으로 사용된 모든 생체인식정보와 이를 통해 만들어진 모든 모델과 알고리즘, 시스템을 폐기하라
  • 정부는 인공지능이 인권과 안전, 민주주의에 미치는 영향을 평가하고 적정한 규제를 마련하라. 특히 공공장소에서 원격으로 사람을 식별하고 추적하는 얼굴인식 개발 중단하라

2021.11.9.

공익법센터 어필, 민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 외국인이주노동운동협의회, 진보네트워크센터, 참여연대

 

[내려받기] 20211109_보도자료_인공지능 식별추적 시스템 구축 중단 요구 기자회견

 

코로나19 역학조사 지원시스템과 자동화된 개인정보 처리

[이슈리포트 내려받기] 코로나19역학조사지원시스템과 자동화된 개인정보 처리

[ENGLISH/PDF] Epidemic Intelligence Support System and Automated Processing of Personal Data in South Korea

사단법인 정보인권연구소는 이슈리포트 <코로나19 역학조사 지원시스템과 자동화된 개인정보 처리>를 발간하였습니다.

<코로나19 역학조사 지원시스템>은 코로나19 대유행 이후로 감염병 역학조사 절차를 자동화하기 위하여 2020년 3월 26일부터 정식으로 운영되었습니다. 역학조사 지원시스템은 공공과 민간의 여러 기관에서 확진자의 개인정보를 수집하고 처리하여 그 동선을 자동으로 분석하는 것을 목표로 합니다. 그러나 고도로 정밀해지는 민감한 개인정보의 분석이나 예측, 또 그 시스템의 운영 목적과 처리 방식을 제한하거나 정보주체의 권리를 보장하는 법률 규정은 마련되어 있지 않습니다.
한국의 개인정보 보호법 체계는 ‘자동화된 개인정보 처리’에 대하여 서면 등을 통한 일반 개인정보 처리와 구분하여 다르게 규율하지 않아 왔습니다. 문제는 디지털 통신 기술의 발달로 점점 더 많은 양과 더 다양한 유형의 개인정보가 더 빠른 속도로 처리되고 있고, 최근에는 개인정보 처리 방식에 인공지능 기술이 적용되면서 개인에 대한 자동화된 평가, 분석, 예측은 물론 자동화된 의사결정까지 이루어지고 있다는 사실입니다. 이러한 개인정보 처리 방식의 변화는 수기나 문서로 개인정보가 처리되던 방식에 비하여 개인정보에 대한 권리 등 정보주체가 가진 기본권의 본질적인 내용을 침해할 가능성이 더욱 커짐에도 불구하고 그 법률적 통제에 대한 논의는 충분히 이루어지고 있지 않습니다.
한국의 시민사회는 이처럼 자동화된 개인정보 처리에서 문제가 되는 인권을 ‘정보인권’이라고 명명하며 헌법에서 보호하는 기본권으로서 보장할 것을 요구하여 왔습니다. 보고서는 2장에서 우리 사회에서 자동화된 개인정보 처리와 기본권에 대한 문제의식이 발전하여 온 경과에 대하여 돌아봅니다. 3장은 프로파일링 등 자동화된 개인정보 처리와 관련하여 유럽연합 등 국제사회가 수립하여 온 규범을 살펴보고, 4장에서 민감정보 프로파일링 시스템으로서 역학조사 지원시스템의 문제를 검토합니다. 5장에서는 정보주체의 권리를 보호하는 역학조사 지원시스템의 법률적 규율 방안을 제시하고 6장의 결론으로 마무리합니다.

이 보고서는 인권재단 사람의 후원으로 제작되었으며, 국문과 함께 영문 보고서로도 발간되었습니다.
지구적 팬데믹 위기 속에도 인권을 보장하는 방역 정책과 사회적 연대를 위하여 국내외 인권활동가들과 문제 의식을 나누고 사회적 대화를 시작하고자 합니다.

△이슈리포트 <정보인권>은 사단법인 정보인권연구소 후원회원을 위한 비정기간행물입니다.
일시후원/후원회원 신청 http://idr.jinbo.net/member

법무부x과기부의 대규모 생체인식 감시시스템 구축, 당장 중단해야

─입국 외국인의 얼굴정보 수억건 무단 이용은 위법적이고 국제인권규범을 위반해
─실시간 원격 얼굴인식 기술 등 고위험 인공지능에 사용 유예와 규제 필요

1. 법무부와 과학기술정보통신부가 출입국 심사와 공항 보안을 이유로 얼굴인식 및 행동인식 기술을 활용한 실시간 원격 감시시스템을 개발하고, 이 과정에서 1억건이 넘는 외국인의 얼굴 사진과 내국인의 출입국 심사 정보를 아무런 동의 없이 국가와 민간기업의 인공지능 학습용 데이터로 이용한 것으로 드러났다. 우리 단체들은 위법할 뿐만 아니라 국제인권규범에도 현저히 위배되는 생체인식 감시시스템의 구축을 즉각 중단할 것을 정부에 촉구하며, 외국인, 내국인 피해자들과 함께 법적 대응에 나설 것임을 밝힌다.

2. 2019년, 법무부와 과학기술정보통신부가 부처 협력을 맺으며 시작된 ‘인공지능 식별추적 시스템 구축 사업’은 크게 두 가지 목표를 가지고 있다. 첫째는 감시카메라를 통해 공항 이용자의 신원을 자동으로 식별하고 위험 상황을 실시간으로 탐지하는 등 공항 출입국관리 시스템을 고도화하는 것이고, 둘째는 정부가 보유한 얼굴 사진 데이터를 국내 인공지능 업체에 제공해 이들 업체가 보유한 얼굴인식 및 행동인식 모델과 솔루션을 고도화시키는 것이다.

3. 우리는 먼저 어떠한 사회적 논의와 합의도 없이 실시간 원격 감시 시스템을 구축하려는 법무부의 계획에 심각한 우려를 표한다. 사업계획서 및 정보통신산업진흥원의 보고서에 의하면 해당 사업은 출입국 심사 중 본인확인을 위한 1:1 얼굴인식 뿐만 아니라 공항 내 CCTV 영상과 데이터베이스 간 실시간 1:N 얼굴인식, 이상행동 탐지 구축을 목표로 하고 있다. 하지만 얼굴인식 등 생체정보를 활용한 실시간 원격 감시 시스템은 기본권 침해와 차별적 결과를 가져오는 심각한 위험성을 갖고 있어 전세계적으로 규제와 통제가 논의되고 있다. 미국은 샌프란시스코를 시작으로 각 지방정부가 법 집행기관의 얼굴인식 기술 사용을 규제하는 법안을 통과시켰고 관련된 연방 법률 또한 논의되고 있다. 유럽연합은 지난 4월 공개한 유럽연합 인공지능 법안 초안을 통해 공개적으로 접근 가능한 공간에서의 법 집행 목적의 실시간 원격 생체인식 시스템을 ‘용납할 수 없는 위험’ 또는 ‘고위험’ 인공지능으로 규정하고 원칙적으로 금지됨을 밝혔다. 나아가 유럽의회는 법률 제정 전 얼굴인식 시스템에 대한 사용 유예를 각국 정부에 요구하는 결의안을 발표하기도 했다.

4. 한국도 이러한 규제 책임에서 예외가 될 수는 없다. 지난 9월, 유엔인권최고대표는 <디지털시대의 프라이버시권 보고서>를 통해 얼굴인식 기술 등 고위험 인공지능에 대한 사용유예를 요구하였는데, 이 보고서는 한국 정부도 참여한 유엔인권이사회 2019년 결의 42/15에 의해 준비된 것이다. 현재 유엔인권이사회에서 준비중인 결의안 초안에서는 법적 근거가 없는 생체인식 기술의 사용을 특히 인권침해가 중대한 것으로 명시하고 있으며, 이러한 원격 생체인식 기술이 국제인권법이 보장하는 인권을 침해하지 않도록 법적 조치를 취할 것을 각국 정부에 촉구하였다. 특히 유엔 인종차별철폐위원회는 인종 프로파일링을 매우 민감하고 금지가 요구되는 개인정보 처리로 보고 있으며 테러 방지 등의 목적을 포함한 모든 경우에서 인종 프로파일링을 엄격히 금지하도록 권고한 바 있다. 그러나 법무부는 위와 같은 국제인권법상의 법적 의무를 위반하여 특정한 외국인 집단을 고위험군 등으로 평가하는 등 편향적으로 프로파일링하고 차별을 야기할 가능성이 있는 인공지능 식별추적시스템을 개발하고 있다. 유엔인권최고대표 및 유엔인종차별철폐위원회 등 조약기구의 권고는 헌법 제6조 제1항에 따라 엄연히 국내법적 효력이 있는 국제인권조약의 공적 해석이라고 볼 수 있다. 따라서 법무부가 구축하려는 인공지능 식별추적시스템은 국내법적으로도 이미 그 사용과 개발이 중단되어야 할 엄격한 규제의 대상에 속한다.

5. 또 다른 심각한 문제는 법무부 사업에서 대량의 외국인 생체정보가 어떠한 동의나 법적 근거 없이 목적외로 이용되었다는 것이다. 이러한 생체정보의 목적외 이용은 현행 개인정보보호법을 명백히 위반하는 것이다. 해당 사업은 계획 단계부터 민간기업의 법적이고 경제적인 애로사항을 해결하기 위하여 법무부가 보유한 출입국 관련 데이터를 활용해 인공지능 기술 개발을 고도화하는 것을 목표로 했다. 실제 이 사업에서 출입국 외국인의 얼굴 사진 1억건이 학습용 데이터, 1천만건의 사진이 검증용 데이터로 처리된 것으로 확인되었다. 2010년 출입국관리법 개정으로 한국에 입국하는 외국인의 지문과 얼굴 정보 등 생체정보 제공이 의무화된 점을 이용하여 법무부는 수억건의 외국인 생체정보를 출입국 시 본인확인 용도를 넘어서 이용하도록 개방하였고, 국내 업체들은 이 인권침해적인 기술 개발로 특허를 출원하여 국제 무대에서 영업 중이다. 인공지능 식별추적시스템에 외국인 개인정보를 수집·이용한 전 과정은 개인정보의 목적외 처리를 금지하고 있는 개인정보보호법을 위반하였으며, 민감정보인 생체인식정보의 처리에서 요구되는 법적 요건도 전혀 준수하지 않았다. 법무부 등은 해당 사업에 대한 법적 근거를 출입국관리법 제12조의2로 보고 있으나, 해당 조항은 외국인이 ‘입국시’ ‘본인임을 확인하는 절차’에 ‘얼굴에 관한 정보를 제공’하는 데 한정되어 있을 뿐이다.

6. 한편 법무부 등은 외국인 인권침해에서 더 나아가, 출입국 심사 과정에서 제출된 내국인의 얼굴사진 또한 이미 이용했거나 이용하기 위해 준비중이다. 내국인 심사정보 데이터베이스는 2020년에 이미 인공지능 실증랩에 이관·구축되었으며 추후 시스템 고도화를 위해 이를 이용할 계획이고, 나아가 현재 공항 출입국 관리 구역에 일련의 카메라 시스템을 구축해 인공지능 학습을 위한 얼굴인식 및 행동인식 데이터를 수집하고 있는 것으로 보인다. 이 또한 어떠한 동의나 법적 근거가 없는 위법 행위다.

7. 우리 단체들은 현행 개인정보 보호법과 국제인권규범을 정면으로 위반한 법무부 인공지능 식별추적시스템 구축 사업의 위험성에 심각한 우려를 표하며 정부에 이 사업의 즉각 중단을 요구한다. 우리 단체들은 공익 소송으로 이 사업으로 자신의 개인정보가 위법적으로 처리된 외국과 국내의 피해자들과 함께 법적 대응에 나설 것이다. 나아가 국회가 생체인식 기술 기반의 대규모 감시 시스템 등 고위험 인공지능의 사용을 유예하고 이를 규제하는 법률적 대책을 마련할 것을 촉구한다.끝

2021년 10월 21일

공익법센터 어필, 민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 외국인이주노동운동협의회, 진보네트워크센터

 

[관련기사 참조]