추천

인권과 안전, 민주주의가 보장되는 인공지능 정책을 요구하는 시민사회 선언

오늘 우리 120개 단체들은 인권과 안전, 민주주의가 보장되는 인공지능 정책을 요구하는 선언을 발표합니다.

인공지능은 이미 우리 생활에 널리 사용되고 있습니다. 검색, 자동 번역, 추천 알고리즘, 챗봇처럼 소비자들이 인터넷에서 만나는 수많은 서비스들 뿐 아니라 AI스피커, 가전, 자동차와 같은 제품들에도 인공지능이 탑재되어 있습니다. 일터에서는 인공지능이 업무 성과를 관리 및 평가하기 시작했으며 플랫폼 노동처럼 알고리즘으로 업무를 배치받고 지시받는 사람들이 많아지고 있습니다. 금융 서비스 뿐 아니라 생계에 많은 영향을 미치는 신용 평가나 대출, 보험의 요율이나 지급 여부 결정에도 인공지능이 관여하고 있습니다. 실업 급여 지급 결정이나 부정수급 탐지[1]와 같은 사회복지 업무도 인공지능으로 수행될 것으로 예측되고 있습니다. 경찰은 어느 지역이 범죄율이 높은지 예측하는 인공지능 치안활동을 전국적으로 시작하였으며[2], 과학기술정보통신부와 지방자치단체는 코로나 확진자와 접촉자를 추적하기 위하여 거리 CCTV에 얼굴인식을 도입하고 있습니다[3]. 이미 수많은 공공기관과 민간기업들이 채용절차에 <AI면접>이나 <AI서류평가> 등 인공지능 도구를 사용하고 있고[4], 군대도 <AI면접>을 통해 특기병을 결정한다고 합니다[5]. 인공지능 무기 또한 눈앞의 현실로 다가왔습니다[6].

인공지능의 안전과 인권 침해 문제

이처럼 인공지능은 서비스나 제품을 추천·제공하는 단계부터 노동, 금융, 사회복지, 치안, 군사 영역에서 사람을 평가하고 중대한 의사결정을 내리는 단계까지 나아가고 있습니다. 이는 소비자, 노동자, 시민의 인권과 안전에 중대한 영향을 미칠 것입니다. 특히 안전이 검증되지 않는 인공지능 제품이 일상생활에서 사용된다면 우리의 생명조차 위험에 처할 것입니다. 미국에서 운행 중인 자율주행차량들이 오작동으로 몇 차례 사망사고를 일으켰지만 그 책임 문제가 여전히 불분명합니다[7].

또 인공지능이 드러내는 편향성에 대하여 세계적으로 논란이 불거지고 있습니다. 온라인 챗봇이 공개 후 불과 몇시간 만에 인종주의자가 되었고[8], 많은 기관에서 사용되는 얼굴인식기술이 흑인 여성을 잘 식별하지 못하였습니다[9]. 인공지능은 채용지원자 중 여성을 선호하지 않았고, 흑인들의 재범 위험을 백인보다 2배 높다고 판단하였습니다[10]. 지난해 영국에서는 코로나로 인해 취소된 대학입학시험 대신 인공지능으로 성적을 부여하였다가 부유한 지역 학생이 높은 점수를 받고 가난한 지역 학생이 낮은 점수를 받은 것으로 드러나 큰 사회적 논란을 겪기도 했습니다[11].

이는 기존의 데이터셋으로 학습하여 미래를 예측하는 인공지능의 본질적인 특성에 따른 문제이기도 합니다. 업계에서는 인간에게도 편견이 있다며, 인공지능은 인간사회의 차별을 학습했을 뿐이라고 주장합니다. 실제로 우리는 인공지능 챗봇 이루다가 어떻게 여성, 장애인, 성소수자, 유색인종에 대한 편견과 혐오를 빠르게 배우고 재현하는지를 직접 목격하였습니다. 문제는 이러한 인공지능의 편향성이 사회적 통제 없이 가정에서, 학교에서, 직장에서 사용되는 제품과 시스템에 바로 적용된다면, 우리 사회에 이러한 편견과 혐오가 항구적이 될 것이라는 점입니다. 그리고 이러한 편견과 혐오에 기초한 차별은 우리 사회에서 더욱 취약한 사람들의 권리를 위협할 수밖에 없습니다.

사람을 보호하는 법제도와 보호장치 미비

그럼에도 인공지능으로 영향을 받는 당사자들이나 일반 국민은 인공지능의 도입, 운영, 결정에 대하여 발언과 참여 기회를 전혀 보장받고 있지 못합니다. <AI 채용>에서 불합격된 사람들은 본인이 어떻게 평가받고 채용 탈락으로 결정되었는지 알지 못합니다[12]. 공공기관들은 인공지능을 적용한 면접이나 서류평가가 공정한지, 면접대상의 외모나 사투리를 차별하지는 않는지 전혀 검증하지 않고 사용해 왔습니다. 플랫폼 기업의 불투명한 알고리즘은 노동자와 자영업자들에게 고통을 주고 있습니다. 포털 뉴스의 비밀 알고리즘은 공론장의 편향성에 영향을 미치고 있습니다[13]. 해외에서는 플랫폼 기업의 알고리즘이 선거와 민주주의에도 영향을 미쳤다는 경각심이 일고 있습니다[14].

세계 여러나라에서 인공지능 알고리즘의 공정성과 투명성에 대한 소송이 제기되었고, 법원은 인공지능의 불투명성에 도전하는 당사자들과 시민사회의 손을 들어 주었습니다. 2017년 폴란드 법원은 정부의 실업자 점수 알고리즘에 대하여 정보공개를 하도록 하였고[15], 미국 법원은 민간기업에서 조달한 교육청의 교사 평가 알고리즘에 대하여 투명성과 적법절차 부족을 이유로 운영을 중단시켰습니다[16]. 특히 미국 법원은 민간기업의 영업비밀과 국민의 헌법상 권리인 적법절차를 모두 충족하기 위해서는 공공기관의 중요한 의사결정에 비밀 알고리즘을 사용해서는 안된다고 설시하였습니다. 2020년에는 네덜란드 법원이 사회복지급여 부정수급 탐지 시스템에 대하여 투명성 부족과 개인정보보호법 위반을 이유로 운영을 중단하라는 내용의 판결을 내렸습니다[17].

한국 사회에서 알파고가 던진 충격 이후 인공지능의 놀라운 발전은 언론, 산업계, 학계, 정부와 국회에서 큰 관심을 받았습니다. 그러나 이러한 관심 대부분은 대체로 산업적 가치에만 초점을 맞추어 왔습니다. 기술이 어떻게 사람의 인권과 안전을 보장할 것이며 이 기술을 어떻게 민주적으로 통제할 것인지에 대한 문제는 진지하게 검토되지 않았습니다. 나아가 인공지능 기술이 사람들의 인권과 안전에 영향을 미치는 것이 분명함에도, 정작 영향을 받는 사람들이 의견을 개진할 수 있는 공간은 전무한 상황입니다.

인공지능도 인권과 법률을 준수해야 합니다.

최근 인공지능 챗봇 이루다 개발사의 개인정보 보호법 위반 사건에서 확인하였듯이, 인공지능이라고 하여 인권과 법률 준수 의무에서 예외가 될 수는 없습니다. 모든 인공지능 시스템은 헌법과 관련 법률에 따라 인권 침해와 차별을 금지하고, 소비자의 안전과 권리를 보호하며, 노동자와 노동권을 보호하는 현행 법률을 준수해야 합니다.

인공지능 챗봇 이루다 사건은 우리에게 많은 충격과 분노를 주었습니다. 인공지능 서비스가 우리 사회의 편견과 혐오를 재생산하였을 뿐 아니라 그 개발 과정에서 개인정보를 소홀하게 취급하여 이용자들의 신뢰를 배반하였습니다. 결국 지난 4월 28일 개인정보보호위원회는 이루다 개발사 ㈜스캐터랩에 총 1억여 원의 과징금과 과태료를 부과하였습니다. ㈜스캐터랩은 과거에 운영했던 서비스를 통해 수집한 약 60만 명에 달하는 이용자의 내밀한 카카오톡 대화문장 94억여 건을 제대로 된 보호조치를 취하지 않고 자사 다른 서비스인 인공지능 챗봇 서비스 ‘이루다’ 의 개발과 운영에 이용한 것으로 확인되었습니다. 특히 만14세 미만 아동의 개인정보를 무단으로 이용한 규모가 20만 명에 달했습니다.

그런데 이루다 조사와 조치 결과를 두고 일부 업계는 인공지능 상품과 서비스 개발에 지장을 초래하고 있다고 볼멘 소리를 내고 있습니다. 이는 일반 소비자와 이용자들의 생각과 현격한 차이가 있습니다. 우리는 오히려 이루다 사건에서 이용자가 믿고 맡긴 민감한 개인정보를 기업이 이용자가 모르는 다른 상품 개발에 무단으로 마구 사용하거나 판매할 수 있는 현실을 보았습니다. 개인정보 추가이용과 가명정보의 이용을 원하는 산업계의 요구에 따라 2020년 이미 개인정보보호법과 그 시행령이 편향적으로 개정되었음에도, 그조차 지키지 못하겠다는 업계의 엄살은 도저히 납득하기 어렵습니다. 이런 논란을 지켜본 소비자와 이용자들은 인공지능 제품과 서비스를 충분히 믿고 안심하며 이용하기가 어렵습니다. 공공기관과 민간기업의 모든 인공지능 제품과 시스템들이 부족하나마 개인정보 보호법을 준수하고 있다는 신뢰가 바탕이 되어야 시민들 또한 그 혜택을 마음 놓고 누릴 수 있을 것입니다.

무엇보다 인공지능이 우리 사회의 편견과 혐오를 재생산하는 것을 이대로 방치할 수 없습니다. 인공지능 제품과 서비스 역시 고용과 서비스 등에서 성별, 장애, 연령, 인종, 지역 등으로부터 차별을 금지하는 현행 법률을 준수하여야 합니다. 인공지능의 도입이 확산될수록 그로 인한 차별에 대한 우려 또한 커지고 있는 만큼, 효과적이고 포괄적인 차별금지법의 제정도 이루어져야 할 것입니다.

더불어 인공지능 제품과 시스템들은 헌법과 관련 법률에서 보호하고 있는 표현의 자유, 집회시위의 권리 등 인권을 침해해서는 안 됩니다. 제품의 안전과 소비자의 권리를 보호하는 현행 법률들과 노동자와 노동권을 보호하는 현행 법률 또한 준수해야 합니다.

인공지능을 규율하는 법과 제도가 시급히 마련되어야 합니다.

이런 상황에서 네덜란드 암스테르담과 핀란드 헬싱키시[18], 프랑스 앙티브시[19] 등 세계 여러나라 지방자치단체들이 인공지능 알고리즘과 관련한 사항을 시민들에게 모범적으로 공개하고 의견을 수렴하고 있다는 사실은 시사하는 바가 매우 큽니다. 나아가 여러나라 정부가 인공지능을 규율하는 법제도를 도입하였거나 도입을 준비 중입니다. 캐나다 정부는 2019년부터 공공기관이 도입·운영하는 인공지능 의사결정 시스템에 대하여 영향평가 후 위험수준별로 정보공개, 인적 개입, 설명, 검사 등의 의무를 부과하는 훈령을 시행 중이며[20], 뉴질랜드 정부는 2020년부터 공공기관이 도입·운영하는 인공지능 알고리즘에 대하여 영향평가 후 위험수준별로 규제하고 있습니다[21]. 유럽연합 집행위원회는 최근 유럽시민이 신뢰할 수 있는 인공지능 규제법안을 유럽의회에 발의하였습니다[22].

인공지능을 이용한 자동화는 제품과 시스템의 효율성과 예측성을 크게 높일 수 있고 인간이 기존에 수행할 수 없었던 업무 영역을 확장시켰습니다. 그러나 인공지능이 사회적으로 적절히 통제되지 않는다면 그 편향성과 위험성이 사람의 인권과 안전에 중대한 영향을 미칠 것입니다. 이용자와 소비자는 그 의사결정 사유를 설명할 수도 없고, 검증할 수도 없고, 참여할 수도 없는 인공지능을 신뢰하지 않게 될 것입니다. 소비자, 노동자, 시민이 신뢰하지 못하는 인공지능에 대해서는 사회적 수용성 및 효용성 또한 감소할 수밖에 없습니다.

최근 인공지능 규범과 관련한 여러 국제문헌들은 인공지능을 규율하는 새로운 법률이 필요하다고 강조하고 있습니다. 인공지능 제품과 시스템을 국가적으로 감독하고, 인공지능 시스템에 대한 정보공개와 참여로써 그 투명성과 민주성을 보장하며, 위험한 인공지능을 제도적으로 통제하는 한편, 피해를 입거나 인권을 침해당한 사람에 대하여 권리구제를 보장해야 한다는 것입니다.

또한 인공지능의 무기화가 빠르게 진행되고 있는 현실에서 “인공지능이 인간의 통제없이 개별 표적을 선별하고, 공격하는 자율살상무기(LAWS)”를 규율 할 수 있는 법적, 제도적 장치가 선제적으로 마련되어야 합니다. 이는 전쟁의 비인간화와 비인간성이 초래하는 인류 존엄성의 훼손을 막기 위해 필요한 조치입니다.

이에 우리 시민사회는 인공지능 규율법의 마련을 촉구하며, 이 법률과 제도로써 ①인공지능 국가 감독 체계 마련 ②정보 공개와 참여 ③인공지능 평가 및 위험성 통제 ④권리구제 절차 보장을 요구합니다. 인공지능 역시 다른 모든 제품 및 기술 시스템과 마찬가지로 법률을 준수하고, 인권을 침해하지 않으며, 안전을 보장하여야 하고, 국가와 지방자치단체, 공공기관은 물론 기업은 이를 위한 조치를 취해야 할 의무가 있습니다. 딥러닝 등 특정한 기술적 특성이나 기업자율적인 윤리가 이런 의무를 회피하는 이유가 될 수는 없습니다.

 

【참고】 유엔 사무총장(2020)[23]

(b) 국가는 민간부문 활동에 관한 조치를 포함한 입법 조치를 취해야 할 의무를 상기하고 이를 준수해야 한다. 이를 통해 신기술은 모든 사람이 경제·사회·문화적 권리를 비롯한 인권을 완전히 향유하고 인권에 미치는 부작용을 방지하는 데 기여할 수 있을 것이다.

(h) 신기술이 사용되는 상황에서 책임을 완전하게 보장하는 적절한 법률체계와 절차방법이 마련되어야 한다. 이를 위해 국내 법제도의 공백을 검토 및 평가하고, 필요한 감독 체제를 수립하고, 신기술로 인한 피해에 대해 사람이 이용할 수 있는 구제 수단이 구비되어야 한다.

 

【참고】 유럽 기본권청(2020)[24]

인공지능에 대해 새로운 정책이나 새로운 입법을 도입할 때 입법자와 국가들은 ... 모든 기본권이 존중될 수 있도록 보장해야 한다. 특정한 기본권 보호조치는 관련 정책과 법률을 수반할 필요가 있다 … 인공지능 개발자와 사용자 모두를 기본권에 대한 자의적인 간섭으로부터 효과적으로 보호하고 법적 확실성을 갖추기 위해서 관련 안전조치가 법으로 규정될 필요가 있다. 인공지능의 개발과 사용에 있어 기본권을 지키고 보호하기 위한 자율적인 제도들도 추가적으로 권리 침해를 완화하는데 도움이 될 수 있다. 입법자가 인공지능 법의 범위를 설정할 때는, 법적 명확성의 최소 요건, 즉 법치주의 원칙 및 기본권 보장의 전제 조건에 충분한 주의를 기울여야 한다.

 

인공지능 제품과 시스템은 국가적으로 감독되어야 합니다.

최근 정부는 과학기술정보통신부/4차산업혁명위원회 등 산업진흥 부처/기구가 인공지능 정책을 주도하고 있으며 관련 입법 또한 빠른 속도로 추진되고 있습니다[25]. 그러나 인공지능으로 사람에 대한 의사결정에까지 이르도록 하면서 그로부터 사람을 보호하기 위한 조건이나 절차에 대한 논의는 충분히 이루어지지 못하였으며, 이는 과학기술정보통신부 등이 주도하는 인공지능 정책이 산업계의 요구로 점철되어 있는 데 따른 결과입니다.

반면 다른 나라의 경우 산업관련 부처가 인공지능 정책에 관여하더라도 부분적이거나 기술과 관련한 역할에 그치고 있습니다. 이들 국가에서 국민을 위해 인공지능을 감독하는 역할은 주로 시장감독기구, 국가인권기구 또는 평등기구, 개인정보보호감독기관에서 수행하고 있습니다. 이 기관들은 인공지능 제품과 시스템으로부터 소비자 보호, 인권 침해 구제, 차별 금지, 개인정보 보호 등을 소관하고 있습니다.

사람의 인권과 안전을 보장하고 권리구제의 책무가 있는 국가는 인공지능 국가 감독 체계를 수립하고, 여기에 공정거래위원회, 국가인권위원회, 개인정보보호위원회가 반드시 참여하도록 해야 합니다.

인공지능 국가 감독 체계는 인공지능에 대하여 사전적으로나 사후적으로 감독 권한을 행사하고, 진정 사건을 조사하고 피해자의 권리를 구제할 수 있는 충분한 권한과 자원을 구비해야 하며, 감독대상이 되는 인공지능 제품과 서비스의 경우 자료와 데이터를 보관하도록 의무화하여 그 설명과 조사가 가능하도록 하여야 합니다.

 

【참고】 유럽평의회 인권위원장(2019)[26]

각국은 공공기관과 민간기업이 개발, 도입, 사용하는 인공지능 시스템의 인권 준수에 대한 독립적이고 효과적인 감독을 위해 입법 체계를 수립해야 한다. 이 입법 체계는 상호협력하는 행정적, 사법적, 준사법적 또는 의회의 감독기구들의 조합으로 구성된 구조를 포함할 수 있다. 각국은 적절한 경우 기존 국가인권기구에 인공지능 시스템의 인권 준수에 대해 독립적이고 효과적인 감독 역할을 수행하는 권한의 부여를 검토해야 한다.

감독기구는 인공지능 시스템을 개발, 도입 및 기타 사용하는 공공기관과 민간기업들로부터 독립적이어야 하며 감독기능을 수행하기에 적절하고 충분한 분야간 전문지식, 역량 및 자원을 구비해야 한다.

독립적인 감독기구는 인공지능 시스템의 인권 준수를 능동적으로 조사 및 모니터링하고 영향을 받은 개인들로부터 진정을 접수, 처리하며 인공지능 시스템의 성능과 기술 개발에 대한 주기적인 검토를 보다 일반적으로 실시해야 한다. 감독기구는 인권 침해 발생의 위험성을 포착한 상황에 개입할 수 있는 권한을 보유해야 한다. 감독기구는 또한 정기적으로 의회에 보고하고 활동에 대한 보고서를 발표해야 한다.

공공기관과 민간기업들은 감독기구가 인공지능 시스템의 효과적인 감독에 필요한 모든 정보를 요청할 때 이를 제공해야 하고 이들에 정기적으로 보고해야 한다. 또한 인공지능 시스템이 인권에 미친 영향과 관련해 감독기구의 권고를 이행 해야 한다. 또한 감독 절차는 투명해야 하며 적절한 공공 조사의 대상이 될 수 있어야 하고 감독기구의 결정은 이의제기 또는 독립 심사의 대상이 될 수 있어야 한다.

 

【참고】 유럽 기본권청(2020)

국가는 인공지능 시스템이 기본권에 미치는 부정적인 영향을 감독하고, 필요한 경우 이를 실질적으로 해결할 수 있는 효과적인 책임 시스템을 구축해야 한다 … 인공지능 시스템이 기본권에 미치는 영향을 평가할 수 있도록 충분한 정보를 제공하도록 요구하는 법적 의무도 포함될 수 있다 … 국가는 인공지능 사용 시 기본권을 보호하기 위해 개인정보 보호 기관, 평등 기구, 국가 인권 기구, 옴부즈 기관 및 소비자 보호기관 등 기존의 감독 전문 조직을 더 잘 활용해야 한다. … 이들 기관들이 충분한 자원, 권한 및 중요한 전문지식을 갖추어 기본권 침해를 예방 및 평가하고 자신의 기본권이 인공지능에 의해 영향을 받는 사람들을 실질적으로 도울 수 있어야 한다.

 

인공지능 정책은 소비자, 노동자, 시민에게 투명하게 공개되고 그 참여가 보장되어야 합니다.

인공지능 제품과 시스템의 사용은 그 소비자, 노동자, 시민에게 위험하거나 중대한 영향을 미칠 수 있습니다. 따라서 이 제품과 시스템을 개발, 도입하고 의사결정에 사용하는 공공기관과 민간기업은 그 소비자나 이용자에게 모든 인공지능 기능과 그 의미에 대하여 이해할 수 있는 형태로 공개하고 가능한 한 당사자의 선택권을 보장해야 합니다.

특히 정보공개의 의무를 지고 있는 공공기관의 경우 그 인공지능 시스템 운영의 담당자와 책임자에 대한 정보뿐 아니라, 훈련 데이터셋과 처리 방법에 대한 정보, 개인정보 보호와 차별 방지를 위한 조치에 대한 정보, 인적 감독에 대한 정보, 그 기능의 영향력과 위험성에 대한 정보를 공개하여야 마땅합니다.

이 권리는 공공기관이 민간에서 조달한 시스템이나 서비스를 사용하는 경우에도 똑같이 보장되어야 합니다. 기업의 영업비밀 보호가 공공기관의 투명성 의무를 회피하는 조건이 되어서는 안되며, 국민 앞에 투명하게 공개할 수 없는 민간 시스템을 공공기관이 도입해서는 안 될 것입니다. 더불어 인공지능 시스템의 공공조달에 대해서는 위험성을 평가하고 통제하는 절차가 마련되어야 하며 그 평가 내용 또한 공개되어야 합니다.

나아가 공공기관의 경우 인공지능 시스템의 운영으로 영향을 받는 소비자, 노동자, 시민 등 모든 이해당사자들이 참여할 수 있고 그 의견을 수렴하는 공청회를 사전에 실시하는 것이 필요합니다.

 

【참고】 유엔 사무총장(2020)

신기술의 개발 및 도입에 관한 의사결정에 모든 관련 이해당사자의 참여를 보장하고, 특히 공공부문에서 인공지능이 지원하는 의사결정에 대하여 적절한 설명가능성이 보장될 필요가 있다.

 

【참고】 캐나다 정부 훈령 <자동화된 의사결정에 대한 지침>(2019)

6.2. 투명성

(의사결정 전 공지)

6.2.1. 해당 의사결정이 부록 C에 규정된 바대로 자동화된 의사결정 시스템에 의해 전체 또는 부분적으로 수행된다는 내용을 관련 웹사이트에 공지한다.

6.2.2. <Canada.ca 컨텐츠 스타일 가이드>에 부합하는 뚜렷하고 쉬운 용어를 이용하여 공지한다.

(의사결정 후 설명)

6.2.3. 부록 C에 규정된 대로 결정이 내려진 방법과 이유에 대해 영향을 받는 개인들에게 이해가능하게 설명한다.

 

인공지능의 위험성이 제도적으로 평가되고 통제되어야 합니다.

대다수 인공지능 제품과 시스템은 소비자, 노동자, 시민에게 위험하지 않을 수 있습니다. 그러나 어떤 인공지능은 개인이나 공동체의 권리나 안전에 영향을 미칠 수 있습니다. 영향이 미치는 범위는 협소하고 미미한 수준에 그칠 수 있지만 때로는 광범위하거나 심각한 데 이를 수 있습니다. 그 빈도 또한 일시적일 수 있지만 준영구적으로 발생할 수도 있습니다.

모든 인공지능 제품과 시스템은 개인정보 보호법, 제조물책임법, 소비자관련법, 노동관련법 등 현행 법률을 준수해야 합니다. 여기에 더하여 위험한 인공지능은 제도적으로 관리되어야 하며, 인공지능의 위험성은 생애주기별로 평가되어 그 위험성을 완화하기 위한 조치가 취해져야 합니다.

의료, 운송, 에너지, 금융 및 공공부문에서 인권에 법적 또는 상당한 영향을 미치는 경우, 사람의 부상·사망이나 상당한 물질적·비물질적 손상을 초래하는 경우, 채용과 업무관리 등 노동권과 입점업체 배정에 영향을 미치는 경우, 소비자권리에 영향을 미치는 경우, 원격으로 생체를 인식하거나 침입적으로 감시하는 인공지능은 고위험으로 보아야 할 것입니다. 이러한 고위험 인공지능에 해당할 경우 그 훈련 데이터셋은 편향성 방지와 안전성을 보장하는 조치를 사전과 사후에 취해야 하고, 감독기관의 조사나 피해자 권리구제시 검증이 가능하도록 인공지능 시스템 생애주기별 데이터와 방법론을 문서화, 기록, 보존해야 하며, 필요한 경우 인적 개입을 의무화해야 합니다. 공공기관의 모든 인공지능 시스템과 민간기업의 고위험 인공지능 시스템은 국가기관에 등록하여 그 의무를 준수하는지 국가적으로 관리해야 합니다.

사람의 안전과 생계, 인권에 대하여 명백한 위험을 야기하는 어떤 인공지능 시스템은 금지되어야 합니다. 실시간으로 거리에서 불특정다수의 얼굴을 인식하여 추적하는 시스템은 원칙적으로 금지되어야 합니다. 경찰 등 국가기관이 전국민의 얼굴을 인식하는 일은 결코 있어서는 안될 것입니다.

 

【참고】 유럽 기본권청(2020)

입법자는 기본권의 모든 범주를 포괄하는 의무적 영향 평가의 실시를 고려해야 한다. 이는 민간부문과 공공부문 모두에 적용되어야 하며, 인공지능 시스템이 사용되기 전에 이루어져야 한다 … 영향 평가는 … 정기적이고 반복적으로 실시되어야 한다. 평가는 투명하게 실시되어야 한다. 그 결과와 권고사항은 가능한 범위까지 공개되어야 한다. 기업과 공공기관들은 기본권에 미치는 영향을 완전하게 평가하는 데 필요한 정보를 수집할 수 있어야 한다.

 

【참고】 유럽 집행위원회(2021)[27]

고위험 인공지능 시스템은 시장에 출시되기 전에 엄격한 의무가 부과된다.

ㅇ 적절한 위험 평가 및 완화 시스템

ㅇ 위험과 차별적 결과를 최소화하기 위해 시스템에 공급하는 데이터 세트의 고품질 보장

ㅇ 결과의 추적성을 보장하기 위한 활동 기록

ㅇ 시스템에 대하여 필요한 모든 정보 및 그 준수 여부를 평가하는 기관의 목적 수행에 필요한 모든 정보를 제공할 수 있는 상세한 문서화

ㅇ 사용자에 대해 명확하고 적절한 정보 제공

ㅇ 리스크를 최소화하기 위해 적절한 인적 감독 조치

ㅇ 높은 수준의 견고성, 보안성 및 정확성

 

인공지능으로 피해를 입거나 인권을 침해당한 사람에 대하여 권리구제가 보장되어야 합니다.

공공기관 또는 민간기업이 개발, 도입, 사용하는 인공지능 시스템으로 인하여 피해를 입거나 인권을 침해당한 사람에게는 국가기관의 구제수단에 대한 접근이 보장되어야 합니다. 피해를 입거나 인권을 침해당한 당사자가 인공지능 제품과 시스템에 대응할 수 있으려면, 인공지능이 언제 어떻게 사용되었는지, 어디서 어떻게 이에 대한 이의를 제기할 수 있는지 알 수 있어야 합니다. 또한 인공지능 제품과 서비스는 우리 헌법과 인권규범이 보호하고 있는 적법절차의 권리를 보장해야 합니다.

따라서 인공지능 사용 기관은 일반적으로 소비자와 이용자에게 인공지능 사용 여부 및 그 기능, 인공지능을 사용한 의사결정에 대한 사항과 이의제기 방법에 대하여 설명하여야 합니다. 특히 공공기관이나 민간기업이 인공지능을 사용하여 당사자에 대해 법적 또는 상당한 영향을 미치는 의사결정을 내리는데 그 결정에 대하여 설명하지 못한다면 이 시스템을 사용해서는 안 될 것입니다.

금융서비스나 채용 등 개인을 평가하거나, 거부하는 등 사람에 대한 중대한 의사결정이 인공지능을 사용하여 자동적으로 내려졌을 경우, 그 대상이 된 정보주체는 그 사실을 통지받고, 인적 개입, 의사 표현, 그 결정의 이유 설명, 이의 제기, 안전조치 등을 보장받을 권리가 있습니다. 국가가 인공지능을 이용하여 국민에게 불이익한 행정 또는 형사상 처분이나 의사결정을 내리는 경우 국민은 그에 대한 사전적인 청문과 의견 진술, 문서 열람, 결정 이유 요구권 등 헌법상 적법절차를 보장받아야 합니다. 이 권리는 공공기관이 민간에서 조달한 시스템이나 서비스를 사용하는 경우에도 똑같이 보장되어야 합니다.

 

【참고】 유엔 의사표현의자유 특별보고관(2018)[28]

개인 이용자들은 인공지능 시스템의 반인권적 영향에 대한 구제 수단에 접근 할 수 있어야 한다. 기업들은 인공지능 처리시스템에 대해 표출되는 모든 이용자들의 불만사항 및 이의제기에 적시에 대응하기 위해 사람에 의한 검사 및 구제 시스템을 두어야 한다. 인공지능 시스템에 불만이 접수되고 구제가 요청된 빈도에 대한 데이터 뿐 아니라, 실제 이용되는 구제수단의 종류와 효과성에 대해서도 주기적으로 공개 되어야 한다.

 

【참고】 유럽평의회 인권위원장(2019)

인공지능 시스템이 머신러닝이나 이와 유사한 기법으로 특정한 인적 개입에서 독자적으로 의사결정을 할 수 있는 환경이라 하더라도, 인공지능 시스템은 항상 인적 통제를 유지해야 한다. 각국은 인공지능 시스템의 다양한 생애주기 단계에서 발생할 수 있는 인권 침해에 대한 명확한 책임의 선을 수립해야 한다. 인권을 침해하는 조치가 인간 책임자 또는 운영자에 의해 직접 지시되지 않은 경우라 하더라도, 인공지능 시스템의 개발, 도입 또는 사용으로 발생하는 인권 침해에 대한 책임과 책무는 항상 자연인 또는 법인 측에 있다.

공공기관 혹은 민간기업 인공지능 시스템의 개발, 도입, 혹은 사용으로부터 인권 침해 피해를 주장하는 누구라도 소관 국가기관에서 효과적인 구제수단을 제공 받을 수 있어야 한다. 나아가 각국은 불투명한 방식으로 당사자의 인지 없이 오로지 혹은 상당히 인공지능 시스템에 의해 산출된 결과물의 대상이 되었다고 의심하는 사람들에게 효과적인 구제수단에 대한 접근을 제공해야 한다.

효과적인 구제수단에는 인공지능 시스템의 개발, 도입 또는 사용으로 인한 피해에 대하여 신속하고 적절한 배상 및 보상이 포함되어 있어야 하며, 민사적, 행정법적 또는 적절한 경우 형사적 조치를 포함할 수 있다. 국가인권기구는 각각의 권한에 따른 자신의 결정을 제시함으로써 이러한 보상의 근거가 될 수 있다.

각국은 충분한 인적 개입 없이 이루어진 자동화된 의사결정에 기반하여 중대한 영향을 미칠 수 있는 의사결정의 대상이 되지 않을 권리를 개인에게 부여해야 한다. 적어도 개인은 이러한 자동화된 의사결정에서 인적 개입을 확보할 수 있어야 하며, 그러한 결정이 실시되기 전에 자신의 의견을 피력할 기회를 부여받아야 한다.

각국은 개인이 인공지능 시스템에 의해 야기된 인권 침해의 피해자라는 자신의 주장을 입증하는 것과 관련된 피고 또는 제3자 소유의 정보에 접근할 수 있도록 보장해야 한다. 여기에는 적절한 경우 훈련 및 테스트 데이터, 인공지능 시스템이 어떻게 사용되었는지에 대한 정보, 인공지능 시스템이 특정 권고, 의사결정 또는 예측에 어떻게 이르렀는지에 대해 유의미하고 이해가능한 정보도 포함되며, 인공지능 시스템의 결과물이 어떻게 해석되고 실행되었는지에 대한 상세정보도 포함된다.

소관 국가기관이 인공지능 시스템의 개발, 도입, 혹은 사용으로 인해 야기된 인권 침해 문제를 검토할 때, 인공지능 시스템이 현출하는 ‘객관성의 유혹(allure of objectivity)’에 적절한 회의적인 태도를 견지해야 하며, 인권 유린으로 난관에 처한 개인이 문제의 조치에 대한 책임자들에 비해 높은 수준의 증거에 구속받지 않도록 보장해야 한다.

 

오늘 선언에 참여한 시민사회, 노동, 인권단체들은 인공지능이 미치는 영향과 위험성으로부터 사람들의 인권과 안전, 민주주의를 보장하기 위하여 정부와 국회가 빠른 시일내 위와 같은 조치를 보장하는 입법 절차에 착수할 것을 다시 한번 촉구합니다. (끝)

 

2021. 5. 24.

가짜뉴스체크센터, 건강권 실현을 위한 보건의료단체연합(건강권 실현을 위한 행동하는 간호사회, 건강사회를 위한 약사회, 건강사회를 위한 치과의사회, 노동건강연대, 인도주의실천의사협의회, 참의료실현청년한의사회), 경제정의실천시민연합, 공익변호사와 함께하는 동행, 공익인권법재단 공감, 공익인권변호사모임 희망을만드는법, 군인권센터, 김포장애인야학, 김포장애인자립생활센터, 대구참여연대, 대전참여자치시민연대, 데이터민주주의포럼, 라이더유니온, 매체비평우리스스로, 무상의료운동본부, 미디어기독연대, 민주노총 공공운수노조, 민주사회를 위한 변호사모임 (교육청소년위원회, 노동위원회, 디지털정보위원회, 소수자인권위원회, 아동인권위원회, 여성인권위원회), 민주언론시민연합, 부산참여연대, 빈곤사회연대, 사단법인 경기장애인자립생활센터협의회, 사단법인 두루, 사단법인 여수시민협, 사단법인 정보인권연구소, 사단법인 제주참여환경연대, 사회적협동조합 빠띠, 상록수장애인자립생활센터, 생명안전시민넷, 서울YMCA 시청자시민운동본부, 성남참여자치시민연대, 소비자시민모임, 손잡고, 신대승네트워크, 언론개혁시민연대, 연구공동체 건강과 대안, 울산시민연대, 익산참여연대, 인권운동공간 활, 인천평화복지연대, 장애인권법센터, 장애해방열사_단, 전국교직원노동조합, 전국민주노동조합총연맹, 전쟁없는세상, 정태수열사추모사업회, 진보네트워크센터, 진보3.0, 차별금지법제정연대, 참여연대, 참여와자치를 위한 춘천시민연대, 참여자치21(광주), 충남참여자치지역운동연대, 충북참여자치시민연대, 투명사회를 위한 정보공개센터, 팔레스타인평화연대, 평등과 연대로! 인권운동더하기(거창평화인권예술제위원회, 광주인권지기 활짝, 구속노동자후원회, 국제민주연대, 노동인권실현을위한노무사모임, 다산인권센터, 대학성소수자모임연대 QUV, 대한불교조계종 사회노동위원회, 문화연대, 민족민주열사․희생자추모(기념)단체연대회의, 민주사회를 위한 변호사 모임, 민주주의법학연구회, 민주화실천가족운동협의회, 반도체노동자의 건강과 인권지킴이 반올림, 불교인권위원회, 빈곤과 차별에 저항하는 인권운동연대, 사회진보연대, 삼성노동인권지킴이, 새사회연대, 서교인문사회연구실, 서울인권영화제, 성적소수문화인권연대 연분홍치마, 실천불교전국승가회, 어린이책시민연대, 예수회 인권연대연구센터, 외국인이주.노동운동협의회, 울산인권운동연대, 원불교인권위원회, 인권교육센터 들, 인권교육온다, 인권연극제, 인권운동네트워크 바람, 인권운동사랑방, 장애물없는생활환경시민연대, 장애여성공감, 장애와인권발바닥행동, 전국불안정노동철폐연대, 전국장애인차별철폐연대, 전북평화와인권연대, 제주평화인권연구소 왓, 진보네트워크센터, 청소년인권행동 아수나로, 천주교인권위원회, 한국게이인권운동단체 친구사이, 한국기독교교회협의회(NCCK) 인권센터, 한국비정규노동센터, 한국성적소수자문화인권센터, 한국성폭력상담소, 한국청소년청년감염인커뮤니티 알, 행동하는성소수자인권연대, HIV/AIDS인권연대나누리+), 표현의자유와언론탄압공동대책위원회, 피스모모, 한국방송기술인연합회, 한국여성단체연합, 한국여성민우회, 한국장애인자립생활센터협의회, 형명재단 (총 120개 단체)

※ [내려받기] 선언서 전문

[1] “머신러닝으로 부정수급 탐지, AI로 강력범죄 전자감독”, 과학기술정보통신부 보도자료(2020. 4. 13).

[2] “경찰청, 빅데이터 플랫폼 구축하고 인공지능(AI) 범죄 예방 시범운영”, 경찰청 보도자료(2020. 12. 28) ; "인공지능(AI)으로 범죄예방의 첫걸음 내디딘다", 경찰청 보도자료(2021. 2. 26).

[3] “CCTV 활용 안면인식·동선분석'으로 코로나 감염경로 파악한다”, 뉴스1(2021. 2. 25).

[4] “공공기관 AI 채용은 ‘안알리즘’”, 한겨레21 제1335호(2020. 10. 23).

[5] “AI가 軍 특기병 면접본다…7월부터 시범 운영”, 조선일보(2021. 4. 13).

[6] “인공지능 무기 전쟁”, 한겨레(2021. 4. 10).

[7] “우버 자율주행차 첫 보행자 사망사고…안전성 논란 증폭”, 한국일보(2018. 3. 20). ; “나무 들이받고 불탄 테슬라…운전석에는 아무도 없었다", 경향신문(2021. 4. 19).

[8] “MS 채팅 봇 ‘테이’, 24시간 만에 인종차별주의자로 타락”, 동아사이언스(2016. 3. 27).

[9] “인공지능도 인종차별?…"얼굴인식 소프트에어 백인남성 더 정확"”, 연합뉴스(2018. 2. 12).

[10] “아마존, '여성차별' 논란 인공지능 채용 프로그램 폐기”, BBC(2018. 10. 11). ; 'AI 채용'은 남성을 선호해?…성차별 논란에 '자체 폐기', 중앙일보(2018. 10. 12).

[11] “사는 곳으로 성적을 결정했다 : 가난한 지역 공립학교 학생들에게 낮은 점수 준 알고리즘, 실패한 실험이 남긴 과제”, 한겨레21 제1329호(2020. 9. 11).

[12] “시민단체, 인공지능 채용 공공기관 13곳에 정보공개 청구 및 결과 발표”, 진보네트워크센터 보도자료(2020. 10. 27). ; “‘AI 면접 공정한가’ 온라인 토론회서 쏟아진 쟁점”, 뉴스로드(2021. 2. 17).

[13] “AI가 편집한다지만...포털뉴스 이대로 좋은가?”, MBC 스트레이트(2021. 3. 7).

[14] “무심코 누른 ‘좋아요’가 당신의 투표심리를 조종한다”, 서울경제(2020. 4. 10.)

[15] “Poland: Government to scrap controversial unemployment scoring system”, Algorithm Watch(2019. 4. 16).

[16] “Federal Suit Settlement: End of Value-Added Measures in Houston”, Education News(2017. 10. 10).

[17] “Welfare surveillance system violates human rights, Dutch court rules”, The Guardian(2020. 2. 5).

[18] “Amsterdam and Helsinki launch algorithm registries to bring transparency to public deployments of AI”, VentureBeat(2020. 9. 28).

[19] “Antibes publie l’inventaire de ses algorithmes”, laGazette(2021. 2. 11).

[20] The Government of Canada, “Directive on Automated Decision-Making”.

[21] New Zealand Government, “Algorithm charter for Aotearoa New Zealand”.

[22] European Commission, “Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act)”.

[23] “Question of the realization of economic, social and cultural rights in all countries: the role of new technologies for the realization of economic, social and cultural rights”, 유엔문서번호 A/HRC/43/29(2020. 3. 4).

[24] European Union Agency for Fundamental Rights(2020), “Getting the Future Rights : Artificial Intelligence and Fundamental Rights”.

[25] “인공지능 시대를 준비하는 법·제도·규제 정비 로드맵 마련”, 과학기술정보통신부 보도자료(2020. 12. 24). ; “4차산업혁명委 간담회 - AI에 지나친 쏠림 줄이기…자율규제 방식이 바람직”, 한국경제(2021. 3. 30).

[26] Council of Europe Commissioner for Human Rights(2019), “Unboxing artificial intelligence: 10 steps to protect human rights”.

[27] “Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence”, European Commission(2021. 4. 21).

[28] “Report of the Special Rapporteur on the promotion and protection of the right to freedom of opinion and expression”. 유엔문서번호 A/73/348(2018. 8. 29).

추천

국제인권기준에 따른 개인정보 보호 법제도 개선방안 연구

사단법인 정보인권연구소는 2020년 11월 <유럽연합 「개인정보보호 규정」(GDPR) 등 국제인권기준에 따른 개인정보 보호 법제도 개선방안 연구> 보고서를 발간하였습니다.

최근 정부와 기업은 데이터 산업 활성화를 위해 개인정보 보호를 완화하는 여러 정책을 추진하고 있습니다. 쇼핑내역은 물론 민감한 건강정보에 이르기까지 많은 개인정보가 정보주체의 동의 없이 광범위하게 가명처리 후 거래되기 시작했습니다. 개인정보 보호법은 지난해 데이터3법 논란에 이어 2차 개정을 눈앞에 둔 상황입니다.

정보주체인 국민들이 지금의 데이터 환경을 신뢰할 수 있을까요. 소비자와 이용자의 개인정보를 부당하게 매매하거나 유출한 기업들은 충분히 책임을 지는 모습을 보여주지 못해 왔습니다. 데이터 산업이 정당하고 투명하지 못하다면 국민에게 어떤 이익이 돌아올 수 있을지 의문입니다. 무엇보다 개인정보 자기결정권은 헌법이 보호하는 기본권으로서 산업 발전을 위하여 이를 부당하게 제한해서는 안 될 것입니다.

데이터 환경은 인공지능 등 기술의 발전으로 갈수록 불투명해지고 있습니다. 그러나 우리 사회에서 정보주체의 권리 보장에 대한 진지한 고민은 4차 산업혁명의 구호 속에 실종되어 가는 듯 합니다. 반면 유럽연합 GDPR 등 국제기준에서는 정보주체가 자신의 개인정보 처리에 대하여 정보를 제공받을 권리, 접근할 권리, 수정할 권리, 삭제할 권리, 처리를 제한할 권리, 이동시킬 권리, 프로파일링 및 자동화된 의사결정에 대하여 행사할 수 있는 권리 등을 정교화해 나가고 있습니다.

또 최근 유럽에서는 기업 등 개인정보를 처리하는 자의 책임성 또한 강화되고 있습니다. 개인정보를 처리하는 자는 제품과 서비스에서 설계에 의한 개인정보 보호(data protection by design)와 기본설정에 의한 개인정보 보호(data protection by default)의 의무가 있고, 특히 고위험 개인정보 처리를 하는 경우 공공은 물론 민간에게도 개인정보 보호 영향평가의 의무가 있습니다. 나아가 개인정보 처리 활동을 기록해야 하고 독립적인 정보보호 책임자(DPO)를 두도록 하고 있기도 합니다. 그러나 안타깝게도 우리의 현행법과 개정안에서는 개인정보 처리자의 책임성 보장이 매우 부실한 상황입니다.

이에 연구보고서는 국내외 현황을 다각도로 살펴보고 정보주체에게 공정하고 투명하고 책임감 있는 개인정보 처리를 위한 정책 권고를 담았습니다. 우리의 개인정보 보호 법제도들은 정보주체의 권리를 충분히 보장하고 개인정보 처리자들의 책임성 또한 강화하는 방향으로 개선해야 할 필요가 있습니다. 또한 인공지능 등 신기술 환경에서 정보 인권을 보장하기 위한 거버넌스와 절차가 마련되어야 하고 국가인권위원회와 개인정보 보호위원회가 제 역할을 해야 합니다. 신용정보법과 개인정보 보호법으로 분산되어 있는 개인정보 보호 체계는 일원화되어야 하고, 정보기관 및 수사기관에 광범위한 예외를 구체적으로 한정할 필요가 있습니다.

국가인권위원회가 발주한 이 실태조사 연구보고서는, 사단법인 정보인권연구소 이사장 이호중 교수(서강대학교 법학전문대학원)가 책임을 맡았습니다. 이은우 변호사(법무법인 지향), 오병일 대표(진보네트워크센터), 장여경 이사(정보인권연구소), 김재완 박사(한국방송통신대학교)가 공동연구원으로 참여하고 희우 활동가(진보네트워크센터)가 연구보조원으로 참여했습니다.

♣️ 사단법인 정보인권연구소는 시민사회 관점에서 정보인권을 지지하는 대안적 정책을 연구하고 생산하기 위해 2018년 창립하였습니다(이사장: 이호중 서강대학교 법학전문대학원 교수). http://idr.jinbo.net

♣️ 연구보고서 전체 파일은 국가인권위원회에서 다운받으시거나 첨부파일을 내려받으시기 바랍니다.

[연구보고서 내려받기] 2020정보인권연구소_개인정보보호법제도개선연구_최종보고서

추천

코로나19와 정보인권

[이슈리포트 내려받기] 코로나19와 정보인권 보고서

[ENGLISH / PDF] Covid_19_and_the_right_to_Privacy_an_analysis_of_South_Korean_Experiences

진보네트워크센터와 사단법인 정보인권연구소는 공동으로 <코로나19와 정보인권> 보고서를 발간하였습니다.

한국의 코로나19 대응은 지금까지 성공적인 것으로 평가를 받아왔지만, 동시에 처벌과 통제 중심의 정책은 인권적 관점에서 많은 우려를 불러왔습니다. 특히 코로나19 환자에 대한 역학 조사 및 접촉자 추적 과정에서 과도한 개인정보 수집과 공개가 이루어져 정보인권 침해를 가져왔습니다. 환자의 개인정보와 동선이 공개되어 인터넷에서의 혐오발언에 시달리는 경우도 있었고, 접촉자 추적을 명분으로 만 명이 넘는 사람들의 기지국 접속 정보가 수집되기도 했습니다. 국가인권위원회와 인권단체의 반대에도 불구하고, 지금까지 성폭력 범죄자에게 적용되었던 전자적 위치추적장치(전자팔찌)가 자가격리 위반자에게도 착용이 강제되고 있습니다. 출입명부작성은 전 국민을 대상으로 시행되고 있습니다.

비록 감염병 대응이라는 공익을 명분으로 한 정책이지만, 인권 침해를 최소화하기 위해 개선할 필요가 있습니다. 감염병 대응의 효과는 있었는지, 덜 침해적인 수단은 없는지, 남용을 방지하기 위한 안전조치는 충분한지 점검할 필요가 있습니다. 코로나19가 마지막 감염병이 아닐 것이기 때문입니다.

<코로나19와 정보인권> 보고서는 올해 코로나19 대응 과정에서 문제가 되었던 정보인권 침해 사례와 쟁점들을 정리한 것입니다. 진보네트워크센터와 사단법인 정보인권연구소는 이번 보고서를 토대로 내년에 더욱 심화된 연구를 진행할 예정입니다. 이번 보고서는 정보인권단체의 세계적인 네트워크인 진보통신연합(APC)의 지원을 받아서 제작되었으며, 국문과 함께 영문 보고서로도 발간되어 세계 시민사회 및 전문가들과 함께 바람직한 감염병 대응 정책에 대한 토론의 자료로 활용할 계획입니다.

△이슈리포트 <정보인권>은 사단법인 정보인권연구소 후원회원을 위한 비정기간행물입니다.
일시후원/후원회원 신청 http://idr.jinbo.net/member

추천

경찰 등 법집행기관의 얼굴인식 감시기술 사용과 인권 문제

사단법인 정보인권연구소는 이슈리포트 <정보인권> 통권 제10호로 “경찰 등 법집행기관의 얼굴인식 감시기술 사용과 인권 문제”를 발간하였다. 이 연구는 4.9통일평화재단의 지원으로 제작되었으며 진보네트워크센터도 필자로 함께 참여하였다.

최근 경찰은 치안활동에 첨단과학기술을 결합한 ‘스마트치안’을 강조하면서, 지문, 유전정보 등 고전적 형태의 생체인식정보를 넘어 얼굴정보, 행동정보 등 새로운 형태의 생체정보를 활용하는 치안활동을 확대해 가고 있다.

특히 경찰과 사실상 공동관제하고 있는 지방자치단체 CCTV가 최근 급격히 지능화하고 있다. 경기도 부천시의 경우 코로나19 대응을 위해 확진자의 얼굴 사진과 CCTV 영상 속 시민들의 얼굴을 대조해 같은 사람을 찾아내고 동선을 파악하는 ‘확진자 동선추적 시스템’을 개발하고 있다고 밝히기도 했다.

이미 경찰은 CCTV, 블랙박스 등 범죄현장에서 찍힌 용의자 사진과 구속된 9대 수법범죄자 데이터베이스를 비교·검색하여, 용의자의 신원확인을 신속하게 지원하는 <범죄예방 3D얼굴인식시스템>을 개발 및 관리해 왔다. 이 시스템에는 2019년 현재 이미 198,330건의 얼굴인식정보가 포함되어 있다. 경찰은 3D얼굴인식시스템을 계속 고도화할 계획으로, 2024년에는 실시간 CCTV 연계 얼굴인식을 목표로 하고 있으며, 인공지능을 이용하여 나이 등 대상자 특성에 대한 자동화된 식별도 추구하고 있다.

또 경찰청과 과학기술정보통신부, 산업통상자원부는 공동으로 2018년부터 5개년에 걸쳐 ‘실종아동등 신원확인을 위한 복합인지기술개발사업’을 진행하고 있다. 이 사업은 △ 유전정보, △ 얼굴정보, △ 행동정보, △ 시·공간정보 등을 수집하고 연계하여 인공지능 기반으로 분석하여 고도화된 신원분석을 목표로 하고 있다. 현재는 ‘실종아동수색’이라는 목적에 한정하여 개발되고 있으나, 일단 기술적 기반이 갖추어지면 그 활용이 향후 범죄 수사, 위험방지 등 다양한 경찰활동으로 확대될 가능성이 존재한다.

미국에서는 잘못된 얼굴인식으로 경찰이 무고한 흑인을 체포하는 등 얼굴인식 기술을 둘러싼 많은 논란이 빚어져 왔고, 경찰의 얼굴인식 기술 사용에 대하여 샌프란시스코, 워싱턴 주 등에서 규제법을 도입한 바 있다. 유럽연합에서는 인권기구인 기본권청이 법집행기관의 얼굴인식기술 사용이 유럽 개인정보보호법 GDPR 및 경찰디렉티브에 위배될 가능성을 지적하며 법률에 따른 통제를 제안하였다. 지난 9월에는 영국 항소법원이 경찰의 실시간 얼굴인식 사용에 대한 시민단체 소송에서 최초의 위법 판결을 내렸다. 법원은 경찰이 얼굴인식 기술의 차별적 영향을 적절히 고려하지 못했고, 평등법에 따른 의무를 다하지 못했으며, 민감정보 처리에 대한 개인정보 보호법을 준수하지 못했다고 지적했다.

이슈리포트는 I. 서론 II. 얼굴인식 기술의 개념 III. 해외 현황 및 관련 법제도 IV. 국내 현황 및 관련 법제도 V. 결론 및 제언으로 구성되어 있으며, 경찰 등 법집행기관의 얼굴인식 감시기술의 사용에 대한 해외 사례 및 법제도를 소개하고 나아가 국내 개인정보 보호법 적용 및 그 한계에 대하여 살펴보았다. 이슈리포트는 결론적으로 민감정보인 생체인식정보 처리의 제한에서 경찰 등 법집행 목적을 제외한 현행 개인정보 보호 법령의 개선과 함께 경찰 등 법집행기관의 얼굴인식 기술 사용을 법률에 따라 엄격하게 통제할 것을 제안하였다. 또한 집회시위 등 국민 기본권의 본질을 중대하게 침해할 우려가 있는 분야에서는 얼굴인식기술의 사용을 금지할 것과 국민을 보호하기 위한 법적 근거가 갖추어지기 전에는 법집행기관의 얼굴인식정보 처리를 중단할 것을 제안하였다.

△이슈리포트 <정보인권>은 사단법인 정보인권연구소 후원회원을 위한 비정기간행물입니다.
일시후원/후원회원 신청 http://idr.jinbo.net/member

[이슈리포트 내려받기] 경찰 등 법집행기관의 얼굴인식 감시기술 사용과 인권 문제

법무부x과기부의 대규모 생체인식 감시시스템 구축, 당장 중단해야

─입국 외국인의 얼굴정보 수억건 무단 이용은 위법적이고 국제인권규범을 위반해
─실시간 원격 얼굴인식 기술 등 고위험 인공지능에 사용 유예와 규제 필요

1. 법무부와 과학기술정보통신부가 출입국 심사와 공항 보안을 이유로 얼굴인식 및 행동인식 기술을 활용한 실시간 원격 감시시스템을 개발하고, 이 과정에서 1억건이 넘는 외국인의 얼굴 사진과 내국인의 출입국 심사 정보를 아무런 동의 없이 국가와 민간기업의 인공지능 학습용 데이터로 이용한 것으로 드러났다. 우리 단체들은 위법할 뿐만 아니라 국제인권규범에도 현저히 위배되는 생체인식 감시시스템의 구축을 즉각 중단할 것을 정부에 촉구하며, 외국인, 내국인 피해자들과 함께 법적 대응에 나설 것임을 밝힌다.

2. 2019년, 법무부와 과학기술정보통신부가 부처 협력을 맺으며 시작된 ‘인공지능 식별추적 시스템 구축 사업’은 크게 두 가지 목표를 가지고 있다. 첫째는 감시카메라를 통해 공항 이용자의 신원을 자동으로 식별하고 위험 상황을 실시간으로 탐지하는 등 공항 출입국관리 시스템을 고도화하는 것이고, 둘째는 정부가 보유한 얼굴 사진 데이터를 국내 인공지능 업체에 제공해 이들 업체가 보유한 얼굴인식 및 행동인식 모델과 솔루션을 고도화시키는 것이다.

3. 우리는 먼저 어떠한 사회적 논의와 합의도 없이 실시간 원격 감시 시스템을 구축하려는 법무부의 계획에 심각한 우려를 표한다. 사업계획서 및 정보통신산업진흥원의 보고서에 의하면 해당 사업은 출입국 심사 중 본인확인을 위한 1:1 얼굴인식 뿐만 아니라 공항 내 CCTV 영상과 데이터베이스 간 실시간 1:N 얼굴인식, 이상행동 탐지 구축을 목표로 하고 있다. 하지만 얼굴인식 등 생체정보를 활용한 실시간 원격 감시 시스템은 기본권 침해와 차별적 결과를 가져오는 심각한 위험성을 갖고 있어 전세계적으로 규제와 통제가 논의되고 있다. 미국은 샌프란시스코를 시작으로 각 지방정부가 법 집행기관의 얼굴인식 기술 사용을 규제하는 법안을 통과시켰고 관련된 연방 법률 또한 논의되고 있다. 유럽연합은 지난 4월 공개한 유럽연합 인공지능 법안 초안을 통해 공개적으로 접근 가능한 공간에서의 법 집행 목적의 실시간 원격 생체인식 시스템을 ‘용납할 수 없는 위험’ 또는 ‘고위험’ 인공지능으로 규정하고 원칙적으로 금지됨을 밝혔다. 나아가 유럽의회는 법률 제정 전 얼굴인식 시스템에 대한 사용 유예를 각국 정부에 요구하는 결의안을 발표하기도 했다.

4. 한국도 이러한 규제 책임에서 예외가 될 수는 없다. 지난 9월, 유엔인권최고대표는 <디지털시대의 프라이버시권 보고서>를 통해 얼굴인식 기술 등 고위험 인공지능에 대한 사용유예를 요구하였는데, 이 보고서는 한국 정부도 참여한 유엔인권이사회 2019년 결의 42/15에 의해 준비된 것이다. 현재 유엔인권이사회에서 준비중인 결의안 초안에서는 법적 근거가 없는 생체인식 기술의 사용을 특히 인권침해가 중대한 것으로 명시하고 있으며, 이러한 원격 생체인식 기술이 국제인권법이 보장하는 인권을 침해하지 않도록 법적 조치를 취할 것을 각국 정부에 촉구하였다. 특히 유엔 인종차별철폐위원회는 인종 프로파일링을 매우 민감하고 금지가 요구되는 개인정보 처리로 보고 있으며 테러 방지 등의 목적을 포함한 모든 경우에서 인종 프로파일링을 엄격히 금지하도록 권고한 바 있다. 그러나 법무부는 위와 같은 국제인권법상의 법적 의무를 위반하여 특정한 외국인 집단을 고위험군 등으로 평가하는 등 편향적으로 프로파일링하고 차별을 야기할 가능성이 있는 인공지능 식별추적시스템을 개발하고 있다. 유엔인권최고대표 및 유엔인종차별철폐위원회 등 조약기구의 권고는 헌법 제6조 제1항에 따라 엄연히 국내법적 효력이 있는 국제인권조약의 공적 해석이라고 볼 수 있다. 따라서 법무부가 구축하려는 인공지능 식별추적시스템은 국내법적으로도 이미 그 사용과 개발이 중단되어야 할 엄격한 규제의 대상에 속한다.

5. 또 다른 심각한 문제는 법무부 사업에서 대량의 외국인 생체정보가 어떠한 동의나 법적 근거 없이 목적외로 이용되었다는 것이다. 이러한 생체정보의 목적외 이용은 현행 개인정보보호법을 명백히 위반하는 것이다. 해당 사업은 계획 단계부터 민간기업의 법적이고 경제적인 애로사항을 해결하기 위하여 법무부가 보유한 출입국 관련 데이터를 활용해 인공지능 기술 개발을 고도화하는 것을 목표로 했다. 실제 이 사업에서 출입국 외국인의 얼굴 사진 1억건이 학습용 데이터, 1천만건의 사진이 검증용 데이터로 처리된 것으로 확인되었다. 2010년 출입국관리법 개정으로 한국에 입국하는 외국인의 지문과 얼굴 정보 등 생체정보 제공이 의무화된 점을 이용하여 법무부는 수억건의 외국인 생체정보를 출입국 시 본인확인 용도를 넘어서 이용하도록 개방하였고, 국내 업체들은 이 인권침해적인 기술 개발로 특허를 출원하여 국제 무대에서 영업 중이다. 인공지능 식별추적시스템에 외국인 개인정보를 수집·이용한 전 과정은 개인정보의 목적외 처리를 금지하고 있는 개인정보보호법을 위반하였으며, 민감정보인 생체인식정보의 처리에서 요구되는 법적 요건도 전혀 준수하지 않았다. 법무부 등은 해당 사업에 대한 법적 근거를 출입국관리법 제12조의2로 보고 있으나, 해당 조항은 외국인이 ‘입국시’ ‘본인임을 확인하는 절차’에 ‘얼굴에 관한 정보를 제공’하는 데 한정되어 있을 뿐이다.

6. 한편 법무부 등은 외국인 인권침해에서 더 나아가, 출입국 심사 과정에서 제출된 내국인의 얼굴사진 또한 이미 이용했거나 이용하기 위해 준비중이다. 내국인 심사정보 데이터베이스는 2020년에 이미 인공지능 실증랩에 이관·구축되었으며 추후 시스템 고도화를 위해 이를 이용할 계획이고, 나아가 현재 공항 출입국 관리 구역에 일련의 카메라 시스템을 구축해 인공지능 학습을 위한 얼굴인식 및 행동인식 데이터를 수집하고 있는 것으로 보인다. 이 또한 어떠한 동의나 법적 근거가 없는 위법 행위다.

7. 우리 단체들은 현행 개인정보 보호법과 국제인권규범을 정면으로 위반한 법무부 인공지능 식별추적시스템 구축 사업의 위험성에 심각한 우려를 표하며 정부에 이 사업의 즉각 중단을 요구한다. 우리 단체들은 공익 소송으로 이 사업으로 자신의 개인정보가 위법적으로 처리된 외국과 국내의 피해자들과 함께 법적 대응에 나설 것이다. 나아가 국회가 생체인식 기술 기반의 대규모 감시 시스템 등 고위험 인공지능의 사용을 유예하고 이를 규제하는 법률적 대책을 마련할 것을 촉구한다.끝

2021년 10월 21일

공익법센터 어필, 민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 외국인이주노동운동협의회, 진보네트워크센터

 

[관련기사 참조]

과기부장관의 제2의 주민등록번호 연계정보(CI) 임시허가에 대한 헌법소원 제기

과기부장관의 제2의 주민등록번호 연계정보(CI)
생성⋅사용 ‘임시허가’에 대한 헌법소원 제기

본인식별 용도의 연계정보 사용은 법률적 근거 없고
공공기관의 행정비용 절감, 편의 위한 목적에 비해
사생활 침해, 개인정보자기결정권 등 기본권 침해 과도해

1. 민주사회를 위한 변호사모임 디지털정보위원회, 진보네트워크센터, 사단법인 정보인권연구소, 참여연대는 지난 9/17(금) 과학기술부장관이 제2의 주민등록번호인 연계정보(Connecting Information, CI)를 국민의 식별정보로 활용하여 민간기업으로 하여금 모바일전자고시를 하도록 ‘임시허가’한 것이 사생활의 비밀과 자유, 개인정보자기결정권 등을 침해하는 위헌적 공권력 행사임을 확인해 달라는 헌법소원을 제기하였다.

2. 이번 헌법소원의 청구인은, 자신이 동의하거나 미리 사전에 고지받은 적이 없음에도 이동통신사(SKT)로부터 한국교통안전공단의 자동차검사 사전안내문을 문자로 전달받았다. 이는 과기부장관이 지난 6/23 정보통신 진흥 및 융합 활성화 등에 관한 특별법(이하, 정보통신융합법)에 따라 SKT, 나이스평가정보(주), 코리아크레딧뷰로(주), 에스씨아이평가정보(주) 등 본인확인기관에 내준 모바일 전자고지에 대한 ‘임시허가’에 따른 것이었다. 이 임시허가에 따라 3개 본인확인기관과 공공기관은 이번 사건의 청구인을 포함 고지 대상자들의 주민등록번호를 연계정보로 변환한 후, SKT가 보유하고 있는 연계정보를 비교하여 대상자를 식별하고, 식별된 국민의 휴대전화번호로 전자고지 문자메시지를 발송하였다.

3. 연계정보는 “정보통신서비스 제공자의 온⋅오프라인 서비스 연계를 위해 본인확인기관이 이용자의 주민등록번호와 본인확인기관간 공유비밀정보를 이용하여 생성한 정보(본인확인기관 지정 등에 관한 기준)”이다. 이에 따르면 연계정보는 주민등록번호를 해시함수를 이용하여 변환하되 ‘본인확인기관간 공유 비밀정보’를 추가하여 생성하고, 그 기능은 온⋅오프라인이나 서로 다른 서비스 사이의 연계를 위한 ‘동일인 인증’ 수단이다. 그런데 이 생성과정의 특수성에 따라 연계정보는 주민등록번호와 같이 국민 개개인마다 고유하고 중복되지 않는 유일성을 가진다. 한 번 부여되면 주민등록번호를 변경하지 않는 한 변경할 수 없어 가히 제2의 주민등록번호라고 할 수 있다. 이러한 특징을 이용해 연계정보는 공공·민간부문에서 ‘범용 식별정보’로 광범위하게 이용되고 있으며, 수사기관에 의해 수사대상자 식별 및 수사 목적으로도 활용되고 있다. 또한 이번 헌법소원의 청구대상이 된 규제 샌드박스 ‘임시허가’를 통해 공공기관의 ‘모바일 전자고지 서비스’로 그 활용이 확대되는 상황이다. 특히 ‘모바일 전자고지 서비스’의 경우, 단순 ‘안내’에 대한 통지에 그치지 않고 교통범칙금, 과태료, 하이패스 통행료 미납통지 등 공공적인 불이익 조치 역시 예정되어 있어 이용 범위가 더욱 광범위할 것으로 보인다.

4. 이번 과기부장관의 임시허가는 법적 근거가 없는 연계정보의 생성과 사용을 전면적으로 허용하는 위헌적인 공권력 행사이다. 임시허가의 목적이 공공기관 등이 우편물 고지로 인한 비용을 모바일 고지로 대체함으로써 절감하겠다는 경제적 목적이라면 국민의 헌법상 기본권 제한의 정당한 목적으로 보기 어렵고, 덜 침해적인 본인확인 대체수단이 있음에도 주민등록번호와 같이 유일성, 불변성의 범용 식별코드인 연계정보를 사용하는 것은 주민번호 사용을 최소화하기 위해 도입한 ‘대체수단’의 입법 목적에도 반한다. 무엇보다 연계정보는 엄격한 법적 보호를 받는 주민등록번호와 달리 그 생성과 사용에 어떤 보호장치도 없다. 또한 과기부 장관의 임시허가의 근거가 되는 정보통신융합법에 따르면 법령정비가 완료되지 않을 경우 임시허가의 기간이 무기한으로 연장될 수도 있는 반면, 연계정보의 생성 등 처리에 대해 정보주체가 행사할 수 있는 권리는 거의 없어 법익의 균형성도 갖추지 못한 것이다.

5. 전세계에서 유래를 찾아보기 어려운 국민 식별 번호인 주민등록번호는 사망시까지 거의 변하지 않아 공공기관과 민간기업이 온라인과 오프라인에서 누군가를 식별하고 추적하는 데 매우 유용하게 사용해 왔다. 주민번호 남용과 유출 피해가 끊이지 않자 2014년 법령상 근거가 없는 주민번호의 처리가 금지되고 일부 업종을 제외하고 민간의 주민번호 사용이 원칙적으로 금지되었다. 대신 정부는 정보통신망법 개정을 통해 주민등록번호를 사용하지 않고 본인을 확인할 수 있는 대체수단을 제공하도록 하고, 이를 제공하는 본인확인기관을 지정하였으며 본인확인기관은 본인확인정보와 중복가입확인정보를 통해 특정 사이트에서의 본인확인을 수행해왔다. 이보다 앞서  2010년 경 방통위는 온⋅오프라인 사업자간 서비스연계를 지원한다며 연계정보(CI)라는 새로운 식별번호를 도입하여 동일인 인증 수단으로 사용하고 있었다. 이후 주민등록번호 수집 및 이용이 엄격히 제한되자 각 개인에 유일하고 불변하는 정보인 연계정보가 ‘인증정보’가 아닌‘식별정보’로 널리 이용된 것이다. 그런데 연계정보는 개인 식별이 가능한 정보이기에 개인정보이며, 이를 대상으로 한 생성 및 이용 행위는 원칙적으로 개인정보자기결정권의 제한에 해당한다. 그러나 연계정보를 도입하면서 법률적 근거를 마련하는 등 필요한 절차를 거치지 않았다. 정보통신망법상 ‘대체수단’의 정의에 따르면 연계정보는 “주민등록번호를 사용하지 아니하고 본인을 확인하는 방법”인 대체수단이라고 할 수 없고, 설령 대체수단의 구성요소로 본다고 하더라도 독립된 식별정보로 이용될 경우, 대체수단의 사용목적과 그 기능을 벗어난 사용목적과 이용 행위는 법적 근거가 없다.

6. 이번 헌법소원은 지난 2021년 3월 10일과 2021년 4월 30일 연계정보의 생성·발급·처리 등의 행위가 헌법 상 기본권을 침해한다는 등의 취지로 제기한 두 차례의 헌법소원이 청구기간 도과와 민간기업이 생성하기 때문에 헌법심판의 대상이 되지 않는다는 헌법재판소의 각하 결정 이후 연계정보와 관련해 세번째 제기하는 헌법소원이다. 2017년 한 해 기준, 인터넷 이용자 수 1명당 평균 20회 이상의 본인확인서비스를 이용할 정도로 본인확인서비스 의존도는 높다. 특히 코로나19상황의 장기화로 온라인서비스 활용은 급증하는 상황에서 연계정보는 성명 등 별개의 개인정보 등을 연결하는 만능키 또는 연결자로서 민간부문의 각종 상거래 및 공공부문에서도 그 사용범위가 앞으로 더욱 넓어질 것으로 보인다. 사정이 이러함에도 제2의 주민번호인 연계정보가 언제, 어떻게 생성되었는지 당사자인 정보주체가 전혀 알 수 없고, 알게 되더라도 정보주체로서의 기본적 권리인 삭제권, 처리정지권 등을 행사할 수 있는지조차 불분명한 현실이라면, 또한 실제하는 기본권 침해의 상황을 수정할 수 있는 제도적 장치가 전혀 없다고 한다면, 지난 2005년 헌법재판소가 명시적으로 인정한 개인정보자기결정권은 결정문 속의 문언에 불과할 수밖에 없다. 끝.

2021년 9월 24일

민주사회를 위한 변호사모임 디지털정보위원회, 진보네트워크센터, 사단법인 정보인권연구소, 참여연대

「전자정부법 시행령」 일부개정령안에 대한 공동의견서 제출

2021년 7월 21일 행정안전부가 입법예고한 「전자정부법 시행령」 일부개정령안에 대해 다음과 같이 의견을 제출합니다.

2021년 8월 31일 

건강권 실현을 위한 보건의료단체연합(건강권 실현을 위한 행동하는 간호사회, 건강사회를 위한 약사회, 건강사회를 위한 치과의사회, 노동건강연대, 인도주의실천의사협의회, 참의료실현청년한의사회), 민주사회를 위한 변호사모임 디지털정보위원회, 무상의료운동본부, 사단법인 정보인권연구소, 연구공동체 건강과대안, 전국민주노동조합총연맹, 진보네트워크센터, 참여연대, 경제정의실천시민연합

「전자정부법 시행령」 일부개정령안에 대한 의견서 

1.범용 식별자로서 제2의 주민등록번호인 연계정보 활용 삭제 (개정령안 제12조 4항)

1)개정안 내용

시행령안 12조(민원인등의 본인확인) ④ 행정안전부장관은 「개인정보 보호법」제24조의2제1항제1호에 따라 주민등록번호를 처리할 수 있는 중앙행정기관 등의 장이 민원인 등의 신원을 식별하기 위하여 요청하는 경우에는 주민등록번호를 매개로 하여 변환한 정보(제2항제1호에 따른 본인확인 방법 이용시 확보하는 이용자 식별 정보를 말한다. 이하 “연계정보”라 한다)를 생성하여 제공할 수 있다

2)검토의견

  • 「전자정부법 시행령」 일부개정령안(이하 개정령안)  제12조 제2항 제1호에서 “정보통신망 이용촉진 및 정보보호 등에 관한 법률 제23조의3에 따른 본인확인 방법”을 규정하여 전자정부법 제10조에 따른 민원인의 본인확인방법의 하나로 추가하고, 이어 제12조 제4항에서 ‘행정안전부장관은 개인정보 보호법 제24조 의2 제1항 제1호에 따라 ‘주민등록번호를 처리할 수 있는 중앙행정기관등의 장이 민원인 등의 신원을 식별하기 위하여 요청하는 경우에는 주민등록번호를 매개로 하여 변환한 정보(제2항제1호에 따른 본인확인 방법 이용시 확보하는 이용자 식별 정보를 말한다. 이하 “연계정보”)를 생성하여 제공할 수 있다’는 규정을 신설하였음.  
  • 연계정보(CI)는 주민등록번호를 특정한 방식으로 암호화하여 생성한 번호로서 주민등록번호와 1:1 매칭되는 고유식별번호임. 시행령안에서는 이미 주민등록번호를 처리할 권한이 있는 기관을 위하여 연계정보를 생성, 처리할 수 있도록 하고 있기 때문에 정당화될 수 있는 것처럼 보이나, 연계정보가 활용되고 있는 아래와 같은 맥락을 고려하면 굳이 기존의 연계정보를 활용할 필요가 있는지 신중하게 판단할 필요가 있음. 
  • 연계정보는 법령에 근거가 없고 단지 방송통신위원회 고시 「본인확인기관 지정 등에 관한 기준」(이하 기준) 제 2항 8호에 규정되어 있을 뿐인데, 위 기준에도 연계정보의 생성주체, 생성방법, 사용기준, 정보주체의 권리 등에 관한 어떠한 규정도 없어, 그 법적 성격과 사용기준, 통제방법 등이 모두 불분명한 정체불명의 정보이므로 이러한 정체불명의 정보를 전자정부법 시행령에 다른 법령과의 별다른 연결고리 없이 갑자기 ‘이용자 식별 정보’라 규정하고 본인확인방법의 하나로 도입하는 것은 올바른 입법이라 할 수 없음. 
  • 정보통신망법은 제23조의3에서 방송통신위원회가 본인확인기관을 지정하도록 하고 있는데, 본인확인기관은 주민등록번호를 사용하지 아니하고 본인을 확인하는 방법(대체수단)의 개발ㆍ제공ㆍ관리 업무를 하는 기관임. 그러나 대체수단이 구체적으로 무엇인지는 법령상으로 명확하지 않은데, 위 기준에서는 본인확인정보(기준 2항 3호), 중복가입확인정보(기준2항 5호), 연계정보(기준2항 8호) 등 다양한 이용자 식별자를 정의하고 있고, 이 중 중복가입확인정보와 연계정보는 모두 주민등록번호를 이용하여 생성된 정보임. 
  • 위 기준에 정의되어 있는 바와 같이, 연계정보는 애초에 “정보통신서비스 제공자의 온·오프라인 서비스 연계를 위해” 생성한 인증 정보일 뿐임. 그러나 수많은 민간 정보통신서비스 제공자들은 본인확인을 통해 이용자의 연계정보를 애초의 생성 목적을 넘어 개인식별정보의 하나로 수집해 왔음. 개정령안은 주민등록을 수집, 처리할 수 있는 공공기관에서 연계정보까지 제공받을 수 있게 하여, 연계정보를 수집, 처리할 수 있는 기관을 정보통신서비스 제공자에서부터 공공기관으로까지 확대하고 있음. 이에 따라 연계정보는 과거 주민등록번호와 마찬가지로 민간 및 공공영역을 불문하고 ‘범용 국민식별번호’로서 활용되게 될 것임. 
  • 주민등록번호 법정주의 및 대체수단 제도가 도입된 근본적인 원인은, 민간 및 공공영역에서 주민등록번호를 무분별하게 수집, 처리하여 주민등록번호가 다양한 개인정보를 연계하는 ‘범용 식별번호’로 기능하게 되었고, 더불어 주민등록번호를 비롯한 개인정보의 유출이 빈번하게 발생함에 따라 유출된 개인정보가 주민등록번호를 매개로 연계, 통합되어 정보주체의 신원이 도용되거나 신체적, 재산적 피해를 야기하는 문제를 발생시켰기 때문임. 이러한 연유로 주민등록번호 수집과 사용을 엄격히 법률로 규제하고 대체수단 제도를 도입하게 되었음에도 불구하고, 대체수단의 하나로 도입된 연계정보를 과거 주민등록번호와 같이 범용 식별번호로 활용한다면 똑같은 문제가 반복될 수밖에 없음. 
  • 주민등록번호의 법정주의 도입 취지를 고려하여 주민등록번호와 마찬가지의 범용 국민식별번호를 도입하고자 한다면 시행령이 아니라 전자정부법에서 해당 번호의 생성 목적, 활용 범위, 제한 요건 등을 명확하게 규정해야 할 것임.

제2의 주민등록번호인 연계정보를 민간 시스템과의 연계를 위해 범용 식별번호로 사용하고자 하는 것이 아니라면, 이미 국민식별번호인 주민등록번호를 보유하고 있는 공공기관에서 연계정보를 처리할 필요가 있는지 의문임. 민간 시스템과의 연계를 위해서 필요하다면 범용 식별번호가 아닌 해당 목적별로 다른 개인정보 혹은 식별자를 활용하는 방향을 모색할 필요가 있음. 개정령안 제12조 4항은 삭제하는 것이 타당함. 

2. 인공지능 전자정부 서비스의 책임성 규정 필요(개정령안 제15조의2)

1)개정안 내용

안 제15조의2(지능형 전자정부서비스의 도입ㆍ활용) ① 법 제18조의2제3항에 따른 전자정부서비스에 활용할 수 있는 인공지능 등의 기술은 다음 각 호를 말한다.
  1. 자연어처리
  2. 음성인식
  3. 영상인식
  4. 그 밖에 전자적 방법으로 학습ㆍ추론ㆍ판단 등을 구현하는 기술로서 지능형 전자정부서비스 활용에 필요한 기술  제17조(민간과의 업무협약 및 지원기준 등) ① 중앙행정기관등의 장은 개인 및 기업, 단체 등과 업무협약 또는 서비스 구매를 하는 경우에는 서비스의 제공주체, 범위와 대상, 주요 내용, 정보의 제공 방법 및 주기 등을 함께 고려하여야 한다.
  ② 중앙행정기관등의 장은 법 제21조제2항에 따라 민간 등이 새로운 서비스를 개발ㆍ제공할 수 있도록 필요한 지원을 하는 경우에는 다음 각 호의 사항을 고려하여 지원 여부 및 지원 규모 등을 결정하여야 한다.
  2. 새로운 서비스의 국민 편의성 또는 행정 효율성
  3. ------------- 기술적 난이도
  4. 그 밖에 행정안전부장관이 지원 여부 및 지원 규모 결정에 필요하다고 정하는 사항

2) 검토의견

01.개정령안 제15조의2

  • 개정령안 제15조의2의 1항에서 지능형 전자정부서비스에 활용할 수 있는 인공지능 등의 기술의 종류 구체화하고, 2항에서 지능형 전자정부 서비스를 지원할 수 있는 사업의 범위를 명시하고 있음. 이는 법 제18조의2(지능형 전자정부서비스의 제공 등)에 따른 것임. 또한 법 제21조는 전자정부서비스의 ‘편의성과 효율성을 높이기 위하여 업무협약, 서비스 구매 등을 통하여’, 민간 서비스와 결합하여 전자정부서비스를 개발⋅제공하거나 아예 민간 서비스를 제공할 수 있도록 하고 있음. 그리고 시행령안 제17조는 이 과정에서 고려해야 할 사항들을 규정하고 있음.
  • 전자정부법 제2조에 따르면 “전자정부서비스”란 “행정기관등이 전자정부를 통하여 다른 행정기관 등 및 국민, 기업 등에 제공하는 행정서비스”를 말함. 행정기관은 인공지능을 활용한 전자정부서비스를 기업, 국민 등에 대해 할 수 있게 됨. 「행정서비스 통합 추진단 설치 및 운영에 관한 규정」(국무총리령)에 따르면, "행정서비스"란 「전자정부법」(이하 "법"이라 한다) 제9조에 따른 전자민원창구를 통하여 민원사항 등을 처리하는 서비스, 법 제12조의2에 따른 공공서비스 및 법 제20조에 따른 전자정부 포털을 통하여 제공되는 서비스를 말하므로 인공지능에 의한 행정서비스를 제공하겠다는 것임.
  • 행정안전부가 펴낸 2020년 전자정부서비스 이용실태 조사에 따르면 만 16∼74세 국민 중 98.9%가 전자정부서비스를 이용했다고 함. 이용목적은 ‘민원서류 열람·교부·신청·접수’, ‘세금 및 공과금 조회·납부·환급’, ‘정보 문의·조회’, ‘공공서비스 및 시설물 예약·신청’ 민원제기, 불편신고, 고충처리 국민 제안·참여 등 다양함. 앞으로 인공지능으로 제공하는 행정서비스의 종류도 이 범주에 준하거나 확대될 것으로 보임.
  • 그러나 서류발급과 같은 기계적인 행정서비스 외의 좀더 고차원적인 이용목적에 새로운 기술, 인공지능을 도입하기 위해서는 위험, 부작용 등을 가능한 사전에 예측하고 그 책임성을 분명히 하는 것이 필요함. 
  • 법 및 시행령안은 인공지능 및 민간서비스의 도입 및 활용만을 언급하고 있을 뿐, 인공지능 기술과 민간서비스 도입 과정에서 발생할 수 있는 위험을 통제하기 위한 원칙, 절차, 안전조치 등에 대해 전혀 언급하지 않고 있음. 인공지능 기술이 ‘전자정부서비스의 품질을 향상’시킬 수 있는 많은 잠재력을 갖고 있음에도 불구하고, 인공지능 기술 및 관련 데이터에 대한 적절한 통제가 이루어지지 않을 경우 인권을 침해하거나 차별을 야기하는 등의 문제를 야기할 수 있다는 우려가 제기되어 왔음. 특히 국민들에게 투명하고 공정한 서비스를 제공해야 하는 전자정부 서비스이기 때문에 이러한 위험성에 대한 사전 통제 방안이 마련되어야 함.
  • 따라서 행정기관이 인공지능을 사용하여 행정서비스를 제공하기 위해서는 그 범위와 한계를 명확히 해야 할 것이며, 서비스 제공 과정의 투명성과 결과에 대한 책임성이 특히 요구됨. 법령에는 이와 같은 책임성, 관리감독 관련 규정이 전혀 없음. 무엇보다 행정기관 등이 고유업무를 위해 수집, 보관하는 행정정보의 종류가 다양함에도 일괄 인공지능 행정서비스로 제공할 수 있도록 한 것은 문제가 있음.
  • 또한 인공지능을 활용한 전자정부 서비스가 국민들에게 어떠한 결정을 내릴 경우, 그러한 결정에 대해 당사자가 이의를 제기하거나 설명을 요구할 때 이에 대응할 수 있는 적절한 대책이 마련될 필요가 있음. 이러한 요구 조건들을 어떻게 보장할 것인지에 대한 대책 없이 단지 전자정부 서비스에서 활용할 수 있는 인공지능 기술의 종류와 이를 지원할 수 있다는 점만을 규정하는 것은 매우 무책임한 행정이라고 할 수 있음.

이에 인공지능 기술을 활용하여 제공하는 행정서비스 종류와 범위를 구체적으로 명확히 규정하는 것이 필요함.

02.개정령안 17조

  • 개정령안 17조에 따르면, 민간의 서비스를 전자정부 서비스에 결합하거나 그대로 도입할 수 있도록 하고 있음. 공공서비스의 민간서비스 활용은 공공성이 강한 다양한 행정서비스를 민간서비스의 편리성, 효율성으로 대체하겠다는 것으로 이는 정부 또는 국가의 역할을 일정 정도 민간에 위임하는 것임. 이 경우, 공공성확보와 행정의 책임성을 어떻게 담보할 것이냐가 반드시 고려되어야 할 것임.
  • 만약 불가피한 경우 민간 서비스를 활용할 수 있다고 하더라도 민간서비스를 활용한 공공서비스이기 때문에 행정에 요구되는 공정성, 책임성, 투명성 등 기본원칙을 준수해야 함. 민간의 서비스를 실제로 운용하는 공공기관은 이에 대해 합당한 책임을 질 수 있도록 해야하며, 이를 위한 필수적인 요구사항을 민간 서비스들이 충족하도록 할 필요가 있음. 예를 들어 민간 기술의 영업비밀 보호가 공공 서비스의 투명성 요건과 충돌하지 않는지, 민간 서비스에서 발생한 문제들에 대해 이를 운용하는 공공기관이 충분히 설명가능한지, 민간의 서비스가 인권 침해나 차별의 위험이 없도록 어떻게 보장할 것인지 등에 대한 대책이 마련되어야 함. 
  • 그러나 시행령안은 이를 어떻게 보장할 것인지에 대한 언급이 전혀 없으며, “업무협약 또는 서비스 구매를 추진하는 경우에는 서비스의 제공주체, 범위와 대상, 주요 내용, 정보의 제공 방법 및 주기 등을 함께 고려”하도록 한다든지, 민간 서비스를 지원할 경우 ‘국민 편의성 또는 행정 효율성, 기술적 난이도’를 고려한다든지 정도만 규정하고 있을 뿐임. 
  • 전자정부법에서 정보시스템 감리에 대한 규정이 있기는 하지만, 감리 과정에서 위에서 언급한 고려사항들을 다룰 수 있는지도 명확하지 않음. 

인공지능 기술 및 민간의 서비스를 전자정부 서비스에 도입할 때 인권 침해, 차별, 기타 서비스 상의 제반 문제를 통제하고 전자정부서비스의 공정성, 책임성, 투명성을 보장할 수 있는 절차 및 규율 방안을 마련하여야 할 것임. 개정령안 제15조의2, 제17조는 이같은 내용으로 수정보완되어야 함.  

3. 본인 행정정보 전송 대상의 무분별한 확대 반대 (개정령안 제51조의2)

1)개정령안 내용

개정령안 제51조의2(전자적 제공 요구방법 등) ① 법 제43조의2제1항제3호에서 “그 밖에 대통령령으로 정하는 개인, 법인 또는 단체”란 다음 각 호의 어느 하나에 해당하는 자를 말한다.
  1. 「신용정보의 이용 및 보호에 관한 법률」 제33조의2제1항제2호부터 제5호에 해당하는 자
  2. 「신용정보의 이용 및 보호에 관한 법률」 제2조에 따른 신용정보회사 및 신용정보집중기관
  3. 그 밖에 행정안전부장관이 지정하여 고시하는 자② 법 제43조의2제3항제5호에서 “대통령령으로 정하는 사항”이란 다음 각 호의 사항을 말한다.
  1. 정기적인 제공을 요구하는 경우 제공요구의 종료시점
  2. 그 밖에 행정안전부장관이 정하여 고시하는 사항

2)검토의견

  • 전자정부법 제43조의2는 행정기관이 보유하고 있는 개인정보를 정보주체의 요구에 따라 본인 혹은 제3자(소위 마이데이터 사업자)에게 실명으로 그대로 제공하도록 하고 있음. 법43조의2에 따라 행정정보 제공받을 수 있는 대상에 행정기관과 은행을 지정하고 3호에 ‘그 밖에 대통령령으로 정하는 개인, 법인 또는 단체’를 추가로 지정하고 있음. 그런데 개정령안에서 그 범위가 지나치게 광범하여 민간 기업이 자신들의 영리적 목적으로 개인들을 회유하여 공공기관이 보유하고 있는 개인정보를 수집, 활용할 우려가 있음. 
  • 개정령안에서 추가적으로 지정하고 있는 제3자에는 우선 ‘「신용정보의 이용 및 보호에 관한 법률」 제33조의2제1항제2호부터 제5호에 해당하는 자’가 포함되어 신용정보법 상 전송요구권을 적용받는 사업자를 모두 포괄하고 있음. 이에는 본인신용정보관리회사, 개인신용평가회사 회사 뿐만 아니라, 다시 신용정보법 시행령으로 위임되는 신용정보제공⋅이용자, 그 밖에 시행령에서 정하고 있는 자를 포함하고 있음. 신용정보법 시행령에서 지정하고 있는 신용정보제공⋅이용자는 다시 시행령 ‘제5조제2항제1호부터 제20호까지의 자 및 제21조제2항 각 호의 자’를 의미하는데, 이를 살펴보면 대다수 금융사, 협동조합, 보험회사 등을 포함하고 있음. 
개정령안 

제51조의2(전자적 제공 요구방법 등) ① 법 제43조의2제1항제3호에서 “그 밖에 대통령령으로 정하는 개인, 법인 또는 단체”란 다음 각 호의 어느 하나에 해당하는 자를 말한다.
1. 「신용정보의 이용 및 보호에 관한 법률」 제33조의2제1항제2호부터 제5호에 해당하는 자

신용정보법 제33조의2(개인신용정보의 전송요구) ① 개인인 신용정보주체는 신용정보제공ㆍ이용자등에 대하여 그가 보유하고 있는 본인에 관한 개인신용정보를 다음 각 호의 어느 하나에 해당하는 자에게 전송하여 줄 것을 요구할 수 있다.
1. 해당 신용정보주체 본인
2. 본인신용정보관리회사
3. 대통령령으로 정하는 신용정보제공ㆍ이용자
4. 개인신용평가회사
5. 그 밖에 제1호부터 제4호까지의 규정에서 정한 자와 유사한 자로서 대통령령으로 정하는 자

신용정보법 시행령
제28조의3(개인신용정보의 전송요구) ① 법 제33조의2제1항제3호에서 “대통령령으로 정하는 신용정보제공ㆍ이용자”란 제5조제2항제1호부터 제20호까지의 자 및 제21조제2항 각 호의 자를 말한다.

제5조(신용정보업 등의 허가를 받을 수 있는 자) ② 법 제5조제1항제1호에서 "대통령령으로 정하는 금융기관"이란 다음 각 호의 어느 하나에 해당하는 기관을 말한다. 다만, 제9호부터 제14호까지의 경우에는 그 연합회 또는 중앙회만 말한다. <개정 2010.6.28, 2010.11.15, 2014.12.30, 2015.9.11, 2016.3.11, 2016.5.31, 2016.10.25, 2017.6.27, 2020.8.4>
1. 「은행법」에 따라 인가를 받아 설립된 은행(같은 법 제59조에 따라 은행으로 보는 자를 포함한다)
2. 「금융지주회사법」에 따른 금융지주회사
3. 「한국산업은행법」에 따른 한국산업은행
4. 「한국수출입은행법」에 따른 한국수출입은행
5. 「농업협동조합법」 제161조의11에 따른 농협은행
5의2. 「수산업협동조합법」에 따른 수협은행
6. 「중소기업은행법」에 따른 중소기업은행
7. 「한국주택금융공사법」에 따른 한국주택금융공사
8. 「자본시장과 금융투자업에 관한 법률」에 따른 금융투자업자ㆍ증권금융회사ㆍ종합금융회사ㆍ자금중개회사 및 명의개서대행회사
9. 「상호저축은행법」에 따른 상호저축은행과 그 중앙회
10. 「농업협동조합법」에 따른 농업협동조합과 그 중앙회
11. 「수산업협동조합법」에 따른 수산업협동조합과 그 중앙회
12. 「산림조합법」에 따른 산림조합과 그 중앙회
13. 「신용협동조합법」에 따른 신용협동조합과 그 중앙회
14. 「새마을금고법」에 따른 새마을금고와 그 연합회
15. 「보험업법」에 따른 보험회사
16. 「여신전문금융업법」에 따른 여신전문금융회사(「여신전문금융업법」 제3조제3항제1호에 따라 허가를 받거나 등록을 한 자를 포함한다)
17. 「기술보증기금법」에 따른 기술보증기금
18. 「신용보증기금법」에 따른 신용보증기금
19. 「지역신용보증재단법」에 따른 신용보증재단과 그 중앙회
20. 「무역보험법」에 따른 한국무역보험공사
  • 이 외에도 개정령안의 제51조의2 1항 2호는 신용정보회사 및 신용정보집중기관을 제3자로 지정하고 있으며, 행정안전부장관의 고시를 통해 지속적으로 그 대상을 확대할 수 있도록 하고 있음. 
  • 전자정부법은 공공기관이 보유하고 있는 개인정보를 다른 행정기관에 전송요구를 하는 것을 제외하면 주로 금융기관에 개인정보를 제공할 수 있도록 하고 있음. 현재도 행정정보 공동이용을 통해 다른 행정기관에서 필요한 개인정보를 공유할 수 있도록 하고 있는 점을 고려하면, 다시 시행령에서 금융회사, 신용정보회사, 보험회사, 마이데이터 사업자들까지 확대하고 여기에 고시에 재위임하여 그 범위를 무한 확장하는 것은 과도함. 
  • 특히 국민대다수의 건강정보, 세금납부 등 재산정보, 시민으로서 생애 전반에 걸쳐 생성되는 생애주기정보를 기록, 보관하고 있는 공공기관도 행정서비스를 제공하고 있는 점, 특히 우리나라는 주민등록번호가 거의 모든 경제, 사회 전 영역에 걸쳐 식별정보로 사용되고 있어 모든 행정정보가 사실상 주민등록번호로 연계되어 있다고 볼 수 있으며 만약 행정서비스 제공 과정에서 유출될 경우 피해 범위가 크다는 점을 고려해야 할 것임.
  • 비록 정보주체의 동의에 기반한다고 하지만, 정보주체의 동의가 개인정보 처리의 결과를 충분히 인지한 상황에서 이루어지지 못하는 현실을 고려하면 금융회사, 보험회사 등에 의한 영리적 목적의 개인정보 남용 가능성을 배제할 수 없음. 나아가 개인정보보호법에서 가명정보의 동의없는 제3자 제공을 허용하고 있는 것을 고려할 때 공공기관이 보유하고 있는 개인정보를 민간의 사업자들이 무분별하게 공유할 위험성을 우려하지 않을 수 없음. 특히 시행령안은 금융회사는 물론이고 신용정보회사 및 보험회사까지 광범위하게 확대하는 것도 모자라 다시 고시로 재위임하여 그 제공 범위를 무한 확장하고 있음.
  • 또한 정보주체가 반복적으로 정보를 제3자 등에 제공하도록 하는 것도 문제가 있음. 기간 설정을 정보주체가 할 수 있다고 하지만 위에서 언급한 대로, 자신에 대한 행정정보가 민간기업에 넘어간 후의 결과에 대한 충분한 인지 없이 이루어지는 현실에서 정기적으로 실명의 행정정보가 민간기업에 제공, 축적될 수 있도록 하는 것은 특히 위험함.

개정령안 제51조의2에서 보험사 등 민간기업을 최대한 제외함으로써  이와 같은 위험을 줄이는 것이 현재로서는 최선의 방책일 것임. 궁극적으로는 전자정부법 제43조의2 1항 3호, 2항을 삭제해야 함. 

4. 민감정보인 건강정보를 보험사 등 민간기업에 제공하는 규정 삭제(개정령안 제90조)

1)개정령안 내용

제90조(민감정보 및 고유식별정보의 처리) ⑦ 중앙행정기관등의 장과 법 제43조의2제1항에 따른 제3자는 법 제43조의2에 따라 본인정보 제공 관련 업무를 수행하기 위하여 불가피한 경우에는 「개인정보 보호법」 제23조에 따른 건강에 관한 정보나 같은 법 시행령 제19조에 따른 주민등록번호, 여권번호, 운전면허의 면허번호 또는 외국인등록번호가 포함된 자료를 처리할 수 있다.

2) 검토의견

  • 개정령안 제90조는 국민의 민감정보인 건강정보를 법률 제43조의2에 따른 본인 행정정보 제공 관련 업무 수행을 위해 개인, 법인 또는 단체인 제3자가 처리할 수 있도록 명시적으로 규정하고 있음. 
  • 현 시행령 제90조 2항에서 중앙행정기관등의 장은 법 제12조의3 및 제12조의4에 따른 등록시스템 구축ㆍ운영 및 공공서비스 목록 제공 등의 사무를 수행하기 위하여 불가피한 경우에 건강정보를 처리할 수 있지만, 이 개정령안에 따르면 앞으로 보험사 등 민간기업도 건강정보를 본인 동의라는 미명하에 제공받고 사용할 수 있는 길을 명시적으로 터주게 됨.
  • 국민의 건강정보를 포함한 국민건강보험정보는 세계적으로 법규범에 따라 특별히 보호받는 민감정보임. 우리 개인정보보호법 제23조는, 건강에 관한 정보 등 민감정보를 특별히 보호하기 위하여 ①정보주체의 별도 동의를 받거나, ②법령에서 해당 민감정보의 처리를 요구·허용하는 경우에 한하여 적법한 처리로 인정함(제23조 제1항). 이 때 정보주체의 동의나 법령상 근거에 따라 수집하더라도 목적에 필요한 최소한의 범위의 개인정보만을 수집하여야 함. 헌법재판소는 민감정보를 수집 목적 외로 이용 또는 제공을 할 때에는 개인정보보호법 제18조와 제23조를 종합적으로 고려하여 ‘불가피성’이 있어야 한다고 보았음(헌재 2018.8. 30. 2014헌마368). 
  • 그럼에도 개정 전자정부법에 따르면 “행정정보”라고 포괄적으로 취급되어 민간보험사 등 기업이 건강정보를 언제든 자산으로 활용할 수 있도록 길을 열어주고 있을 뿐 아니라, 그 위임을 받은 시행령안에서 전자정부법에서 명확하게 위임하지 않았음에도 특별한 보호가 필요한 국민 건강에 관한 정보라고 포괄적으로 처리할 수 있다고 명시적으로 규정한 것은 개인정보보호법의 민감정보 보호 규정과 의료법의 환자 정보 등 보호 조항의 취지에도 반하는 것이며 헌법상의 사생활비밀의 보장에도 위반되는 조항임. 
  • 또한 보험사 등 민간기업이 이와 같은 국민의 민감정보를 제공받아 축적한다면 목적 외 이용을 제한할 수 있는 실효적 방법이 있는지, 정보주체의 권리 행사 및 감독을 어떻게 행사할 수 있을지는 매우 회의적임. 따라서 행정기관이 보유, 관리하는 국민의 민감정보를 민간보험사 등이 수집하고 이를 목적 외로 이용하거나 제공할 가능성을 열어두는 것은 매우 적절치 않으며(목적의 적절성), 목적에 필요한 최소수집 원칙을 보장하고 있지 않고(침해의 최소성), 행정서비스의 편익을 넘어서 사생활의 자유 등 기본권 침해 소지가 있다는 점에서 매우 우려스러움(법익의 균형성).

개정령안 제90조 7항은 반드시 삭제해야 함. 

5. 모바일 신분증의 개념, 요건 등 구체화 필요(개정령안 제12조, 제37조 등)

1)개정령안 내용

제12조(민원인 등의 본인 확인)② 법 제10조에서 “대통령령으로 정하는 방법”이란 다음 각 호의 어느 하나에 해당하는 방법을 말한다.
  1. 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」 제23조의3에 따른 본인확인기관이 제공하는 본인확인 방법
  2. 법 제2조제2호에 따른 행정기관의 장이 발급하는 전자적 방식의 신분증을 이용하는 방법
⑥ 행정안전부장관은 중앙행정기관등의 장이 「전자서명법」 제2조제8호에 따른 전자서명인증사업자의 전자서명인증서비스와 시행령 제12조제2항제3호에 따른 전자적 방식의 신분증을 효율적으로 이용할 수 있도록 공통적으로 적용되는 운영기반을 구축ㆍ운영할 수 있다.제37조(업무담당자의 신원 확인 등) ① 법 제34조에서 “대통령령으로 정하는 방법”이란 중앙행정기관등의 장이 정보시스템 또는 행정정보의 중요도 등을 고려하여 정하는 다음 각 호의 어느 하나에 해당하는 방법을 말한다.
  1. 전자서명 또는 행정전자서명
  2. 「국가공무원 복무규정」 제8조의2제4항 또는 해당 조항을 준용하는 자치법규 등에 따라 발급하는 전자적 방식의 공무원증(이하 “모바일 공무원증”이라 한다)을 이용하는 방법
  3. 사용자 계정 및 비밀번호, 생체정보, 일회용 비밀번호 등 본인만이 알고 있는 정보나 소지한 매체, 본인에 고유한 정보 등을 이용하는 방법. 다만, 중앙행정기관등의 장이 사전에 해당 업무담당자의 신원을 확인하여 관련 정보를 정보시스템에 등록한 경우에 한한다.

2) 검토의견

  • 개정령안 제12조 2항 2호는 민원인의 본인확인 방식으로 “행정기관의 장이 발급하는 전자적 방식의 신분증을 이용하는 방법”을 포함하고 있는데, 이것이 법 제10조에 규정되어 있는 전자서명이나 개정령안 제12조 2항 1호에서 규정한 ‘본인확인기관이 제공하는 본인확인 방법’과 같은 수준의 규정인지 의문임. 즉, 행정기관의 장이 발급하는 전자적 방식의 신분증을 이용하는 방법은 다른 규정과 달리 기술적인 방법이 아니며, 전자적 방식의 신분증을 구현하는 다양한 방식이 있을 수 있기 때문임. 전자적 방식의 신분증의 신뢰성을 어떠한 방식으로 보장하는 것인지도 불분명함.
  • 개정령안 제12조 6항은 ‘(「전자서명법」) 시행령 제12조제2항제3호에 따른 전자적 방식의 신분증’을 규정하고 있는데, 이것이 제12조 제2항 제2호에서 규정하고 있는 전자적 방식의 신분증과 같은 것인지, 다른 것인지도 명확히 할 필요가 있음. 
  • 개정령안 제37조도 마찬가지의 문제를 갖고 있음. 제37조 제1항은 업무담당자의 신원확인을 위해 전자서명 또는 행정전자서명(1호), 사용자 계정 및 비밀번호, 생체정보, 일회용 비밀번호 등 본인만이 알고 있는 정보나 소지한 매체, 본인에 고유한 정보 등을 이용하는 방법(3호)과 함께 ‘전자적 방식의 공무원증(모바일 공무원증)을 이용하는 방법’(2호)을 포함하고 있는데, 이러한 전자적 방식의 공무원증은 다양한 기술적 방법으로 구현될 수 있다는 점에서 어떠한 기술적 방법으로 인증을 하는 것인지 명확하지 않음. 

이와 같은 전자적 방식의 신분증이 신뢰성을 갖기 위한 요건, 검증의 방식 등에 대해 보다 구체적으로 규정하여 남용을 방지할 필요가 있음. 

[내려받기] 20210831_공동의견서_전자정부법시행령개정입법예고안

인권집담회 ˝코로나19와 K-식별, 그리고 인권˝

코로나19 감염병 위기가 1년 이상 계속되고 있습니다. 코로나19는 사회 전체적인 건강권의 위기임에 분명하지만, 인권이 취약한 사람들에게 더욱 큰 위기로 다가오고 있습니다.
K-방역 정책은 ‘디지털 식별’에 기반한 정교한 추적이 특징입니다. 때로는 집단별로 구별되는 차별적인 방역 정책도 시행되어 왔습니다.
그런데 정교한 식별과 추적, 그리고 집단의 분리와 구별은 성소수자, 이주민, 홈리스 등 사회적 차별에 취약한 계층의 인권을 위협할 우려가 있습니다. 또 삶의 위기 앞에서 저항하는 노동자, 민중의 집회시위의 권리가 계속하여 억압받고 있습니다. 집회의 참가자가 추적당하고 주최자가 범죄자로 취급되는 일들이 발생하고 있으며, 감염병 예방법 자체가 확진자와 접촉자를 대체로 범죄자로 취급하고 있는 실정입니다.

한국의 방역 정책은 늘 정확한 신원을 요구해 왔습니다. 디지털로 집적된 신용카드정보, 교통카드정보, 전자출입명부 뿐 아니라 주민등록번호/외국인등록번호를 토대로 본인의 실명을 확인해야만 발급받을 수 있는 휴대전화가 방역 정책의 기반으로 사용됩니다. 온라인과 오프라인의 일상 곳곳에서 늘 식원 확인을 요구받는 현실은, 당사자 개인에게는 정보인권 침해와 차별을 낳을 수 있고 특정 집단에는 사회적 차별로 이어지는 정책이 시행될 수 있습니다.

지난 1년을 돌아보면, 휴대전화 등으로 동선이 추적되고 공개된 코로나19 환자에 대해서 신상털기와 악성댓글이 만연했습니다. 성소수자는 클럽 방문 동선이 알려져 혐오의 대상이 되었고, 정치적, 종교적 집회 참가자도 손쉽게 추적되었습니다.

우리 사회는 방역을 이유로 더욱 추적이 손쉬운 사회로 변해 가고 있습니다. 당국은 성소수자, 미등록 외국인, 노숙인 등을 대상으로 표적 코로나19 검사를 익명으로 추진하면서도, 본인의 실명 휴대전화 사용을 요구하였습니다. 전자백신증명서는 휴대전화가 본인 실명이어야만 사용할 수 있습니다. 스마트폰이 없어 정부 앱을 설치할 수 없는 자가격리자는 시설에 강제입소해야 합니다.

온라인이나 오프라인에서 누군가의 신원을 상시적으로 확인할 수 있는 사회는 그 사람이 속한 집단을 구별하고 집단별로 분리된 정책을 손쉽게 집행할 수 있습니다. 등록되거나 식별되지 않는 사람에 대해서는 배제가 당연시 될 수도 있습니다.
본인의 휴대전화가 없는 노숙인은 식당 출입을 거부당하거나 방역 정책에서 소외되고 심지어 경찰의 추적을 받았습니다. 방역 당국은 공적마스크 지급, 재난지원금 지급 등에서 이주민 등 특정 집단을 차별하고, 이주노동자를 겨냥한 코로나 검사를 강제하였습니다. 질병관리청은 미등록 이주노동자라 할지라도 백신접종을 보장한다는 입장이지만 경기도 등 지자체는 이들을 제외하고 있습니다.

방역 정책상 특정집단을 관리하여야 할 필요성이 있을 수도 있습니다. 그러나 이러한 집단별 분리와 구별이 꼭 필요한지 생각해볼 필요가 있습니다. 실제로 보건당국은 고위험직업군, 국가별입국자, 8.15 광화문버스, OO교회 등 집단별로 구별하여 ‘능동감시’ 대상을 관리하고 있습니다. 이 ‘능동감시’ 대상은 누가 선정하고 관리하는 것일까요?

정교하게 사람을 식별하고 추적하며, 집단별로 분리하고 구별하는 정책은 코로나19 위기가 지나간 후로도 사회 곳곳에서 차별적이거나 인권침해적인 정책으로 계속 이어질 가능성이 있습니다. 직장, 시설, 대중교통에 대한 출입이 백신증명서 소지 여부에 따라 차별적으로 이루어질 가능성도 있습니다. 부천시가 개발중인 지능형 역학시스템은 거리 CCTV에서 얼굴인식기술과 인근 휴대전화 기지국으로 확진자와 접촉자를 추적하려고 하는데 코로나19 이후로도 거리에서 사람을 추적하는 데 이 기술을 계속 사용하겠다고 합니다.

재난 위기에서 국가적 역할을 요구하는 것 역시 인권적 요구입니다. 그럼에도 정교한 식별과 추적, 집단을 분리하고 구별하는 방역 정책은 인권의 관점에서 어떻게 바라보아야 할까요? 사람을 항상 식별하고, 추적하고, 분리하고, 구별하는 정책이 방역을 넘어 사회적으로 항구화될 가능성은 없을까요? 어떤 인권적 대안이 가능할까요?

이 문제에 대하여 여러 분야에서 코로나19와 인권 문제를 고민해 오신 활동가들의 지혜를 나누고자 집담회 자리를 마련해 보았습니다. 집담회에서 나눈 토론들은 국내외에 보고서로 발간하여 이 문제에 대한 사회적 대화를 시도해 보고자 합니다.

▶ 일정 : 8월 25일(수), 30일(월) 오후7시
▶ 장소 : 온라인 줌회의 (온라인 주소는 참가자에게 이메일로 공지합니다)
▶ 참가 신청 : https://forms.gle/APpb3SyuU1ZBGZ9f9
▶ 주최 : 사단법인 정보인권연구소
※이 집담회는 인권재단 사람이 지원하며, 문자 통역이 제공됩니다.

‘이루다 사건’ 인권침해와 차별을 외면한 국가인권위의 결정에 깊은 유감을 표한다

  1. 국가인권위원회(이하 ‘인권위’)는 2021. 7. 30. 시민사회단체가 2021. 2. 3. 제기한 챗봇 ‘이루다’(이하 ‘이루다’) 사건의 인권침해 및 차별행위 진정 사건에 대해 각하 결정을 내렸다(국가인권위원회 2021. 7. 30.자 21진정0065000 결정). 인권위는 주식회사 스캐터랩이 특정 집단에 대한 차별 및 혐오 발언을 한 이루다를 서비스하는 것이 위원회의 조사대상이 될수 없다고 보았다. 나아가 개인정보보호위원회 위원장, 국회의장, 방송통신위원회 위원장, 과학기술정보통신부장관, 국가인권위원회 위원장(이하 ‘개인정보보호위원회 위원장 등’)의 보호의무 위반에 따른 인권침해도 조사대상이 아니라 보았다. 다만 인권위는 이루다 사건이 인공지능 개발 윤리 및 혐오표현과 관련된 중요한 사례라면서 정책과제로 채택을 검토하겠다는 입장을 밝혔다. 우리 시민사회단체는 위 각하결정이 이루다 사건에서 발생한 프라이버시권 침해, 혐오표현 및 차별의 문제를 회피하는 부당한 결정임을 지적하며, 인권위의 소극적 태도에 깊은 유감을 표한다.
  1. 인권위는 먼저 주식회사 스캐터랩이 민간 사기업이기 때문에 이루다 서비스는 국가의 인권침해 및 차별행위가 아니므로 진정사건 조사대상이 아니라고 보았다. 그러나 국가인권위원회법 제30조 제1항 제2호가 법인, 단체 또는 사인에 의하여 발생하는 차별행위를 진정사건 조사대상으로 규정하고 있기 때문에 인권위의 위와 같은 판단은 부당하다.

또한, 인권위는 이루다가 인격체가 아니므로 이루다에 의한 혐오표현을 조사대상으로 삼을 수 없기에, 이루다와 주식회사 스캐터랩에게 그 책임을 묻기 어렵다고 보았다. 그러나 ‘이루다’는 피진정인 스캐터랩이 개발한 알고리즘에 따라 대화를 하는 인공지능 서비스라는 점에서 ‘이루다’로 발생하는 차별 및 혐오 표현의 책임은 알고리즘의 개발자이자 서비스의 제공자인 주식회사 스캐터랩에게 있을 수밖에 없다. 따라서 ‘이루다’가 인격체가 아니므로 조사대상이 아니라는 인권위의 판단은 인공지능과 책임에 대한 기본적 이해가 없는 부당한 판단이며, 나아가 조사를 하지 않기 위한 면피성 판단이 아닌가 의심된다.

  1. 한편 인권위는 개인정보보호위원장 등이 ‘이루다’ 사건에서 드러난 개인정보의 무분별한 수집 및 이용에 따른 프라이버시권의 침해 등에 대한 적절한 입법적·정책적 조치를 취하지 않고 있다는 진정 부분도 이루다 사건  발생만으로 국가기관의 부작위를 인정하기 어렵다고 보았다. 

인권위의 위와 같은 판단은 인권에서 도출되는 국가의 의무를 협소하게 해석한 것으로 부당하다. 국제인권법은 모든 국가의 인권 보호 및 촉진의무를 인정하고 있고, 이에 기초하여 국가는 사인의 인권 침해 및 안전한 인권의 향유를 위한 입법적, 행정적 조치를 취해야할 작위의무를 부담한다. 방송통신위원회도 지난 2021. 1.경 이루다 사건 이후 “정부 등 지능정보사회 구성원 모두가 인공지능 윤리의 중요성을 인지하고 실천 방안을 모색해야 하는 상황”이라며 스스로 인공지능 기술에 대한 정부의 입법적, 행정적 규제가 미비했음을 인정하였다. 그럼에도 불구하고 인권위가 개인정보보호위원장 등에게 작위의무가 없다고 판단한 것은 국가의 책임에 대해 면죄부를 주는 것과 다름 없다.

  1. 나아가 인권위가 각하결정을 한 것은 모든 사람의 인권보호라는 목적으로 설립된 독립조사기구로서 요구되는 최소한의 역할조차 수행하지 않은 것이다. 인권위는 앞서 살펴본 이유 외에 이루다의 대화 시점, 상대방, 맥락 등을 판단할 수 없다는 이유로도 이루다 사건이 조사대상이 아니라 보았는데, 위 사항들은 모두 조사를 통해 확인되어야 할 기초사실들이다. 

앞서 살펴본 국가의 작위 의무에 대해서도 마찬가지다. 인권위는 개인정보보호위원장 등에게 구체적 작위의무를 인정할 사정이나 주장을 찾을 수 없다고 보았는데, 이는 결국 시민사회단체들이 문제제기 한 불충분한 법제 현황에 대한 일말의 조사도 하지 않고 이루어진 판단이다.

  1. 인권위는 불가침의 기본적 인권을 보호하기 위해 설립된 독립조사기구이다. 그럼에도 인권침해와 차별진정에 대해 기초적 조사를 진행하지 않은 채, 인공지능 기술에 대한 국가의 책임성과 의무를 협소하게 이해하여 이루다 사건에 대한 인권침해 및 차별 진정을 각하한 인권위의 결정이 위 설립 취지에 부합하는지 의문이다. 

기술이 발전함에 따라 앞으로도 계속 인공지능에 의한 인권침해와 차별이 문제될 것으로 예상되는 상황에서, 인권위가 선제적인 대응을 하기는커녕 실제 발생한 사건에 대해서조차 조사를 하지 않는 것은 실로 유감이다.

한편 인권위는 이루다 사건으로 드러난 인공지능기술과 차별 및 혐오표현의 정책과제로 채택을 검토하겠다고 밝히고 있지만, 구체적으로 언제, 어떠한 방식으로 검토를 할 것인지에 대해서는 전혀 이야기하지 않고 있다. 이 또한 매우 소극적인 행보이다. 인권위가 신속히 인공지능기술로 발생하는 차별 및 혐오표현이라는 중대한 인권 현안에 대해 적절한 의사표명을 함으로써, 불가침의 인권을 보호하기 위해 설립된 독립조사기구로서의 역할을 다 하길 바란다.

2021년 8월 12일

민주사회를 위한 변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 진보네트워크센터, 참여연대 공익법센터, 차별금지법제정연대

무한식별시대, 온라인 주민번호에 대한 보호를 회피한 헌법재판소 각하 결정 유감

- 시민사회의 연계정보(CI)에 대한 법적 도전은 계속될 예정

  1. 코로나19 위기가 가속화 할수록 비대면 원격서비스가 급증하고 있다. 일견 편리하지만 다른 한편으로 정교한 온라인 추적에 대한 법적인 한계를 설정하고 정보주체 보호를 위한 제도적 대책이 필요한 시점이다. 하지만 헌법재판소는 온라인 주민등록번호인 연계정보에 대한 보호 요구를 외면하고 시민사회의 2차례의 헌법소원심판청구에 각하 결정을 내렸다. 
  1. 한국에서 시민에 대한 고유한 식별은 주민등록번호를 이용하는 방식으로 이루어져 왔다. 출생시 부여되는 주민번호는 사망시까지 거의 변치 않아 공공기관과 민간기업이 온라인과 오프라인에서 누군가를 식별하고 추적하는 데 매우 유용하게 사용해 왔다. 그러나 주민번호 남용과 유출이 급증하면서 피해가 끊이지 않자 정부와 국회는 2014년 뒤늦게 주민번호에 대한 보호를 강화하였다. 이때부터 법령상 근거가 없는 주민번호의 처리가 금지되고 일부 업종을 제외하고 민간의 주민번호 사용이 원칙적으로 금지되었다.
  1. 그런데 최근 공공기관의 행정적인 고지가  알려준 적 없는 카카오톡이나 통신사 문자로 도달되기 시작하였다. 미납요금 통지나 범칙금 통지 등 불이익한 처분 역시 모바일로 고지되고 있다. 수사기관도 국내 온라인 서비스에서 과거보다 국민을 더욱 손쉽게 추적하고 있다. 주민번호의 사용이 제한된 후에도 공공기관과 민간기업이 광범위하게 국민을 식별할 수 있는 비밀은 바로 연계정보(Connecting Information, CI)에 있다.
  1. CI는 주민번호를 암호화하는 방식으로 생성되어 전국민을 1:1로 식별할 수 있다. 그럼에도 우리 법제도는 CI를 주민번호처럼 보호하지 않고 있기에, 공공기관과 민간기업이 이를 범용으로 광범위하게 사용하고 있으며, 과거 주민번호 남용과 동일한 문제점을 내포하고 있다. 
  1. 정보주체인 시민은 자신의 온라인 주민번호가 언제 어떻게 생성되고 이용되는지 알지 못한다. 공공기관과 민간기업 간에 CI를 전자적으로 이용하고 있으며 시민은 온라인 공간에서 상시적으로 식별되고 추적되는 대상으로 전락했다. 정보주체는 자신의 CI를 열람할 권리도 보장받고 있지 못하며, 그 제공을 반대하거나 처리를 거부할 권리를 행사할 수도 없다.
  1. 이런 상황이 중대한 정보인권 침해라고 판단한 시민사회가 문제제기를 시작하였다. 2021년 3월 10일 민주사회를 위한 변호사모임 디지털정보위원회, 진보네트워크센터, 사단법인 정보인권연구소 등 3개 시민사회단체는 CI 제도에 대한 헌법소원을 청구하였다. CI의 생성·발급·처리 등의 행위가 헌법 상 기본권을 침해하고 있으며, 이를 규정하고 있는 정보통신망법 제23조의2 제2항, 제23조의3 제1항 역시 ‘대체수단’에 연계정보가 포함된다고 해석하는 한 헌법에 위반된다는 취지였다.
  1. 그러나 헌법재판소는 2021년 4월 24일 위 헌법소원심판청구에 대하여 각하 결정을 내렸다(헌법재판소 2021. 4. 27. 선고 2021헌마297 결정). 청구인들이 자신의 CI가 언제 생성되었는지 정확히 알고 있지 못하지만, 상당히 오래 전에 생성되었을 것이기에 청구기간이 도과하였다는 다분히 형식적인 이유였다. 무엇보다 헌법재판소는 본인확인기관은 민간이기 때문에 한국인터넷진흥원, 방송통신위원회 등이 CI모듈을 제공하는 등 사실상 CI의 생성 및 활용에 광범위하게 관여하고 있음에도 이러한 생성 및 활용을 공권력 행사로 볼수 없다는 납득할 수 없는 이유도 들었다.
  1. 청구인들과 단체들은 다시 한번 논리를 보강하여 2021년 4월 30일 2차로 헌법소원을 청구하였다. 그러나 6월 22일 헌법재판소는 1차 각하 결정과 유사한 사유로 또다시 각하 결정을 내렸다(헌법재판소 2021. 6. 22.선고 2021헌마489 결정). 공공기관이 연계정보를 최초로 보유한 시점을 청구기간의 기산점으로 삼아 청구기간이 도과하였다고 보았고, 본인확인기관은 공무수탁사인도 아니라고 보았다. 
  1. 청구인을 비롯하여 헌법소원을 청구한 단체들은 헌법재판소의 이런 결정들이 실망스럽기 짝이 없다. 기본권 침해의 사유가 발생한 날을 CI 생성 또는 제공시점으로 본 것은 참으로 부당하다. 자신의 온라인 주민번호인 CI가 언제, 어떻게 생성되었는지 당사자인 정보주체가 전혀 알 수 없다는 점, 개인정보자기결정권 등의 현실적 침해 시점은 결국 당사자가 이를 인식한 때라는 점 등을 고려했을 때, 청구인의 이익에 대한 고려 없이 청구기간을 해석한 헌법재판소의 결정은 본안 판단을 회피하기 위한 형식적 결정이 아닌지 의심된다.
  1. 앞서 살펴보았듯이 헌법재판소는 CI가 전국민 주민번호를 토대로 국가적으로 생성하여 보급되고 있음에도 그 발급주체가 민간 본인확인기관이기에 공권력 행사가 아니라고 본 것은  매우 형식적이다. CI의 생성 기법과 생성 기관은 방송통신위원회와 한국인터넷진흥원에서 국가적으로 지정하며, 이를 토대로 CI가 광범위하게 생성되고 활용이 되고 있다.. 이러한 지점에서도 헌법재판소가 온라인 주민번호에 대한 심사를 궁색하게 회피려한 것은 아닌지 의문스러울 수 밖에 없다.
  1. 우리 단체들은 헌법재판소의 각하 결정에 다시 한번 깊은 유감을 표하며, 헌법재판소가 제시한 형식적 사유 또한 납득할 수 없다는 입장을 명백히 밝힌다. 비대면 시대에 전국민을 온라인에서 고유하게 식별하는 CI에 대한 제도적인 규제와 정보주체 기본권 보호의 필요성은 더욱 중대해지고 있다. 따라서 우리 시민사회는 향후에도 온라인 주민번호에 대한 사법적인 문제제기를 멈추지 않고, 계속 도전할 것이다.

2021년 7월 14일

민주사회를 위한 변호사모임 디지털정보위원회, 진보네트워크센터, 사단법인 정보인권연구소

 

유엔 인권최고대표에 디지털 시대 프라이버시권 보고서에 대한 의견 제출

인공지능감독, 영향평가, 투명한 정보공개, 권리 구제 절차 등
인공지능 정책방향에 대한 한국 시민사회 의견 제시

  1. 지난 5월 30일, 민주사회를 위한 변호사모임 디지털정보위원회, 정보인권연구소, 진보네트워크센터, 참여연대 등 4개 단체는 유엔 인권최고대표(Office of the United Nations High Commissioner for Human Rights)가 준비하고 있는 <디지털 시대 프라이버시권(the right to privacy in the digital age)> 보고서 작성을 위해 한국 시민사회의 의견을 제출하였습니다. 
  2. 지난 2019년 9월 26일, 유엔 인권이사회(Human Rights Council)는 '디지털 시대의 프라이버시권'에 대한 42/15 결의안을 채택하면서, 유엔 인권최고대표에 프로파일링, 자동화된 의사결정, 기계학습 기술 등을 포함한 인공지능이 적절한 안전조치가 없을 경우 프라이버시권의 향유에 어떠한 영향을 미칠 것인지에 대한 보고서를 준비하도록 요청했습니다. 이에 유엔 인권최고대표는 보고서 작성에 앞서 전 세계 이해관계자들에게 의견을 제출해줄 것을 요청한 바 있습니다. 
  3. 유엔 인권최고대표에 보낸 의견서에서 우리 단체들은 코로나19 역학조사지원시스템, 공공기관의 AI 면접, 챗봇 이루다 논란 등 국내에서 인공지능이 논란이 된 사례를 소개하였으며, 공공 및 민간 영역에서 인공지능 서비스가 이미 도입되고 있음에도 불구하고 인공지능에 대한 영향평가를 비롯하여 그 위험성을 통제할 수 있는 제도가 미흡하다는 점을 지적하였습니다. 또한 2020년 개인정보보호법 개정으로 기업들의 고객정보가 무분별하게 목적 외로 활용, 판매, 공유될 것에 대한 시민사회의 우려를 전달했습니다. 마지막으로 지난 5월 24일 120개 한국 시민사회단체가 발표한 <인권과 안전, 민주주의가 보장되는 인공지능 정책 요구 시민사회 선언>을 소개하면서, ▲ 인공지능에 대한 국가적 차원의 감독 마련, ▲ 인공지능 정보의 투명한 공개 및 소비자, 노동자, 시민의 참여 보장, ▲ 인공지능에 대한 영향평가 절차 마련 및 고위험 인공지능 규제, ▲ 인공지능으로 인한 권리 침해를 구제할 수 있는 절차 마련 등 한국 시민사회의 입장을 최종 보고서에 반영해줄 것을 요청하였습니다. 
  4. 우리는 앞으로도 국제적인 차원의 인공지능 규범 마련에 참여하여 국내 시민사회의 목소리를 반영할 수 있도록 노력할 것입니다.끝.

▣ 붙임 :
- 디지털 시대 프라이버시권 보고서에 대한 의견
- Input for Report on right to privacy in the digital age

120개 시민사회단체, 인공지능에 대한 첫 공동 선언

“정부와 국회는 인공지능 정책에서 인권과 안전, 민주주의를 보장하라”

- 공공과 민간 인공지능은 인권과 법률을 준수하고
- 소비자, 노동자, 시민을 보호하는 인공지능 규율법이 마련돼야

120개 시민사회단체는 오늘(5/24, 월) 오후 2시 참여연대 아름드리홀에서 기자회견을 열고 정부와 국회에 인권과 안전, 민주주의가 보장되는 인공지능 정책을 요구하는 선언을 발표했습니다. 시민사회단체는 △인공지능의 인권과 법률 준수 △인공지능 규율법의 마련을 촉구하며, 규율법에 담겨야 할 내용으로 ①인공지능 국가 감독 체계 마련 ②정보 공개와 참여 ③인공지능 평가 및 위험성 통제 ④권리구제 절차 보장을 제안하였습니다.

최근 정부는 과학기술정보통신부・4차산업혁명위원회 등 산업진흥 부처・기구 주도 하에 인공지능 정책을 발표하고 있으며, 관련 입법 또한 빠른 속도로 추진할 계획입니다. 코로나 위기로 여론 수렴이 부족한 상황에서 지난 3월 정부와 국회는 행정청이 인공지능을 비롯해 완전히 자동화된 시스템으로 처분을 할 수 있도록 하는 「행정기본법」(제20조)을 제정하였고, 행정기관이 인공지능을 활용하여 전자정부서비스를 제공할 수 있도록 하는 내용의 「전자정부법 일부개정법률안」도 심의 중입니다(안 제18조의2). 그러나 인공지능으로 사람에 대한 처분이나 의사결정에 이르도록 하면서 그 보호 방법이나 구제절차에 대한 논의는 충분히 이루어지지 못하였으며, 과학기술정보통신부 등이 주도하는 인공지능 정책은 산업계의 요구로 점철되어 있습니다. 

반면 시민사회는 이미 인공지능 챗봇 이루다 논란으로 불법적이고 편향적이고 무책임한 인공지능 제품이 어떻게 우리의 개인정보를 오남용하고 사회적 혐오를 재생산할 수 있는지 목격하였습니다. 공공기관과 민간기업이 <AI 채용>을 확대하고 있지만 불합격된 사람들은 본인이 어떻게 평가받고 탈락되었는지, 혹여 사투리나 외모로 차별받았는지 알 수 없습니다. 여성이나 장애인에게 차별적인 인공지능 스피커가 학교 교육에 이용되거나 안전이 검증되지 않은 자율주행차량이 거리를 질주할 때 우리의 미래 또한 위험할 것입니다. 알고리즘은 이미 언론 공론장과 노동을 통제하고 있으며, 금융서비스와 사회복지급여에 관여하고 있고, 심지어 사람을 대신하는 인공지능의 자동 행정과 의사결정도 시작되었습니다. 인공지능의 무기화 또한 빠르게 진행되고 있습니다. 

해외 여러 나라에서는 인공지능에 인권과 법률 준수를 요구하는 목소리가 커지고 있습니다. 2017년 폴란드와 미국의 법원은 각각 실업 급여와 교사 해고를 결정하는 데 사용된 인공지능 알고리즘에 대하여 투명성 보장을 요구하였고, 2020년 네덜란드 법원은 사회복지급여 부정수급 탐지 알고리즘의 운영을 중단시켰습니다. 영국에서는 코로나로 취소된 대학입학시험에서 교사 대신 인공지능이 부여한 성적이 부유한 사립학교 학생에게 높은 점수를 부과하여 사회적 분노를 샀습니다. 심지어 플랫폼 기업의 알고리즘이 미국 대통령 선거 등 민주주의에도 영향을 미쳤다는 경각심이 일고 있습니다. 여러 나라에서 인공지능을 규율하는 정책을 마련하고 있으며, 특히 유럽연합은 지난 4월 기본권 일반과 노동자·소비자의 권리에 영향을 미치는 인공지능 제품과 서비스에 대하여 엄격하게 관리하는 내용의 법안을 유럽 의회에 발의하였습니다.

기자회견 참석자들은 인공지능의 편향성과 위험성이 사람의 인권과 안전에 영향을 미친 최근의 논란을 지켜보며 인공지능 제품과 서비스를 무조건 신뢰하기는 어렵다고 밝히고, 모든 인공지능 시스템이 헌법과 관련 법률에 따라 개인정보를 보호하고 인권 침해와 차별을 금지해야 한다고 주장하였습니다. 더불어 공공과 민간이 도입하고 사용하는 모든 인공지능이 소비자의 안전과 권리를 보호하며, 노동자와 노동권을 보호하는 현행 법률을 준수할 것을 요구하였습니다. 참석자들은 딥러닝 등 특정한 기술적 특성이나 기업자율적인 윤리가 인권과 법률의 준수 의무를 회피하는 이유가 되어서는 안된다고 강조하였습니다.

또한 참석자들은 인공지능을 사회적으로 적절히 통제하기 위해 정부와 국회가 인공지능을 규율하는 법률을 마련할 것을 촉구하였습니다. 인공지능 규율 법률은 우선 인공지능 제품과 시스템을 국가적으로 감독하는 체계를 수립하여야 하는데, 참석자들은 국민을 위해 인공지능을 감독하는 역할은 산업부처나 기술부처가 아니라 공정거래위원회, 국가인권위원회, 개인정보보호위원회가 수행해야 마땅하다고 지적하였습니다.
더불어 인공지능 규율 법률이 인공지능 시스템에 대한 정보공개와 참여로 그 투명성과 민주성을 보장하여야 하며, 특히 공공기관 인공지능의 경우 민간에서 조달한 시스템이라 하더라도 국민 앞에 공개해야 한다고 밝혔습니다. 또한 위험한 인공지능을 제도적으로 통제하기 위하여 법률적 의무를 부과하고, 사람의 안전과 생계, 인권에 대하여 명백한 위험을 야기하는 인공지능은 금지해야 하고, 특히 실시간으로 거리에서 불특정다수의 얼굴을 인식하여 추적하는 시스템은 원칙적으로 금지해야 한다고 주장했습니다. 마지막으로 참석자들은 피해를 입거나 인권을 침해당한 사람에 대하여 권리구제를 보장할 것을 요구하였습니다. 피해를 입거나 인권을 침해당한 당사자가 인공지능 제품과 시스템에 대응할 수 있으려면 인공지능이 언제 어떻게 사용되었는지, 어디서 어떻게 이에 대한 이의를 제기할 수 있는지 알 수 있어야 한다고 주장했습니다. 

<인권과 안전, 민주주의가 보장되는 인공지능 정책 요구 시민사회 선언> 기자회견에는 백정현(민주노총 사무금융노조 정책국장), 조선희(민주언론시민연합 팀장), 은사자(한국여성민우회 성평등미디어팀 활동가), 김민(진보네트워크센터 활동가), 한광희(피스모모 리서치랩 팀장), 오정미(참여연대 공익법센터 운영위원), 서채완(민변 디지털정보위원회 변호사) 등이 참석하여 발언하였고, 김조은(투명사회를위한정보공개센터), 이라나(중구장애인자립생활센터), 허진선(평등과연대로!인권운동더하기) 활동가가 선언문을 낭독했습니다. 오늘 발표한 시민사회 선언은 이후 관련 정부부처 및 국회 상임위원회에 전달할 예정입니다. 끝.

▣ 붙임 : 인권과 안전, 민주주의가 보장되는 인공지능 정책 요구 시민사회 선언문

▣ <인권과 안전, 민주주의가 보장되는 인공지능 정책을 요구하는 시민사회 선언 기자회견> 개요 

  • 일시 및 장소 : 2021년 5월 24일(월) 오후 2시, 참여연대 2층 아름드리홀 
  • 공동 주최 : 인권과 안전, 민주주의가 보장되는 인공지능 정책을 요구하는 시민사회 선언 연명 120개 단체
  • 사회 : 장여경(정보인권연구소 이사)
  • 발언

ㅇ 시민사회 선언의 취지와 배경
ㅇ 각계 발언 및 인공지능 법적규제의 필요성 등 선언 주요 내용

- 인공지능이 야기하는 문제점 : 백정현(민주노총 사무금융노조 정책국장), 조선희(민주언론시민연합 팀장), 은사자(한국여성민우회 성평등미디어팀 활동가), 한광희(피스모모 리서치랩 팀장)
- 인공지능 법제 마련의 필요성 : 김민(진보네트워크센터 활동가)
- 인공지능 감독과 시민참여 : 오정미(참여연대 공익법센터 운영위원)
- 인공지능 위험성 규제와 권리구제 : 서채완(민변 디지털정보위원회 변호사) 

ㅇ 선언문 낭독 : 김조은(투명사회를위한정보공개센터), 이라나(중구장애인자립생활센터), 허진선(평등과연대로!인권운동더하기) 활동가
ㅇ 질의 응답

[시민사회 공동논평] 국민 안전과 기본권 보호하는 AI 규제법 마련해야

인권침해, 차별 위험 등 AI 문제 ‘민간자율’로 해결할 수 없어

산업중심의 4차위⋅과기부 주도 아닌 인권위⋅개보위⋅공정위 참여하는 통합적 거버넌스 필요

지난 3월 30일, 4차산업혁명위원회(이하 4차위)는 산·학·연 민간 전문가가 참여한 가운데 ‘신뢰할 수 있는 인공지능(AI) 활용 방안 모색 간담회’를 개최하였다. 그러나 이번 간담회에서 인공지능 활용이나 인공지능 기술 자체의 속성에서 비롯되는 기본권 침해의 예방책 등 국민의 권리 보장 방안이 다뤄지지 않았다. 결론으로 도출된 ‘민간중심의 자율규제’라는 제언은 기업측의 이익과 입장만을 고려한 일방적 방향에 불과하다. 정부는 기업뿐 아니라 소비자, 노동자 등 실제 AI의 영향을 받는 모든 이해관계자들과 함께 AI의 신뢰성과 책임성을 담보할 수 있는 방법을 모색하는 것이 순서일 것이다. 뿐만 아니라 현실에서 실제로 벌어지는 다양한 AI에 의한 위험성을 예방하고 대비할 수 있는 AI 규제법제를 마련해야 한다.

이미 우리 사회 다양한 영역에서 AI 제품과 서비스가 활용⋅도입되고 있다. 스마트폰의 AI 비서나 AI 스피커, 온라인 쇼핑몰의 상품추천 등은 일상 생활에서 익숙한 AI 서비스이다. 더 나아가 맞춤형 금융상품 추천을 위한 신용평가, 사회복지수급자 선정, 일자리 배치 등 국민의 삶에 중대한 영향을 미치는 영역에 AI가 도입되고 있으며, 최근 여러 민간기업과 공공기관이 AI를 이용한 서류평가와 면접을 채용 절차에 적용하고 있다. 지난 2월에는 행정기본법이 국회를 통과하면서 AI에 의한 행정 처분의 근거가 마련되었고, 앞으로 국가의 행정작용에 이르기까지 AI 활용은 더욱 확대될 것이다. AI 산업이 지속가능하게 발전하기 위해서는 기술 지원과 더불어 AI로 인하여 발생할 문제에 대한 예방책도 함께 마련되어야 한다.

그러나 AI 법제도와 관련하여 4차위를 필두로 한 정부 정책들은 인공지능 산업의 기반이나 기술 개발을 진흥하는 것을 주요 목표로 하고 있다. 일례로 지난 해 12월 24일 과기부가 발표한 ‘인공지능 법⸱제도⸱규제 정비 로드맵’은 인공지능 산업 진흥과 활용 기반을 강화하는 방향 일색이다. 올해 3월 발족한 제2기 ‘인공지능 법제도정비단’이 추진하는 ‘데이터산업 진흥을 위한 기본법 제정’, ‘데이터 관리업에 대한 법적 근거 마련’ 방안 등 역시 산업 진흥에만 초점이 맞춰져 있다. 국민의 안전과 기본권 보호를 위하여 정작 먼저 이루어져야 할 ‘고위험 분야 인공지능 기술기준 마련’, ‘인공지능에 의한 계약의 효력’, ‘인공지능 행위에 대한 손해배상 방안 마련’, ‘인공지능 행정의 투명성 확보’ 등은 중장기 과제로 미뤄져 있다.

인공지능에 대한 깊은 논의가 부족한 채 ‘인공지능은 객관적이고 중립적일 것’이라는 막연하고도 맹목적인 신뢰를 바탕으로 앞다투어 인공지능 시스템을 도입, 홍보하는 것은 위험하다. 검증절차 없이 도입된 인공지능 시스템의 부작용은 오롯이 국민들에게 전가되기 때문이다. 인공지능의 오남용으로 인한 광범위한 인권 침해와 차별의 위험성은 챗봇 이루다 사건, 일부 공공기관 AI 면접에서 알고리즘 공개 거부 사례, 네이버나 다음 등 포털사이트의 뉴스 편집 알고리즘의 편향성에서 이미 드러났다. 이들 사례들은 인공지능 사용자인 시민들의 접근권, 처리절차 및 결과 도출 등에 관한 절차적 권리 등을 보장하지 않을 뿐 아니라 이러한 당연한 권리를 차단하기 위해 비밀주의로 일관하는 기업의 태도가 심각하다는 점을 보여준다. 미국은 공정거래위원회 격인 연방거래위원회(FTC)가 아마존 등 여러 기업에서 널리 사용하는 AI 채용 면접 ‘하이어뷰(Hire Vue)’ 알고리즘의 공정성을 조사 중이다. 그러나 우리 정부가 지금까지 AI면접 등에 대해 공정하고 투명한 채용 시스템인지, 부작용은 없는지에 대해 조사나 감독을 한다는 소식은 들은 바 없다. AI면접이 채용 지원자의 성별이나 연령에 따라 편향적으로 판단하지는 않는지, 표준어와 사투리 사용자 사이에 부당한 편향은 없는지, 어느 누구도 정확히 검증하지 않은 상태로 공공기관마저 무비판적으로 AI 채용을 도입하고 있다. 특히 기업들이 이윤 추구를 위하여 검증되지 않은 인공지능기술을 무차별적으로 도입하고 있다는 현실을 고려할 때, 인공지능기술의 연구, 개발, 상용화 과정에서 준수해야 할 절차나 한계에 대한 기준을 마련하지 않은 채 기업들의 ‘자율규제’에 맡기는 것은 국가가 헌법이 규정하고 있는 기본권 보호 의무를 방기하는 것이다.

국회 입법조사처는 2020년 9월 ‘인공지능의 윤리적 사용을 위한 개선과제’ 보고서에서 체계적이고 표준적인 윤리기준 등 인공지능윤리 거버넌스 마련, 예상치 못한 문제 발생 등에 대응할 수 있는 인공지능 사후감시 감독 시스템 도입, 인공지능 피해에 대한 배상책임 제도 보완 등 인공지능 전반의 논의가 필요하다고 제언한 바 있다. AI 문제는 민간자율의 범위를 뛰어 넘는다고 본 것이다. 이를 위해 우선, 인공지능 기술이 산업·사회 전반에 미치는 파급력이 크므로 전체를 조율할 수 있는 컨트롤 타워가 필요하다. 과기부가 소관부처라는 이유만으로 인공지능기술과 관련된 관련 법령의 제개정을 주도적으로 처리하면 안될 이유다. 신기술의 등장으로 새롭게 추구되는 가치와 기존의 법제도가 보호하고자 하는 가치가 충돌할 수 있는 만큼 국회, 정부 부처, 산업계, 학계, 시민단체 등이 참여하는 범정부적인 협의체가 구성되어야 한다. 또한 이 규제거버넌스 기구에는 공정거래위원회, 개인정보보호위원회, 국가인권위원회 등 국민의 기본권 보호 의무를 수행하는 국가 기관들도 반드시 참여해야 한다.

현재 국회에 발의되어 있는 AI 관련 법안(이상민 의원안, 양향자 의원안, 민형배 의원안)들 역시 모두 AI 산업육성과 진흥에 관한 법안들로, 신기술이 초래하는 위험성에 대한 고려가 전혀 없다. 인공지능의 사용은 ‘지속가능한 발전 목표’를 달성하고, 민주적인 프로세스와 사회적인 권리를 지원하는데 중요한 역할을 수행해야 한다. 이를 위해서는 인공지능 기술의 역기능을 최소화하기 위한 안전규제 및 위험관리 체계가 균형있게 마련되어야 한다.

AI 기술은 이른바 ‘4차 산업혁명’이라고 불리며 장밋빛 미래로 이야기되지만 그 이면에는 기본권과 인권 침해 위험성이 존재하며 피해 사례가 점차 드러나고 있다. 채용과정에서 왜 불합격인지 설명하기 어려운 인공지능의 판단을 당연하게 받아들여야 하는 것인지, 챗봇 이루다 사태에서 보듯 데이터 수집 단계의 개인정보 침해 뿐만 아니라 인간에 대한 혐오, 편견을 조장하는 발언들 역시 초창기 기술이라는 이유로 대책 없이 감내하여야 하는 것인지 질문해야 한다. 민간 자율과 별개로 인공지능의 영향을 받는 국민의 안전과 기본권 보호를 위한 인공지능 규제법을 마련할 것을 촉구한다.

2021년 4월 1일

민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 진보네트워크센터, 참여연대