‘이루다 사건’ 인권침해와 차별을 외면한 국가인권위의 결정에 깊은 유감을 표한다

  1. 국가인권위원회(이하 ‘인권위’)는 2021. 7. 30. 시민사회단체가 2021. 2. 3. 제기한 챗봇 ‘이루다’(이하 ‘이루다’) 사건의 인권침해 및 차별행위 진정 사건에 대해 각하 결정을 내렸다(국가인권위원회 2021. 7. 30.자 21진정0065000 결정). 인권위는 주식회사 스캐터랩이 특정 집단에 대한 차별 및 혐오 발언을 한 이루다를 서비스하는 것이 위원회의 조사대상이 될수 없다고 보았다. 나아가 개인정보보호위원회 위원장, 국회의장, 방송통신위원회 위원장, 과학기술정보통신부장관, 국가인권위원회 위원장(이하 ‘개인정보보호위원회 위원장 등’)의 보호의무 위반에 따른 인권침해도 조사대상이 아니라 보았다. 다만 인권위는 이루다 사건이 인공지능 개발 윤리 및 혐오표현과 관련된 중요한 사례라면서 정책과제로 채택을 검토하겠다는 입장을 밝혔다. 우리 시민사회단체는 위 각하결정이 이루다 사건에서 발생한 프라이버시권 침해, 혐오표현 및 차별의 문제를 회피하는 부당한 결정임을 지적하며, 인권위의 소극적 태도에 깊은 유감을 표한다.
  1. 인권위는 먼저 주식회사 스캐터랩이 민간 사기업이기 때문에 이루다 서비스는 국가의 인권침해 및 차별행위가 아니므로 진정사건 조사대상이 아니라고 보았다. 그러나 국가인권위원회법 제30조 제1항 제2호가 법인, 단체 또는 사인에 의하여 발생하는 차별행위를 진정사건 조사대상으로 규정하고 있기 때문에 인권위의 위와 같은 판단은 부당하다.

또한, 인권위는 이루다가 인격체가 아니므로 이루다에 의한 혐오표현을 조사대상으로 삼을 수 없기에, 이루다와 주식회사 스캐터랩에게 그 책임을 묻기 어렵다고 보았다. 그러나 ‘이루다’는 피진정인 스캐터랩이 개발한 알고리즘에 따라 대화를 하는 인공지능 서비스라는 점에서 ‘이루다’로 발생하는 차별 및 혐오 표현의 책임은 알고리즘의 개발자이자 서비스의 제공자인 주식회사 스캐터랩에게 있을 수밖에 없다. 따라서 ‘이루다’가 인격체가 아니므로 조사대상이 아니라는 인권위의 판단은 인공지능과 책임에 대한 기본적 이해가 없는 부당한 판단이며, 나아가 조사를 하지 않기 위한 면피성 판단이 아닌가 의심된다.

  1. 한편 인권위는 개인정보보호위원장 등이 ‘이루다’ 사건에서 드러난 개인정보의 무분별한 수집 및 이용에 따른 프라이버시권의 침해 등에 대한 적절한 입법적·정책적 조치를 취하지 않고 있다는 진정 부분도 이루다 사건  발생만으로 국가기관의 부작위를 인정하기 어렵다고 보았다. 

인권위의 위와 같은 판단은 인권에서 도출되는 국가의 의무를 협소하게 해석한 것으로 부당하다. 국제인권법은 모든 국가의 인권 보호 및 촉진의무를 인정하고 있고, 이에 기초하여 국가는 사인의 인권 침해 및 안전한 인권의 향유를 위한 입법적, 행정적 조치를 취해야할 작위의무를 부담한다. 방송통신위원회도 지난 2021. 1.경 이루다 사건 이후 “정부 등 지능정보사회 구성원 모두가 인공지능 윤리의 중요성을 인지하고 실천 방안을 모색해야 하는 상황”이라며 스스로 인공지능 기술에 대한 정부의 입법적, 행정적 규제가 미비했음을 인정하였다. 그럼에도 불구하고 인권위가 개인정보보호위원장 등에게 작위의무가 없다고 판단한 것은 국가의 책임에 대해 면죄부를 주는 것과 다름 없다.

  1. 나아가 인권위가 각하결정을 한 것은 모든 사람의 인권보호라는 목적으로 설립된 독립조사기구로서 요구되는 최소한의 역할조차 수행하지 않은 것이다. 인권위는 앞서 살펴본 이유 외에 이루다의 대화 시점, 상대방, 맥락 등을 판단할 수 없다는 이유로도 이루다 사건이 조사대상이 아니라 보았는데, 위 사항들은 모두 조사를 통해 확인되어야 할 기초사실들이다. 

앞서 살펴본 국가의 작위 의무에 대해서도 마찬가지다. 인권위는 개인정보보호위원장 등에게 구체적 작위의무를 인정할 사정이나 주장을 찾을 수 없다고 보았는데, 이는 결국 시민사회단체들이 문제제기 한 불충분한 법제 현황에 대한 일말의 조사도 하지 않고 이루어진 판단이다.

  1. 인권위는 불가침의 기본적 인권을 보호하기 위해 설립된 독립조사기구이다. 그럼에도 인권침해와 차별진정에 대해 기초적 조사를 진행하지 않은 채, 인공지능 기술에 대한 국가의 책임성과 의무를 협소하게 이해하여 이루다 사건에 대한 인권침해 및 차별 진정을 각하한 인권위의 결정이 위 설립 취지에 부합하는지 의문이다. 

기술이 발전함에 따라 앞으로도 계속 인공지능에 의한 인권침해와 차별이 문제될 것으로 예상되는 상황에서, 인권위가 선제적인 대응을 하기는커녕 실제 발생한 사건에 대해서조차 조사를 하지 않는 것은 실로 유감이다.

한편 인권위는 이루다 사건으로 드러난 인공지능기술과 차별 및 혐오표현의 정책과제로 채택을 검토하겠다고 밝히고 있지만, 구체적으로 언제, 어떠한 방식으로 검토를 할 것인지에 대해서는 전혀 이야기하지 않고 있다. 이 또한 매우 소극적인 행보이다. 인권위가 신속히 인공지능기술로 발생하는 차별 및 혐오표현이라는 중대한 인권 현안에 대해 적절한 의사표명을 함으로써, 불가침의 인권을 보호하기 위해 설립된 독립조사기구로서의 역할을 다 하길 바란다.

2021년 8월 12일

민주사회를 위한 변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 진보네트워크센터, 참여연대 공익법센터, 차별금지법제정연대