인공지능이 어느덧 우리 삶에 깊숙이 들어왔습니다. 챗GPT는 공개된지 두달만에 세계적인 화제를 불러일으켰습니다. 인공지능의 발전은 분석과 예측 등 디지털 정보의 활용 가능성을 증대시켜 업무와 시스템의 효율성을 크게 향상시켰고, 중요한 의사결정을 지원하거나 직접 자동화된 결정을 수행하는 수준에 이르렀습니다.
그러나 인공지능이 인권에 미치는 부정적인 영향과 위험에 대한 우려도 그만큼 커지고 있습니다. 인공지능 챗봇 이루다는 소수자를 혐오하는 내용의 채팅으로 우리 사회에 큰 충격을 주었습니다. 코로나19 위기를 거치면서 수많은 공공기관과 기업이 비대면으로 인공지능 채용 절차를 실시하였으나, 불투명하고 공정하지 않다는 의혹을 받고 있습니다.
이와 같이 인공지능이 인권에 미치는 부정적인 영향과 위험을 방지하고 완화하기 위해서는 인공지능이 배치되거나 사용되기 전에 예방적 조치를 취하는 것이 반드시 필요합니다. 최근 세계 각국에서 다양한 인공지능 영향평가를 검토하고 도입하는 이유 역시 바로 여기에 있을 것입니다. 유럽연합, 캐나다, 영국, 미국에서는 인공지능에 대한 다양한 영향평가 제도를 법제도적 수준으로 이미 도입하였거나 제안하는 절차를 밟고 있습니다. 유엔 인권기구, 유럽평의회, 덴마크, 네덜란드 등에서는 인공지능에 대한 인권 기반 접근법을 취하며 인권영향평가를 제안해 왔습니다. 구글, 페이스북, 마이크로소프트 등 주요 빅테크 기업들 역시 자사의 인공지능 혹은 알고리즘에 대해 부분적이나마 인권영향평가를 수행한 바 있습니다.
우리나라에서 인권영향평가는 도입 초기라고 할 수 있습니다. 그러나 사람과 사회에 중대한 영향을 미치는 신기술 시스템의 경우 그 개발과 활용의 전체적인 과정에서 인권에 기반하여 이를 평가하고 실사하기 위한 체계가 갖추어질 필요가 있습니다. 특히 인공지능처럼 기존 제도로 관리하거나 감독할 수 없는 새로운 분야에서는 인권영향평가의 필요성이 더욱 크다고 할 수 있습니다.
<인공지능 인권영향평가 도입방안> 연구는 인공지능에 대한 인권적 통제방안으로서 인권영향평가 제도에 대하여 검토하고 그 실현 방안에 대하여 살펴보았습니다. 국가인권위원회가 발주한 이 연구는 한동대학교산학협력단이 수행하였고, 정보인권연구소, 진보네트워크센터, 민주사회를위한변호사모임 디지털정보위원회 구성원들이 연구원으로 함께 참여하였습니다.