'인권기반 접근' 없는 AI 윤리원칙(안) 전면 개선 촉구
- 국제 기준, 2020년 윤리기준보다도 후퇴, 인권 보호와 피해 구제 대책 강화해야
- 영향받는 사람의 피해 위험 방지하고 구제 가능성 높여야
1. 어제(7/8) 인권, 노동, 복지, 여성, 환경, 소비자, 평화 분야 전국 48개 시민사회단체들이 함께 하고 있는 <인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동(이하 ‘AI시민행동’)>은 과학기술정보통신부와 정보통신정책연구원이 공개한「 인공지능 윤리원칙(안)」에 대한 의견서를 제출했다.
2. 이번 인공지능 윤리원칙(안)은 2020년 제정된「인공지능 윤리기준」을 대체하는 것으로, 관계부처 협의와 사회 각계 의견 수렴을 거쳐 국가AI전략위원회에서 최종 확정될 예정이다. AI 시민행동은「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 인공지능기본법)이 이미 시행 중인 상황에서, 이번 윤리원칙이 국제적 정합성을 높이고 사업자의 준수 기준을 제시하려면 무엇보다 영향받는 사람의 피해 위험을 방지하고 구제 가능성을 높이는 방향이어야 한다고 강조했다. 또한 인공지능 기술로 인해 우리 사회 대전환이 예상되고 그에 따른 윤리원칙을 담고자 한다면 윤리원칙의 철학과 방향 그리고 인권, 성평등, 공공성 등 인류 보편의 가치와 규범을 더욱 명확하게 규정할 필요가 있다고 지적했다.
3. 첫째, 인공지능에 대한 인권기반 접근을 윤리원칙에 명시할 것을 요구했다. 유엔 인권기구는 2018년 이후 일관되게 ‘인공지능에 대한 인권기반 접근’을 국제기준으로 제시해 왔고, 2024년 채택된 유럽평의회 <인공지능과 인권, 민주주의 및 법치주의에 관한 기본 협약>도 인권 준수를 명시적으로 요구하고 있다. 반면 이번 윤리원칙(안)의 3대 가치와 6대 원칙 어디에도 ‘인권’이라는 표현이 등장하지 않으며, ‘인간의 존엄성’ 가치가 침해 대상을 ‘생명·신체·건강·재산’으로 열거한 것은 물리적·경제적 위해에만 초점을 맞추고 있다. 그 결과 인공지능을 매개로 한 젠더 기반 폭력과 차별이 초래하는 정신적·사회적 위해를 포착하지 못한다. ‘인간의 존엄성’ 가치 항목에 세계인권선언, 여성차별철폐협약(CEDAW) 등 국제인권법이 인정하는 인권의 보호·존중과 인권침해를 구제할 기업의 책임을 명시해야 한다고 요구했다.
4. 둘째, 인공지능기본법이 다루지 못하는 위험을 보완할 ‘윤리적 금지선(Ethical Red Line)’을 윤리원칙에 명문화할 것을 요구했다. 현행 인공지능기본법은 금지하는 인공지능을 별도로 규정하고 있지 않아 국제적으로 금지된 완전자율살상무기의 개발·이용이나 위헌·위법적으로 직접적·간접적 차별을 낳는 인공지능을 규율하지 못하고 있다. 아울러 공공장소에서의 실시간 식별·추적, 감정인식 등 인권적으로 용인할 수 없는 인공지능 역시 금지하고 있지 않다. AI시민행동은 윤리원칙의 사회의 공공선 가치 항목에 국제 인권기준상 금지되거나 인권과 양립할 수 없는 위험을 야기하는 인공지능을 예시적으로 열거하고, 그 개발과 이용을 금지하도록 권고할 것을 요구했다.
5. 셋째, 영향받는 사람의 알 권리와 참여권을 보장하고 차별을 적극적으로 시정할 것을 요구했다. 고용, 교육, 보건의료, 사회복지 등 삶과 노동의 중대한 영역에서 인공지능에 기반한 결정이 확산되면서 안전과 인권에 중대한 영향을 미치거나 인권침해적·차별적 결과를 낳을 수 있다는 것이다. 또한 영향받는 사람 보호와 관련한 법률적 공백을 지적한 감사원 실지감사(1/5)를 언급하며, 인공지능 사업자가 영향받는 사람의 인권침해를 구제하는 책임성을 갖춰야 한다고 강조했다. 특히 윤리원칙(안)의 투명성 원칙이 “프라이버시, 영업비밀 보호 등 다른 정당한 가치와의 균형 속에서 구현되어야 한다”고 단서를 단 것에 대해 영업비밀 보호를 투명성 제한 사유로 명시하는 것은 매우 부적절하며 투명성이 기업의 영업비밀 보호 논리에 밀려 형해화될 우려가 있다고 비판했다.
6. 넷째, ‘공정성·포용성’ 원칙을 보다 구체화하고 ‘공공성’ 원칙을 되살릴 것을 요구했다. 다양성, 공정성, 포용성의 의미를 너무 협소한 관점으로 서술하고 있어 각각의 정의를 차별금지와 평등의 관점에서 서술해야 할 것을 강조했다. 현재 윤리원칙(안)은 데이터와 알고리즘의 편향에 대해 “지속적인 점검과 개선이 이루어져야 한다”는 추상적이고 소극적인 권고에 그치고 있다. 성별, 장애, 인종, 연령 등에 대한 역사적·구조적 차별이 인공지능 시스템을 통해 재생산·고착화되는 것을 막기 위해 '비차별(차별금지)'을 원칙에 명확히 명시할 것을 요구하였다. 또한 직접적·간접적 차별 결과가 사람에게 영향을 미친 경우 인공지능사업자가 그 시정과 구제에 나서는 것이 마땅한 윤리적 책임이며, 이를 윤리원칙에 명시해야 한다고 밝혔다. 더불어 인공지능은 공공의 이익과 사회적 가치를 증진하고, 민주주의와 인권을 강화하는 방향으로 개발 및 활용되어야 하며, 사회 전체의 이익과 공동체의 지속가능한 발전에 기여하도록 2020년 윤리기준에서 명시된 ‘공공성’ 원칙도 되살려야 한다고 밝혔다.
7. 다섯째, 인공지능사업자의 ‘책임성’ 원칙을 되살릴 것을 요구했다. 2020년 윤리기준과 OECD, EU 등 국제기준은 모두 책임성을 핵심 요건으로 두고 있으나, 이번 윤리원칙(안)은 EU의 7대 요건 중 책임성이 빠져 있다. 정부가 발표한 <대한민국 인공지능 행동계획>도 윤리원칙 고도화의 배경으로 “AI 기술이 일상과 산업 전반에 깊숙이 통합되면서 알고리즘의 책임성, 투명성, 공정성 등 사회적 신뢰를 확보하기 위한 윤리 체계의 고도화가 필수 과제로 부상하고 있다”고 언급한 바 있다. 책임의 귀속을 다루는 원칙이 없다는 것은 피해 발생 시 책임 소재와 구제 근거를 윤리원칙에 담지 않겠다는 것과 다름없다고 비판하며, 편향으로 인한 부당한 차별·배제와 피해 구제 및 보호를 위해서 책임성 원칙 부활과 독립적 점검·감독 체계 마련을 촉구했다.
8. AI시민행동은 “인공지능 윤리원칙이 국제적 정합성을 갖추고 사업자의 바람직한 준수 기준으로 기능하려면 무엇보다 영향받는 사람의 피해 위험을 방지하고 구제 가능성을 높이는 방향이어야 한다”며 정부가 해당 의견서 내용을 윤리원칙(안)에 반영할 것을 촉구했다. 끝.