국회 법사위의 ‘AI 기본법’ 졸속 처리 규탄한다

마지막 남은 본회의 절차에서라도 금지, 제재, 피해 구제 포함해야

1. 오늘(12/17) 국회 법제사법위원회(이하 법사위)는 국민의 안전과 인권 및 민주주의에 대한 위험을 예방하기에 너무나 미흡하여 시민사회가 반대한 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(대안)(위원장)」(이하 ‘AI 기본법안’)을 별다른 논의없이 졸속으로 통과시켰다. 앞으로 인공지능 기술은 여러 혜택을 주기도 하겠지만 동시에 안전과 인권에 파괴적인 위협을 가져오기도 할 것이다. 따라서 AI 기본법안은 인공지능으로부터 위험한 영향을 받게 될 시민의 안전과 인권을 보호하기 위하여 고위험 인공지능을 시장에 출시하거나 업무용으로 사용하는 사업자들에게 마땅한 의무를 부과했어야 했다. 그러나 이번 법사위에서 통과된 AI 기본법안에는 비윤리적인 인공지능의 금지 조항이 없고, 고위험(영향)인공지능의 위험을 예방하는 충분한 의무 및 실효적 제재수단이 미비할 뿐 아니라 인공지능의 영향을 받는 시민의 권리 및 구제절차가 없다. 우리 단체들은 마지막 남은 국회 본회의 절차에서라도 AI 기본법안을 수정보완할 것을 강력히 요구한다. 
2. 이번 법사위에서 통과된 AI 기본법은 지난 11월 26일 국회 과학기술정보방송통신위원회(이하 과방위)에서 19개 법안을 병합심사 후 통과시킨 위원회 대안으로 인공지능 산업 진흥을 위하여 시민의 안전과 인권에 대한 국가의 보호 의무를 방기하여 시민사회의 지탄을 받았다. 살상무기에 탑재되거나, 인간의 잠재의식을 왜곡·조종하거나, 특정 집단의 취약성을 활용하는 인공지능과 같이 그 자체로 비윤리적인 인공지능은 개발이나 활용 자체를 금지시켜야 하지만 법안은 금지 인공지능을 전혀 규정하지도 않았다. 고위험 인공지능을 규정하긴 했지만 그 위반에 대해서는 직접적인 제재 조항을 두지 않고 시정을 위한 행정조치는 과학기술정보통신부(이하 과기부)의 재량에 맡겼다. 이는 첨단산업 지원을 소관하는 과기부가 이 법안을 일임한 데서부터 예견된 일이었다. 그래서 국가인권위원회는 지난 2023년 8월 인공지능 감독·규제 업무를 제3의 기관이 독립적으로 수행해야 한다고 지적하였던 것이다. 그나마 국무총리 산하에 심의·의결기구로 국가인공지능위원회를 두도록 하였으나 영향을 받는 시민의 입장을 대표할 수 있는 구성은 결여되어 있다.
3. 특히 국방 또는 국가안보 목적의 인공지능을 이 법의 적용에서 배제한 것은 민주주의와 인권 측면에서 가장 위험한 인공지능에 대하여 최소한의 규제조차 적용하지 않는 것이다. 법안심사에서 과기부 장관은 EU AI 법에서도 국방 부문이 제외되어 있고 별도의 국방관련 AI 법 제정을 통해 해결하면 된다고 답변했지만, 이는 이치에 맞지 않다. EU에서는 국방과 관련해서 각 회원국의 고유한 권한을 인정하고 있기 때문에 그와 같이 규정한 것이지만, 하나의 국가인 우리나라에서는 굳이 AI 기본법에서 배제할 이유가 없다. 만일 특수한 규제가 필요하다면 AI 기본법을 기반으로 국방 관련 AI법을 특별법으로 만들면 될 일이다. 고위험 AI 규제에 대해서는 EU AI 법규정이 우리 실정과 다르다며 완전히 무시해 놓고 국방과 관련해서만 EU AI 법의 사례를 따르는 것도 아전인수식 변명에 불과하다. 
4. 무엇보다 이 법에 따라 인공지능의 영향을 받게 될 시민에 대한 권리와 권리 침해 시의 구제절차가 없다. 현재 법안으로는 AI 채용으로 불합격 통보를 받은 청년도, 사회보장 AI로부터 보조금 지급거부 결정을 받은 시민도, 학력평가 AI로부터 납득할 수 없는 점수를 받은 학생도, 의료 AI의 진단오류로 피해를 입은 환자도 충분한 설명이나 구제를 보장받을 수 없다. 경찰이나 검찰이 도입하는 수사 AI가 인권을 침해할 때에도 이에 대한 이의제기가 가능하지 않다. 시판되고 사용되는 고위험 인공지능에 대해 사전적인 피해방지 조치나 충실한 기록이 보장될지 알 수 없다. 피해 구제를 위한 수단, 절차에 대해서도 전혀 정하지 않고 있어, 소송 등 사후적 권리구제에 필요한 최소한의 설명 또는 자료에 대한 접근권이나 조리상 신청권이 인정될 수 있을지 여부도 불투명하다.
5. AI 기본법은 안전과 인권 일반에 영향을 미치는 매우 방대한 쟁점을 아우르고 있다. 그럼에도 이 법안은 AI 관련해서 이 법이 우선 적용되도록 규정하고 있다. 이에 언론인 등 다양한 이해관계자 뿐 아니라 문화체육관광부, 산업통상자원부, 보건복지부 등 여러 부처에서 다른 법률과의 관계 등에 대한 이견을 냈다. 그럼에도 법사위는 심사 과정에서 이러한 의견들을 심도있게 검토하지 않고 모두 불수용하였다. 
6. 시민사회는 AI로 야기될 위험을 예방하고 문제발생 시 권리 구제절차 등을 규정하여 국민의 안전과 인권 및 민주주의를 보장할 수 있는 <인공지능 기본법>을 지난 12월 3일 더불어민주당 김남근 의원 소개로 입법 청원한 바 있다. 국가인권위원회도 지난 21대 국회에 권리 침해 시의 구제절차를 명확히 규정해야 하고, 용인할 수 없을 정도로 위험한 인공지능을 금지하여야 하며, 고위험 인공지능 사업자에게는 그에 상응하는 의무를 부과하고 위반시 실효성 있게 제재하여야 한다는 의견을 표명한 바 있다. 
7. 국회 과방위에 이어 법사위조차 이 법이 향후 우리 사회와 시민들에게 미칠 막대한 위험과 영향을 충실히 심의하지 않고 통과시킨 것은 국민의 안전과 인권 및 민주주의에 대한 최소한의 방어선을 마련할 수 있는 기회를 걷어차버린 것이다. 22대 국회가 개원하고 반년도 되지 않아 비슷비슷한 내용의 법안이 20여 개 발의되는 동안, 인공지능법의 논의과정을 시민에게 투명하게 공개하거나 각계의 목소리를 다양하게 청취하지도 않았다. 국회는 정부와 업계의 이해관계에 치우쳐 시민의 안전과 인권을 돌보지 않았다는 비난을 면하기 어렵다. 만약 이대로 본회의에서 처리된다면 국회는 앞으로 인공지능 기술이 야기할 위험과 시민의 피해에 대한 책임을 피할 수 없을 것이다. 마지막으로 호소한다. 국회는 남은 본회의 절차에서라도 인공지능 위험으로부터 시민의 안전과 인권을 보호하기 위한 노력을 다하라. 끝.

<참고 : 2023. 7. 13. 국가인권위원회 의견표명과 법사위 통과안 비교표>

2024년 12월 17일

민주사회를위한변호사모임 디지털정보위원회, 정보인권연구소, 진보네트워크센터, 참여연대