태그: 알고리즘

[공개토론회] 인공지능 국가전략, 비판적 검토와 과제

 

공개토론회 「인공지능 국가전략, 비판적 검토와 과제」
- 오는 2월 21일(금) 오후3시, 서울 광화문 사회복지공동모금회 별관 강의실B

정부는 지난해 12월 17일 문재인 대통령 주재로 열린 제53회 국무회의에서 전부처가 참여한 「인공지능(AI) 국가전략」을 발표하였습니다. AI 국가전략은 AI 생태계 조성, AI 인재형 국가, 사람 중심의 AI 구현 등 3대 분야에서 9대 전략을 제시하면서 AI 분야별 법제 정비 계획도 밝혔습니다.
특히 ‘사람 중심 AI’ 분야에서는 일자리 안전망 확충, AI 윤리 정립 등의 과제를 제시하였습니다.

그러나 이 국가전략은 산업 중심 전략으로 노동자, 소비자, 이용자 보호를 위한 구체적인 내용을 담고 있지 않습니다.
법제 정비에 있어서는 인공지능 의사결정이 민주주의와 인권, 사회적 차별에 미치는 영향에 대응해야 할 과제가 있습니다.

사단법인 정보인권연구소는 AI 국가전략을 비판적으로 검토하고 과제를 제시하는 토론회를 개최합니다.
인공지능과 그 사회적 문제에 관심이 있으신 분들의 많은 참석을 바랍니다.

참가신청(링크)

❖ 토론회 개요

  • 제목 : 공개토론회 「인공지능 국가전략, 비판적 검토와 과제」
  • 일시 : 2020년 2월 21일(금) 오후3시~5시
  • 장소 : 광화문 사회복지공동모금회 별관(나눔문화센터) 지하1층 강의실B
  • 주최/주관 : 사단법인 정보인권연구소

❖ 토론회 구성

오후
3:00~3:10
사회 : 이호중
/ 정보인권연구소 이사장, 서강대학교 법학전문대학원 교수
3:10~3:30 발제 인공지능 거버넌스와 시민사회 오철우 / 서울과학기술대 강사, 과학기술학 박사
3:30~3:50 발제 인공지능 국가전략에 대한 검토와 제언 선지원 / 정보통신정책연구원 ICT전략연구실 부연구위원
3:50~4:00 토론 임완철 / 성신여자대학교 교육학과 겸임교수, 서울시교육청 미래교육(에듀테크)정책자문관, 정보인권연구소 연구위원
4:00~4:10 토론 허유선 / 중앙대학교 HK+ 인공지능인문학 사업단, 동국대 철학과 강사
4:10~4:20 토론 김하나 / 민주사회를위한변호사모임 디지털정보위원회·노동위원회
4:20~4:30 토론 홍석만 / 참세상연구소 연구실장, 「부채전쟁」 저자
4:30~4:40 토론 국가인권위원회 인권정책과
4:40~5:00 플로어 토론 및 참석자 전체 토론

❖ 사단법인 정보인권연구소 소개

사단법인 정보인권연구소는 시민사회 관점에서 정보인권을 지지하는 대안적 정책을 연구하고 생산하기 위해 2018년 창립하였습니다(이사장: 이호중 서강대학교 법학전문대학원 교수). http://idr.jinbo.net

※ 자료집 다운로드 [인공지능 국가전략, 비판적 검토와 과제]

4차산업혁명시대에서 정보인권보호를위한 실태조사

4차 산업혁명 시대에 정보인권을 어떻게 보호해야 할까요?
최근 국제사회는 이 문제에 대한 정책적 대안을 다양하게 모색하고 있습니다.

예를 들어 하버드대 버크만센터는 <인공지능과 인권, 기회와 위험(Artificial Intelligence & Human Rights: Opportunities & Risks)> 보고서를 통해 인공지능(AI)에 대한 인권영향평가를 제안하였습니다. 이 보고서에서 인권영향평가를 실시한 결과, 인공지능은 프라이버시권에 가장 큰 영향을 미쳤으며, 평등권, 표현의 자유, 집회결사의 자유, 노동권 등 다른 권리들도 상당히 영향을 받는 것으로 나타났습니다. 또 취약한 집단에 속해 있는 사람은 다른 사람보다 훨씬 더 강력한 영향을 받는 것으로 드러났습니다. 버크만센터는 인공지능이 인권을 존중하는 방식으로 배치될 수 있도록 유엔 기업과 인권 이행지침 등 국제인권규범의 역할이 중요하다는 점을 강조했습니다.

최근 데이비드 케이 유엔 표현의 자유 특별보고관 역시 인공지능이 인권을 위협하는 데 대해 우려를 표하고 이를 방지하기 위해 인권영향평가를 제안하였습니다. 인공지능은 그 작동이 사용자에게 숨겨져 있다는 점에서, 그리고 인공지능에 의한 정보의 개인화가 편향을 강화하고 도발적 콘텐츠나 가짜뉴스를 촉진할 수 있다는 점에서 사용자의 자기결정권과 자율성을 침해합니다. 프로파일링과 사용자 타게팅은 개인정보의 대량수집과 사용자가 제공하지 않은 민감 정보의 추정 등을 통해 프라이버시권을 위협할 수 있습니다. 인공지능에 의한 온라인 콘텐츠 편집과 필터링은 표현의 자유와 차별받지 않을 권리를 위협할 수 있습니다. 특별보고관은 기업과 정부가 인공지능의 개발, 구매, 이용 단계 이전에 인권영향평가를 시행할 필요가 있다고 지적하였습니다.

정보인권연구소는 2018년 11월 문화사회연구소, 참세상연구소와 함께 「4차산업혁명시대에서 정보인권보호를위한 실태조사」 보고서를 발간하였습니다.
이 실태조사는 국가인권위원회가 발주한 과제로서, 사단법인 참세상이 수행하고 문화사회연구소 이광석 교수(서울과학기술대학교)가 책임을 맡았습니다. 정보인권연구소에서는 오병일, 홍지은 연구위원이 참여했습니다.

특히 실태보고서에서는 4차 산업혁명과 정보인권에 대한 관계 시민 및 관계전문가 인식 조사를 수행하였습니다.
시민들은 4차 산업혁명과 정보인권 보호 둘 다 중요하게 생각하지만 정보인권을 보다 중요하게 고려하는 것으로 나타났습니다. 또 개인정보를 활용하여 안전과 건강수준을 향상시켜 직접적으로 도움이 될 서비스에 대해서는 대체로 긍정적으로 바라보았지만, 금융과 신용평가 등 편익이 불확실한 부분에 대한 개인정보의 활용에는 부정적 의견이 많았습니다. 하지만, 가명정보를 정보주체의 동의 없이 가공하는 것에 대해서는 반대 의견을 보다 분명히 했습니다. 개인정보를 수집, 관리하는 공공기관이나 기업에 대해 낮은 신뢰를 보였습니다. 무엇보다 정책방향과 관련해서 전반적으로 개인정보 보호를 위한 보다 강력한 조치들을 요구하였고, 특히 4차 산업혁명의 발달을 위해 개인정보 규제를 완화하는 것에 대해서는 반대 의견이 많이 보였습니다.

보고서는 정보인권 보호와 확장을 위한 법제도 및 정책도 제안하였습니다.
우선, 시스템의 투명성을 보장하고, 설계단계에서부터 정보인권을 보호하며, 개인정보의 수집 및 처리의 전 과정에서 정보주체의 권리가 보장되도록 개인정보 보호법제를 개선해야 합니다.
다음으로, 정보수사기관의 지능화된 국가 감시에 대해 통제 절차와 감독체계의 마련이 필요합니다.

※ <전체 연구보고서> 파일은 국가인권위원회에서 다운받으시거나 첨부파일을 참고하시기 바랍니다.

※ <연구 요약문>을 우편으로 받으실 분은 이메일 idr.sec 골뱅이 gmail.com 로 주소를 보내주시면 추후 발송해 드리겠습니다.