교육/자료 부터

인공지능 거버넌스와 시민사회

* 코로나19의 지구적 유행이 매우 우려스러운 상황입니다. 모든 분들의 건강을 기원합니다. 특히 우리 사회에서 인권이 취약한 분들과 소수자 분들이 이 어려운 시기를 함께 잘 극복할 수 있도록 사회적 지지와 연대가 필요한 때입니다.

지난해 연말 정부가 인공지능 국가전략을 발표하였습니다.

그러나 이 국가전략은 안타깝게도 인공지능으로부터 영향을 받는 당사자를 비롯해 시민 참여에 대한 고민이 부족하다는 비판을 받고 있습니다.

2020. 2. 23. "인공지능 국가전략, 비판적 검토와 과제" 공개토론회
오철우  박사님의 발제 영상 공유합니다.

#진보네트워크센터 따오기팀에서 제작하였습니다.

[공개토론회] 인공지능 국가전략, 비판적 검토와 과제

 

공개토론회 「인공지능 국가전략, 비판적 검토와 과제」
- 오는 2월 21일(금) 오후3시, 서울 광화문 사회복지공동모금회 별관 강의실B

정부는 지난해 12월 17일 문재인 대통령 주재로 열린 제53회 국무회의에서 전부처가 참여한 「인공지능(AI) 국가전략」을 발표하였습니다. AI 국가전략은 AI 생태계 조성, AI 인재형 국가, 사람 중심의 AI 구현 등 3대 분야에서 9대 전략을 제시하면서 AI 분야별 법제 정비 계획도 밝혔습니다.
특히 ‘사람 중심 AI’ 분야에서는 일자리 안전망 확충, AI 윤리 정립 등의 과제를 제시하였습니다.

그러나 이 국가전략은 산업 중심 전략으로 노동자, 소비자, 이용자 보호를 위한 구체적인 내용을 담고 있지 않습니다.
법제 정비에 있어서는 인공지능 의사결정이 민주주의와 인권, 사회적 차별에 미치는 영향에 대응해야 할 과제가 있습니다.

사단법인 정보인권연구소는 AI 국가전략을 비판적으로 검토하고 과제를 제시하는 토론회를 개최합니다.
인공지능과 그 사회적 문제에 관심이 있으신 분들의 많은 참석을 바랍니다.

참가신청(링크)

❖ 토론회 개요

  • 제목 : 공개토론회 「인공지능 국가전략, 비판적 검토와 과제」
  • 일시 : 2020년 2월 21일(금) 오후3시~5시
  • 장소 : 광화문 사회복지공동모금회 별관(나눔문화센터) 지하1층 강의실B
  • 주최/주관 : 사단법인 정보인권연구소

❖ 토론회 구성

오후
3:00~3:10
사회 : 이호중
/ 정보인권연구소 이사장, 서강대학교 법학전문대학원 교수
3:10~3:30 발제 인공지능 거버넌스와 시민사회 오철우 / 서울과학기술대 강사, 과학기술학 박사
3:30~3:50 발제 인공지능 국가전략에 대한 검토와 제언 선지원 / 정보통신정책연구원 ICT전략연구실 부연구위원
3:50~4:00 토론 임완철 / 성신여자대학교 교육학과 겸임교수, 서울시교육청 미래교육(에듀테크)정책자문관, 정보인권연구소 연구위원
4:00~4:10 토론 허유선 / 중앙대학교 HK+ 인공지능인문학 사업단, 동국대 철학과 강사
4:10~4:20 토론 김하나 / 민주사회를위한변호사모임 디지털정보위원회·노동위원회
4:20~4:30 토론 홍석만 / 참세상연구소 연구실장, 「부채전쟁」 저자
4:30~4:40 토론 국가인권위원회 인권정책과
4:40~5:00 플로어 토론 및 참석자 전체 토론

❖ 사단법인 정보인권연구소 소개

사단법인 정보인권연구소는 시민사회 관점에서 정보인권을 지지하는 대안적 정책을 연구하고 생산하기 위해 2018년 창립하였습니다(이사장: 이호중 서강대학교 법학전문대학원 교수). http://idr.jinbo.net

※ 자료집 다운로드 [인공지능 국가전략, 비판적 검토와 과제]

[정보인권포럼] 머신러닝 알고리즘과 차별

 

차별적 사회를 학습한 인공지능 의사결정이 차별적이지 않을수 있을까요?

우리 사회에서 차별금지법 제정은 오랜 진통을 겪어 왔습니다.
헌법이 차별받지 않을 권리를 선언하고 있지만 우리 사회의 현실은 한발짝 더 나가기가 힘든 상황입니다.

이런 가운데 최근 인공지능 알고리즘 의사결정이 인종, 젠더 등에 따라 사람을 차별할 가능성에 대한 우려가 국내외로 커지고 있습니다.
인종, 성별, 장애에 따른 차별금지 법규범이 오래도록 정착되어 온 서구사회에서조차 인공지능이 기존의 법규범에 포함되지 않는 차별적 효과를 낳을 가능성에 대하여 고민하기 시작하였습니다.

우리나라에서도 공공부문 채용이나 경찰 등 국민의 권리에 영향을 미칠 수 있는 분야에서 인공지능 의사결정이 빠른 속도로 도입되고 있습니다.
그러나 인공지능 의사결정의 올바른 책임구조를 수립하기 위한 사회적 토론은 아직 미미합니다.

더구나 우리 사회의 경우 차별에 대응하는 법규범이 미흡한 실정이니
우후죽순으로 도입되고 있는 인공지능 의사결정이 은밀하게 차별을 자동화할 가능성도 적지 않습니다.
자동화된 차별적 결정에 구속되지 않을 권리, 그리고 이를 보장할 수 있는 인공지능 거버넌스를 요구해야 할때는 아닐까요?

정보인권연구소의 제5차 정보인권포럼은
2019년 <머신러닝 알고리즘과 차별> 논문을 발표하신 남중권 박사님을 모시고 이에 대하여 토론해 보고자 합니다.

★ 제5차 정보인권포럼 ★
- 주제 : 머신러닝 알고리즘과 차별
- 사회 : 이호중 교수 (정보인권연구소 이사장 / 서강대학교 법학전문대학원)
- 발제 : 남중권 박사 (고려대학교 법학연구원)
- 토론 : 박한희 변호사 (공익인권변호사모임 희망을만드는법)
- 일시 : 2019년 12월 17일(화) 오후7시
- 장소 : 한국방송통신대학교 열린관 421호 (서울지하철 4호선 혜화역)
- 참석신청 : https://www.onoffmix.com/event/203582

 

[입법토론회] 헌법불합치 디엔에이법의 개선, 어떻게 할 것인가?

 

지난 2018년 8월 30일, 헌법재판소는 「디엔에이신원확인정보의 이용 및 보호에 관한 법률」(약칭 디엔에이법) 제8조에 헌법불합치 결정을 내렸습니다. 디엔에이감식시료 채취영장발부과정에서 당사자들의 입장을 밝히거나 이에 대하여 불복하는 등의 절차를 두지 아니하였기 때문입니다.

2010년 중범죄자의 재범을 방지하기 위한 목적으로 제정된 디엔에이법은 그동안 노동조합 활동이나 집회시위 과정에서 농성에 참여했던 노동자와 활동가들에게 국가가 디엔에이를 강제로 채취하고 보관하는 문제로 비판받아 왔습니다. 또 재범 가능성을 법원이 판단할 수 있는 요건이나 그 대상자의 의견을 청취하는 절차가 없고, 재범 가능성이 없는 사람에 대한 삭제규정도 마련되어 있지 않다는 점에 대한 지적이 있었습니다. 지난 헌법재판소 결정문에서도 소수이기는 하나 재범 가능성이 없는 사람의 디엔에이에 대한 삭제 조항을 두고 있지 않은데 대해서도 위헌의견이 제시되었습니다(헌법재판소 2016헌마344등 결정).

헌법재판소의 헌법불합치 결정 이후 국회는 2019년 12월 31일까지 디엔에이법을 개정하여야 합니다. 이 과정에서 그동안 지적되어 왔던 디엔에이법의 인권침해 요소를 최소화하고, 본래 입법 목적에 맞게 디엔에이신원확인정보를 활용하는 입법안이 마련될 때입니다.

이에 오는 10월 28일 (월) 박주민 의원(더불어민주당, 서울은평갑)과 서울지방변호사회, 시민사회단체(민주사회를위한변호사모임, 사단법인 정보인권연구소, 진보네트워크센터)는 디엔에이법의 올바른 개선안을 논의하는 입법 토론회를 개최합니다.

서울지방변호사회 프로보노 지원사업으로 시민사회가 마련한 법안에서는 디엔에이신원확인정보 채취 및 수록 과정에서 사법절차를 신설하였습니다. 인권침해 우려가 많았던 법안인 만큼 인권존중 명시 선언, 영장 발부시 ‘재범의 위험성’판단, 채취 대상자의 의견진술과 소명자료를 제출할 기회의 부여, 불복절차의 신설 등 절차적 권리를 보장 할 수 있는 조항의 신설을 검토합니다. 또한 삭제기간 설정 및 정기점검 규정을 보완하기 위한 절차를 신설 및 보완하였습니다.

디엔에이신원확인 정보는 개인정보 중에서도 민감한 생체 정보이고 일가족이 공유하는 정보인 만큼 디엔에이법의 제정 당시서부터 인권침해 논란이 있어왔습니다. 국회가 법개정을 통해 인권침해 요소를 최소화하고 더 이상 부당한 디엔에이신원확인정보 수집 및 이용이 발생하지 않기를 바랍니다.

▣ 토론회 개요

• 제목 : [입법토론회] 헌법불합치 디엔에이법의 개선, 어떻게 할 것인가
• 일시 : 2019년 10월 28일(월) 오후 2시~4시
• 장소 : 국회의원회관 제9간담회실
• 주최 : 박주민 의원(더불어 민주당, 서울은평갑), 민주사회를 위한 변호사모임, 사단법인 정보인권연구소, 서울지방변호사회, 진보네트워크센터

▣ 토론회 내용

사회 : 이용우 변호사(서울지방변호사회 인권이사)
인사말 : 박주민 의원 (더불어민주당, 서울은평갑), 박종우 변호사 (서울지방변호사회 회장)

발제 :
• 디엔에이법 헌법불합치 결정의 경과와 쟁점 - 이혜정 변호사(법무법인 동화)
• 디엔에이법의 개선 대안 - 이상희 변호사(법무법인 지향)

토론 :
• 신윤경 변호사(법률사무소 유림)
• 김혜경 교수(계명대학교 경찰행정학과)
• 이경화 검사(법무부 형사법제과)
• 윤상준 사무관/변호사 (법원 행정처 사법지원실)

종합토론

자료집 다운로드 [20191028자료집_디엔에이법토론회]

인공지능 거버넌스

인공지능에 대한 사회적 통제와 바람직한 거버넌스에 대하여 고민을 시작할 때입니다.

2019. 9. 6. "인공지능에 대한 사회적 통제 어떻게 할 것인가" 공개토론회
전길남 카이스트 명예교수의 기조 강연 영상 공유합니다.

#진보네트워크센터 따오기팀에서 제작하였습니다.

[입법토론회] 헌법불합치 통신비밀보호법의 개선 쟁점과 방향

2018년 통신비밀보호법에 대한 세 건의 헌법불합치 결정이 있었습니다. 기지국수사, 실시간 위치추적, 인터넷회선(패킷)감청 사건들에 대한 결정에서 헌법재판소는 개선입법의 시한을 2020년 3월 31일로 제시하였습니다. 이에 오는 18일, 통신비밀보호법의 올바른 개선 필요성에 공감해 온 국회 박주민 의원(더불어 민주당, 서울은평갑)과 시민사회단체가 함께 입법토론회를 개최합니다.

지난 몇 년간 시민사회는 통신비밀보호법의 개선을 촉구해 왔습니다. 카카오톡을 비롯한 전기통신 내용에 대한 압수수색, 가입자정보(통신자료) 무단제공, 통신사실확인자료 제공 전반의 문제가 불거졌고 전부개정에 준하는 통신비밀보호법 대폭 개정 요구가 계속되었습니다. 7월 22일 국가인권위원회도 정부가 국회에 발의한 통신비밀보호법 개정법률안에 대하여 개선 의견을 표명하였습니다.

한편, 국내외적으로 비내용적 정보인 통신사실확인자료에 대한 보호 규범이 강화되어 왔습니다. 헌법재판소는 “이동전화를 이용한 통신과 관련하여 필연적으로 발생하는 통신사실확인자료는 비내용적 정보이기는 하나, 여러 정보의 결합과 분석을 통하여 정보주체에 관한 다양한 정보를 유추해내는 것이 가능하므로 통신내용과 거의 같은 역할을 할 수 있”으며 따라서 “강력한 보호가 필요한 민감한 정보로서 통신의 내용과 더불어 통신의 자유를 구성하는 본질적인 요소에 해당 한다”고 설시하였습니다. 국제적으로도 유럽사법재판소의 Tele2 판결(2016), 유럽인권재판소 Big Brother Watch 판결(2018) 등 통신 메타데이터에 대한 규범이 강화되어 왔습니다.

조지훈 변호사(민주사회를위한변호사모임 디지털정보위원회 위원장)의 사회로 진행될 이번 입법토론회에서 양홍석 변호사(법무법인 이공 / 참여연대 공익법센터 소장), 이호중 교수(서강대학교 법학전문대학원 / 정보인권연구소 이사장)가 발제를 맡았습니다. 토론자로는 오지헌 변호사(법무법인 원), 전현욱 연구위원(한국형사정책연구원), 법무부 및 법원행정처가 참여하여 함께 토론할 예정입니다.

[입법토론회]

헌법불합치 통신비밀보호법의 개선 쟁점과 방향

▣ 토론회 개요

  • 일시 : 2019년 9월 18일(수) 오후 3시-5시
  • 장소 : 국회의원회관 제3간담회의실
  • 주최 : 박주민의원(더불어민주당/서울 은평갑), 민주사회를위한변호사모임, 사단법인 정보인권연구소, 진보네트워크센터, 참여연대, 천주교인권위원회

▣ 토론회 내용

  • 사회 : 조지훈 (민주사회를위한변호사모임 디지털정보위원회 위원장)
  • 인삿말 : 박주민 의원 (더불어민주당, 서울은평갑)
  • 발제 :
    • 양홍석 (법무법인 이공 변호사 / 참여연대 공익법센터 소장)
    • 이호중 (서강대학교 법학전문대학원 교수 / 정보인권연구소 이사장)
  • 패널 토론 :
    • 오지헌 (법무법인 원 변호사) *실시간 위치추적 사건 대리인
    • 전현욱 (한국형사정책연구원 연구위원)
    • 윤상준 (법원 행정처 사법지원실)
    • 전철호 (법무부 공공형사과)
  • 종합토론

▣ 기타

  • 문의
    • 국회의원 박주민(더불어민주당 서울은평구(갑), 강지은 비서관 02-784-8690
    • 정보인권연구소 장여경 상임이사 02-701-7687

자료집 다운로드 [20190918자료집_통신비밀보호법토론회]

[공개토론회] 인공지능에 대한 사회적 통제, 어떻게 할 것인가

 

공개토론회 「인공지능에 대한 사회적 통제, 어떻게 할 것인가」
- 오는 9월 6일(금) 오후3시, 국가인권위원회 10층 배움터

“AI 채용면접 벌써 700곳! 성별·학벌·연령에 대해 공정하다고 신뢰할 수 있습니까? AI가 차별하면 누가 어떻게 책임지나요”

최근 사회 각 분야에서 인공지능 도입이 빠른 속도로 퍼져 가고 있습니다. 특히 올해 인공지능 채용 면접을 도입한 기업은 공공기관을 비롯해 700여 곳에 달한다고 합니다. 공공부문에서 의사결정에 참여하는 인공지능도 늘고 있습니다. 경찰은 범죄수사 및 범죄예측에 인공지능을 적용하기 시작했습니다.

다른 한편으로 인공지능이 인종, 젠더, 지역 등 사회적 차별을 학습하고 편향된 의사결정을 내릴 수 있다는 우려가 세계적으로 증가하고 있습니다. 유엔 표현의 자유 특별보고관은 인공지능에 인권영향평가를 적용해야 한다고 지적하기도 하였습니다. 특히 공공부문의 의사결정에 도입되는 인공지능은 국민의 기본권에 영향을 미칠 수 있지만, 그 과정이 국민 앞에 설명된 적이 없고 법적 근거도 명확치 않습니다.

현재 공공부문과 민간부문에서 앞다투어 도입 중인 인공지능 시스템에 대하여 사회적으로 통제할 수 있을까요? 인공지능에 기반하여 이루어지는 의사결정에 영향을 받을 수 있는 당사자들이 민주적으로 참여하고 권리를 행사할 수 있을까요? 인공지능 기반 의사결정의 공정성, 책무성, 투명성을 보장하는 정책은 어떻게 가능할까요?

사단법인 정보인권연구소는 여러 분야 전문가를 모시고 공론장에서 이 문제에 대한 토론을 시작하고 정책적 대안을 모색해 보고자 합니다.

우선 한국 인터넷의 탄생은 물론 인터넷 거버넌스의 발전에 오래 기여해 오신 카이스트 전길남 명예교수님이 “인공지능 거버넌스 : 데이터, 알고리즘, 윤리”를 주제로 토론회의 문을 엽니다. 또한 사단법인 정보인권연구소 이사장이기도 한 서강대학교 법학전문대학원 이호중 교수님이 “인공지능의 사회적 통제와 인권법”에 대한 발표를 통해 인권 친화적인 인공지능 정책의 가능성을 검토합니다.

이어 사회 각 분야의 토론자들이 문제 설정 및 정책적 해법에 대해 자유롭게 논의합니다. 과학기술학을 연구해 온 카이스트 과학기술정책대학원의 전치형 교수님, 비판사회학 연구자인 충북대학교 사회학과 이항우 교수님, 시민사회에서 인권 옹호 활동을 해온 민주사회를위한변호사모임 디지털정보위원회 조지훈 변호사님, 젠더 관점에서 인공지능 문제에 대하여 고민 중인 한국여성단체연합 강혜란 공동대표님, 그리고 국가인권위원회 김원규 인권정책과장님이 인공지능 정책에 대한 보다 민주적이고 인권적인 개입을 함께 토론합니다.

인공지능과 그 사회적 문제에 관심이 있으신 분들의 많은 참석을 바랍니다. ※ 참가신청(링크)

❖ 토론회 개요

  • 제목 : 인공지능에 대한 사회적 통제, 어떻게 할 것인가
  • 일시 : 2019년 9월 6일(금) 오후3시
  • 장소 : 국가인권위원회 10층 배움터 (서울 중구 삼일대로 340, 3호선 을지로3가역 12번출구)
  • 주최 : 사단법인 정보인권연구소

❖ 토론회 구성

 

오후
3:00~3:10
사회 : 김기중 (법무법인 동서양재 변호사)
3:10~3:30 발제 인공지능 거버넌스 : 데이터, 알고리즘, 윤리 전길남 (카이스트 명예교수)
3:30~3:50 발제 인공지능의 사회적 통제와 인권법 이호중 (서강대학교 법학전문대학원 교수)
3:50~4:00 토론 전치형 (카이스트 과학기술정책대학원 교수)
4:00~4:10 토론 이항우 (충북대학교 사회학과 교수)
4:10~4:20 토론 조지훈 (민주사회를위한변호사모임 디지털정보위원회 위원장)
4:20~4:30 토론 강혜란 (한국여성민우회 공동대표)
4:30~4:40 토론 김원규 (국가인권위원회 인권정책과장)
4:40~5:00 플로어 토론 및 참석자 전체 토론

❖ 사단법인 정보인권연구소 소개

사단법인 정보인권연구소는 시민사회 관점에서 정보인권을 지지하는 대안적 정책을 연구하고 생산하기 위해 2018년 창립하였습니다(이사장: 이호중 서강대학교 법학전문대학원 교수). http://idr.jinbo.net

자료집 다운로드 [인공지능에대한사회적통제]

2019 한국인터넷거버넌스포럼(KrIGF) “지속 가능한 인터넷, 함께하는 거버넌스” 개최

다자간인터넷거버넌스협의회(KIGA)가 주최하고 인터넷 관련 공공기관, 시민단체, 학계, 기업, 기술 커뮤니티가 공동 주관하는 “2019 한국인터넷거버넌스포럼(KrIGF)”이 오는 7월 5일(금)에 세종대학교에서 개최됩니다.

한국인터넷거버넌스포럼은 주요 인터넷 관련 공공정책 이슈에 대한 다양한 이해관계자 커뮤니티의 대화와 토론의 촉진을 목적으로 합니다.

올 해에는 “지속 가능한 인터넷, 함께하는 거버넌스”라는 슬로건 아래, 모두를 위한 인터넷, 안전한 인터넷, 자원으로써의 인터넷 이라는 세 가지 주제로 인터넷 커뮤니티가 직접 제안한 9개의 워크샵이 진행되며, 국가도메인 운영을 위한 주요 이슈, 오픈데이터, 인공지능 활용 등에 대한 강좌도 마련하였습니다. 많은 관심과 참여를 부탁드립니다. 이외에도 대학생/대학원생을 대상으로 서포터즈 모집 또한 진행 중입니다. (~’19.6.18 마감)

– 일시 : 2019.7.5(금), 09:30~17:00

– 장소 : 세종대학교 컨벤션센터 광개토관 B1, 소회의실1,2,5,6

– 참가비 : 무료

사전등록자에 한하여 중식을 제공해 드립니다.

– 문의 : KIGA 사무국 (02-3446-5934, kiga_sec@koics.or.kr)

– 홈페이지 : http://krigf.kr

[정보인권포럼] 블록체인과 개인정보 보호

 

최근 스마트도시 등 많은 사회서비스에 블록체인이 적용되고 있거나 적용될 예정입니다.
블록체인은 탈중앙 분산화와 투명한 기록을 특징으로 하는데
많은 개인정보가 이 방식으로 처리되고 있기도 합니다.
기존의 개인정보 보호 관련 원칙을 블록체인 환경에 어떤 방식으로 적용할 수 있을지
고민해볼 시점입니다.

정보인권연구소 <정보인권포럼>은
최근 블록체인과 개인정보 보호에 대하여 연구하신 윤종수 변호사님을 모시고
블록체인 환경에서 개인정보 보호에 대한 여러 쟁점을 살펴보는 시간을 갖고자 합니다.

많은 참석을 바랍니다!

* 참석신청 : 온오프믹스 https://onoffmix.com/event/175579

* 정보인권연구소는 정보인권 분야의 현안을 이해하고 대안을 모색하기 위하여 부정기적으로 <정보인권포럼>을 갖고 있습니다. 소식을 원하시는 분은 이메일을 알려주세요. idr.sec@gmail.com

===================
제4차 정보인권포럼
===================

ㅇ 주제 : 블록체인과 개인정보 보호
ㅇ 일시 : 2019년 4월 25일(목) 오후7시
ㅇ 장소 : 교대 토즈 (3호선 교대역 13번 출구, 스타벅스 7층)

ㅇ 사회 : 조지훈 (민주사회를위한변호사모임 디지털정보위원장)
ㅇ 발제 : 윤종수 (법무법인 광장 변호사 / 전 개인정보보호위원회 위원)
ㅇ 토론 : 이은우 (법무법인 지향 변호사 / 정보인권연구소 이사)
ㅇ 참석자 전체토론

[정보인권포럼] 문제해결의 또다른 대안, 블록체인

 

대안적인 사회문제 해결방식을 고민하는 많은 이들이 블록체인 기술에 주목하고 있습니다.
우리 사회에서 이 기술은 암호화폐 논란으로 먼저 주목받았습니다만, 탈중앙 분산화와 투명한 기록, 중개자 없는 거래를 구현하는 방식이 사회 발전을 위해 쓰일 수 있을 것이라고 기대하는 것입니다.
다른 한편으로 중앙집중적이고 권위적인 사회구조 속에서 기술적인 해법만으로는 한계도 있을 것입니다. 우리 사회가 기술의 민주적인 가능성과 공명하며 변화할 수 있을까요?

정보인권연구소 <정보인권포럼>은
블록체인의 사회적 가능성과 그 한계를 함께 살펴보는 시간을 갖고자 합니다.
많은 참석을 바랍니다!

===================
제3차 정보인권포럼
===================

ㅇ 주제 : 문제해결의 또다른 대안, 블록체인
ㅇ 일시 : 2019년 2월 13일(수) 오후7시
ㅇ 장소 : 커먼즈그라운드 (이태원역, 용산구 보광로 112-3 3층)

ㅇ 사회 : 김기중 (정보인권연구소 이사/ 법무법인 동서양재 변호사)
ㅇ 발제 : 최용관 (커먼즈재단 이사장)
ㅇ 토론 : 남희섭 (지식연구소 공방 소장)
ㅇ 참석자 전체토론