태그: AI

윤석열정부는 고위험 인공지능의 성급한 도입을 유예하고 인권보호를 위한 제도부터 마련해야

AI로봇경호, 데이터 전면개방, AI학력진단 등 인권에 부정적 영향 우려돼 윤석열정부의 110대 국정과제가 발표되었다. 이른바 ‘디지털플랫폼정부’를 내세우며 곳곳에서 인공지능의 도입을 본격화하고 있다. 그러나 우리 단체들은 윤석열정부가 도입을 준비중인 인공지능들이 인권에 부정적인 영향을 미칠 수 있는 고위험 영역이라는 점에서 깊은 우려를 표한다. 정부가 해야 할 일은 성급한 고위험 인공지능 배치보다 인공지능의 위험으로부터 인권을 보호할 수 있는 제도부터 …

더 읽기

얼굴정보 1억 7천만건 무단 사용에 대한 개인정보보호위원회의 납득할 수 없는 조사결과를 규탄한다

- 대규모 민감정보 침해 사건에도 합법 판단, 신뢰할 수 없는 인공지능 사회 불러 - 국가가 공적 목적으로 수집보관하는 개인정보를 사기업들에 대규모 제공, 정보주체가 결코 예상하지 못했던 그들만의 거래 누가 견제하나 4월 27일, 개인정보보호위원회(이하 위원회)는 법무부와 과학기술정보통신부의 인공지능 식별추적시스템 구축사업에 대한 개인정보보호법 위반 여부 조사결과를 발표했다. 위원회 조사결과에 따라 내국인 5,760만 건 및 외국인 1억2천만 건의 …

더 읽기

윤영찬의원 인공지능법안에 대한 시민사회 의견서 국회 제출

- 인공지능의 편익 보호와 기본권 보호 균형 보이지 않아 - 고위험인공지능 규제 위한 책무 부실 및 벌칙 조항 없어 - 규제의 실효성 담보 불가능 오늘(2/16) 민변 디지털정보위원회, (사)정보인권연구소, 진보네트워크센터, 참여연대 등 4개 단체는 지난 2021년 11월 24일 국회 과학기술정보방송통신위원회 윤영찬 의원이 대표발의한 「알고리즘 및 인공지능에 관한 법률안」(이하, ‘인공지능법안’)에 대해 공동 입법 의견서를 국회에 제출하였다. 4개 …

더 읽기

법무부·과기부의 얼굴인식 인공지능식별추적시스템 구축의 부당⋅위법성에 대한 공익감사청구

국가기관이 민간기업의 기술개발과 특허취득을 위해 내외국인 실제 얼굴정보 제공한 사례는 세계적으로도 유례 없어 사업추진 배경, 과정 등의 부당· 위법한 업무처리 여부 감사 필요 오늘(1/27), 민변, 참여연대, 진보네트워크센터, (사)정보인권연구소는 법무부·과기부의 얼굴인식 인공지능식별추적시스템 구축 사업에 대한 공익감사청구서를 감사원에 제출했습니다(청구단체 : 민변, 참여연대). 지난 2021년 10월 법무부·과기부가 얼굴인식 인공지능식별추적 시스템 구축 사업을 추진하면서 출입국 본인확인용으로 수집⋅보유하고 있는 내외국인 …

더 읽기

[논평] 돌아온 ‘챗봇이루다’는 과연 안전할까?

위법 수집 학습데이터 재사용 여부, 사기업의 영리목적 상품· 서비스개발이 ‘과학적 연구’인지 등 여전히 미해결 동의 없는 가명정보 사용은 ‘전사회 공익’으로 공유되는 연구결과에 한정하도록 개보법 개정해야 챗봇 ‘이루다’가 내년 1월 베타테스트를 거쳐 정식 서비스로 돌아온다고 한다. 지난해 12월 23일 서비스 개시 후 성차별⋅혐오 발언, 회원 개인정보 무단 활용 등으로 출시 3주 만에 서비스를 중단하고 개인정보보호법 위반으로 …

더 읽기

국가기관, 지자체 등이 구축하는 생체정보 활용 인공지능 시스템 전면 중단해야

- 과기부 주도 인공지능 산업의 위험성 드러나 - 생체정보 등 공공데이터의 민간기업 AI 학습용데이터 제공은 불법 - 개보위, 전국 지자체 추진 중인 생체정보 활용 사업 전수조사해야 언론보도에 따르면, 과학기술정보통신부(이하, ‘과기부’) 산하 정보통신산업진흥원이 대구 수성구의 ‘인공지능(AI) 융합 국민안전 확보 및 신속대응 지원 사업’에 선정한 5개 민간업체 중 한 업체가 인공지능 학습용으로 제공받은 시민들의 ‘얼굴 영상’ 10만여 건을 …

더 읽기

공교육에 적용되는 인공지능 알고리즘의 공공성 확보방안 연구

사단법인 정보인권연구소는 2021년 3월 <공교육에 적용되는 인공지능 알고리즘의 공공성 확보방안 연구> 보고서를 발간하였습니다. 최근 학교 현장에서 인공지능(AI)을 활용한 교육이 활발해짐에 따라, 학생의 개인정보 보호와 데이터 처리 과정의 투명성 확보를 위하여 공교육 적용 인공지능 알고리즘에 대한 관리방안이 마련될 필요성이 있습니다. 이 연구는 공교육에 적용되는 인공지능 알고리즘에 설명가능성, 투명성, 책무성, 책임성 등의 원칙을 적용하기 위한 정책 방안 …

더 읽기

‘인공지능 식별추적 시스템 구축’ 중단 및 법무부 장관 면담 요청 시민사회 기자회견 개최

개인정보보호법과 국제인권규범 위반, 즉각 사업 중단해야   2021. 11. 9.(화) 오전 10시 30분, 참여연대 지하 느티나무홀 공익법센터 어필, 민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 외국인이주노동운동협의회, 진보네트워크센터, 참여연대는 오늘(11/9) 오전 10시30분, 참여연대 지하 느티나무홀에서 기자회견을 개최하고 정부 주도로 진행 중인 생체인식 감시시스템 구축 사업의 즉각 중단과 사후 대책 마련 등을 위해 법무부 장관의 면담을 요청하는 기자회견을 개최했습니다. 지난 10월 …

더 읽기

법무부x과기부의 대규모 생체인식 감시시스템 구축, 당장 중단해야

─입국 외국인의 얼굴정보 수억건 무단 이용은 위법적이고 국제인권규범을 위반해 ─실시간 원격 얼굴인식 기술 등 고위험 인공지능에 사용 유예와 규제 필요 1. 법무부와 과학기술정보통신부가 출입국 심사와 공항 보안을 이유로 얼굴인식 및 행동인식 기술을 활용한 실시간 원격 감시시스템을 개발하고, 이 과정에서 1억건이 넘는 외국인의 얼굴 사진과 내국인의 출입국 심사 정보를 아무런 동의 없이 국가와 민간기업의 인공지능 학습용 …

더 읽기

유엔 인권최고대표에 디지털 시대 프라이버시권 보고서에 대한 의견 제출

인공지능감독, 영향평가, 투명한 정보공개, 권리 구제 절차 등 인공지능 정책방향에 대한 한국 시민사회 의견 제시 지난 5월 30일, 민주사회를 위한 변호사모임 디지털정보위원회, 정보인권연구소, 진보네트워크센터, 참여연대 등 4개 단체는 유엔 인권최고대표(Office of the United Nations High Commissioner for Human Rights)가 준비하고 있는 <디지털 시대 프라이버시권(the right to privacy in the digital age)> 보고서 작성을 위해 한국 …

더 읽기