태그: 인공지능

[번역] 유엔 인권최고대표 <최종 사용에서 인권 위험 식별 및 평가>

* 원문 : Office of the High Commissioner for Human Rights (2020). Identifying and Assessing Human Rights Risks related to End-Use. 개요 유엔 <기업과 인권 이행 지침>은 기술 회사들이 자신이 제공하는 제품과 서비스와 관련된 사람들에 미치는 위험을 해결하고자 할 때 주의를 집중할 만한 강력한 접근법을 제시한다. 이는 특히 거의 모든 장소에서 여러 민간, 공공 또는 …

더 읽기

인공지능(AI) 개발과 활용에서의 인권 가이드라인 연구

사단법인 정보인권연구소는 2021년 국가인권위원회의 연구용역 <인공지능(AI) 개발과 활용에서의 인권 가이드라인 연구> 보고서를 작성하였습니다. 최근 몇 년간 공공기관과 민간 기업에서 인공지능을 기반으로 하는 신기술의 도입과 사용이 크게 증가하였습니다. 이미 인공지능은 인터넷과 모바일 서비스의 추천 알고리즘 등으로 일반시민의 일상생활은 물론 소상공인의 생계에 큰 영향을 미치고 있으며, 채용, 노동, 금융, 행정, 복지, 치안 등 사회 전반에서 완전히 또는 …

더 읽기

윤석열정부는 고위험 인공지능의 성급한 도입을 유예하고 인권보호를 위한 제도부터 마련해야

AI로봇경호, 데이터 전면개방, AI학력진단 등 인권에 부정적 영향 우려돼 윤석열정부의 110대 국정과제가 발표되었다. 이른바 ‘디지털플랫폼정부’를 내세우며 곳곳에서 인공지능의 도입을 본격화하고 있다. 그러나 우리 단체들은 윤석열정부가 도입을 준비중인 인공지능들이 인권에 부정적인 영향을 미칠 수 있는 고위험 영역이라는 점에서 깊은 우려를 표한다. 정부가 해야 할 일은 성급한 고위험 인공지능 배치보다 인공지능의 위험으로부터 인권을 보호할 수 있는 제도부터 …

더 읽기

얼굴정보 1억 7천만건 무단 사용에 대한 개인정보보호위원회의 납득할 수 없는 조사결과를 규탄한다

- 대규모 민감정보 침해 사건에도 합법 판단, 신뢰할 수 없는 인공지능 사회 불러 - 국가가 공적 목적으로 수집보관하는 개인정보를 사기업들에 대규모 제공, 정보주체가 결코 예상하지 못했던 그들만의 거래 누가 견제하나 4월 27일, 개인정보보호위원회(이하 위원회)는 법무부와 과학기술정보통신부의 인공지능 식별추적시스템 구축사업에 대한 개인정보보호법 위반 여부 조사결과를 발표했다. 위원회 조사결과에 따라 내국인 5,760만 건 및 외국인 1억2천만 건의 …

더 읽기

윤영찬의원 인공지능법안에 대한 시민사회 의견서 국회 제출

- 인공지능의 편익 보호와 기본권 보호 균형 보이지 않아 - 고위험인공지능 규제 위한 책무 부실 및 벌칙 조항 없어 - 규제의 실효성 담보 불가능 오늘(2/16) 민변 디지털정보위원회, (사)정보인권연구소, 진보네트워크센터, 참여연대 등 4개 단체는 지난 2021년 11월 24일 국회 과학기술정보방송통신위원회 윤영찬 의원이 대표발의한 「알고리즘 및 인공지능에 관한 법률안」(이하, ‘인공지능법안’)에 대해 공동 입법 의견서를 국회에 제출하였다. 4개 …

더 읽기

법무부·과기부의 얼굴인식 인공지능식별추적시스템 구축의 부당⋅위법성에 대한 공익감사청구

국가기관이 민간기업의 기술개발과 특허취득을 위해 내외국인 실제 얼굴정보 제공한 사례는 세계적으로도 유례 없어 사업추진 배경, 과정 등의 부당· 위법한 업무처리 여부 감사 필요 오늘(1/27), 민변, 참여연대, 진보네트워크센터, (사)정보인권연구소는 법무부·과기부의 얼굴인식 인공지능식별추적시스템 구축 사업에 대한 공익감사청구서를 감사원에 제출했습니다(청구단체 : 민변, 참여연대). 지난 2021년 10월 법무부·과기부가 얼굴인식 인공지능식별추적 시스템 구축 사업을 추진하면서 출입국 본인확인용으로 수집⋅보유하고 있는 내외국인 …

더 읽기

[논평] 돌아온 ‘챗봇이루다’는 과연 안전할까?

위법 수집 학습데이터 재사용 여부, 사기업의 영리목적 상품· 서비스개발이 ‘과학적 연구’인지 등 여전히 미해결 동의 없는 가명정보 사용은 ‘전사회 공익’으로 공유되는 연구결과에 한정하도록 개보법 개정해야 챗봇 ‘이루다’가 내년 1월 베타테스트를 거쳐 정식 서비스로 돌아온다고 한다. 지난해 12월 23일 서비스 개시 후 성차별⋅혐오 발언, 회원 개인정보 무단 활용 등으로 출시 3주 만에 서비스를 중단하고 개인정보보호법 위반으로 …

더 읽기

국가기관, 지자체 등이 구축하는 생체정보 활용 인공지능 시스템 전면 중단해야

- 과기부 주도 인공지능 산업의 위험성 드러나 - 생체정보 등 공공데이터의 민간기업 AI 학습용데이터 제공은 불법 - 개보위, 전국 지자체 추진 중인 생체정보 활용 사업 전수조사해야 언론보도에 따르면, 과학기술정보통신부(이하, ‘과기부’) 산하 정보통신산업진흥원이 대구 수성구의 ‘인공지능(AI) 융합 국민안전 확보 및 신속대응 지원 사업’에 선정한 5개 민간업체 중 한 업체가 인공지능 학습용으로 제공받은 시민들의 ‘얼굴 영상’ 10만여 건을 …

더 읽기

공교육에 적용되는 인공지능 알고리즘의 공공성 확보방안 연구

사단법인 정보인권연구소는 2021년 3월 <공교육에 적용되는 인공지능 알고리즘의 공공성 확보방안 연구> 보고서를 발간하였습니다. 최근 학교 현장에서 인공지능(AI)을 활용한 교육이 활발해짐에 따라, 학생의 개인정보 보호와 데이터 처리 과정의 투명성 확보를 위하여 공교육 적용 인공지능 알고리즘에 대한 관리방안이 마련될 필요성이 있습니다. 이 연구는 공교육에 적용되는 인공지능 알고리즘에 설명가능성, 투명성, 책무성, 책임성 등의 원칙을 적용하기 위한 정책 방안 …

더 읽기

‘인공지능 식별추적 시스템 구축’ 중단 및 법무부 장관 면담 요청 시민사회 기자회견 개최

개인정보보호법과 국제인권규범 위반, 즉각 사업 중단해야   2021. 11. 9.(화) 오전 10시 30분, 참여연대 지하 느티나무홀 공익법센터 어필, 민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 외국인이주노동운동협의회, 진보네트워크센터, 참여연대는 오늘(11/9) 오전 10시30분, 참여연대 지하 느티나무홀에서 기자회견을 개최하고 정부 주도로 진행 중인 생체인식 감시시스템 구축 사업의 즉각 중단과 사후 대책 마련 등을 위해 법무부 장관의 면담을 요청하는 기자회견을 개최했습니다. 지난 10월 …

더 읽기