* 원문 : The Office of Science and Technology Policy(2022). Blueprint for an AI Bill of Rights : Making Automated Systems Work For The American People. The White House.
미국 백악관 과학기술정책국, 2022. 10.
안전하고 효과적인 시스템
여러분은 안전하지 않거나 효과적이지 못한 시스템으로부터 보호되어야 합니다.
자동화된 시스템은 시스템의 우려사항, 위험성 및 잠재적 영향을 식별하기 위해 다양한 집단, 이해관계자 및 분야별 전문가의 자문을 받아 개발되어야 합니다. 시스템에 대하여 사전적인 배치 테스트, 위험 식별 및 완화 조치, 지속적인 모니터링을 수행하여, 시스템이 의도된 대로 사용되어 안전하고 효과적이며, 의도된 사용을 벗어나는 안전하지 않은 결과물에 대해서는 완화조치를 취하였고, 분야별 표준을 준수하였다는 사실을 입증하여야 합니다. 이러한 보호 조치로 시스템을 도입하지 않거나 시스템 사용을 중단할 수도 있어야 합니다. 자동화된 시스템이 여러분의 안전이나 지역사회의 안전을 위협하려는 의도로, 또는 그러할 가능성이 합리적으로 예측되는 방식으로 설계되어서는 안 됩니다. 자동화된 시스템은 의도되지 않았으나 예측가능했던 사용 또는 영향으로부터 여러분을 사전적으로 보호할 수 있도록 설계되어야 합니다. 여러분은 자동화된 시스템의 설계, 개발 및 배치 시 부적절하거나 관련 없는 데이터의 사용으로부터 보호받아야 하며, 그 재사용으로 인한 복합적인 위해로부터도 보호받아야 합니다. 시스템이 안전하고 효과적이라는 사실을 확인하는 독립적인 평가와 보고가 수행되어야 하며, 여기에는 잠재적 위해를 완화하기 위해 취한 조치에 대한 보고가 포함되어야 하고, 그 결과는 가능할 한 공개되어야 합니다.
알고리즘 차별로부터 보호
여러분은 알고리즘에 의해 차별받지 않아야 하며, 시스템은 공평한 방식으로 사용되고 설계되어야 합니다.
알고리즘 차별이란, 자동화된 시스템이 인종, 피부색, 민족, 성별(임신, 출산 및 관련 건강 상태, 성 정체성, 간성 상태, 성적 지향 포함), 종교, 연령, 출신 국가, 장애, 퇴역 상태, 유전 정보, 기타 법률이 민감정보로 분류하여 보호하는 특성에 기반하여 개인에 대해 비합리적으로 다르게 대우하거나 불리한 영향을 줄 때 발생합니다. 특정 상황에서는 이러한 알고리즘 차별이 위법할 수 있습니다. 자동화된 시스템을 설계, 개발 및 도입하는 기관은 알고리즘 차별로부터 개인과 지역사회를 보호하고 시스템을 공평한 방식으로 사용하고 설계할 수 있도록 사전적이고 지속적인 조치를 취해야 합니다. 이러한 보호 조치로서, 시스템 설계, 대표 데이터 사용 및 인구집단 특성별 대리변수 보호에 대한 사전 공평성 평가를 수행하고, 설계 및 개발에 대한 장애인에 대한 접근성을 보장하며, 배치 전 및 지속적으로 편향성 테스트 및 완화조치를 수행하고, 조직적 감독을 명확하게 수행하여야 합니다. 알고리즘 영향평가 형식의 독립적인 점검과 쉬운 용어로 이루어진 보고가 이루어져야 하며, 여기에는 편향성 테스트 결과 및 완화 조치에 대한 정보가 포함되어야 하고, 이러한 보호 조치 여부를 확인하기 위해 보고서가 가능한 한 공개되어야 합니다.
개인정보 보호
여러분은 설치형 보호(Built-In Protection)를 통해 개인정보를 오남용하는 관행으로부터 보호받아야 하고, 여러분에 관한 개인정보가 어떻게 이용되는지에 대해 여러분이 권한을 가져야 합니다.
여러분은 프라이버시 보호장치가 기본설정으로 보장되는 설계를 선택함으로써 프라이버시 침해로부터 보호받아야 하며, 이러한 설계에는 개인정보 수집에 있어 특정 상황에 꼭 필요한 개인정보만 수집될 것이라는 합리적인 기대에 부응하는 설계가 포함됩니다. 자동화된 시스템을 설계, 개발 및 도입하는 기관은 여러분의 개인정보에 대한 수집, 이용, 접근, 전송 및 삭제에 대해 적절한 방식으로 최대한 여러분의 허락을 구해야 하며, 여러분의 결정을 존중해야 하며, 이것이 가능하지 않은 경우 대안적인 프라이버시 기본설계 보호장치를 사용해야 합니다. 시스템은 이용자 선택을 모호하게 하거나 개인정보를 침해하는 기본설정으로 이용자에게 부담을 지우는 이용자 경험 및 설계상 결정을 사용해서는 안 됩니다. 동의는 적절하고 유의미하게 이루어질 수 있는 경우에만 개인정보수집을 정당화하는 근거로 사용되어야 합니다. 모든 동의 요청은 간단하고 이해하기 쉬운 용어로 작성되어야 하며 개인정보가 수집되고 특정 상황에서 사용되는 데 대한 결정 권한이 여러분에게 주어져야 합니다. 개인정보의 광범위한 이용을 요구하면서 현재처럼 이해하기 어려운 방식으로 통지하고 선택하도록 하는 관행은 변화해야 합니다. 건강, 직업, 교육, 형사 사법, 금융을 포함하는 민감한 영역과 관련된 개인정보처리 및 추론, 그리고 아동청소년 관련 개인정보에 대한 보호 강화 및 제한을 최우선으로 고려하여야 합니다. 민감한 영역에서 여러분의 개인정보 및 관련된 추론은 필수적인 기능 용도로만 사용되어야 하며 윤리적 검토 및 사용 금지 조치로 보호받을 수 있어야 합니다. 여러분과 여러분이 속한 집단은 견제되지 않은 감시로부터 자유로울 수 있어야 합니다. 감시 기술이 사생활과 시민권에 미치는 잠재적 위해와 이를 제한하는 범위를 최소한 배치 전에 평가하는 등 감시 기술에 대한 감독을 강화하여야 합니다. 지속적인 감시 및 모니터링 기술이 교육, 직업, 주택 분야에서 사용되거나, 그러한 감시 기술의 사용이 개인의 권리, 기회 또는 접근을 제한할 가능성이 있는 여타의 상황에서 사용되어서는 안 됩니다. 여러분은 가능한 한 여러분의 개인정보 결정권이 존중되었음을 확인하고 여러분의 권리, 기회 또는 접근에 미치는 감시 기술의 잠재적 영향에 대해 평가하는 보고서에 접근할 수 있어야 합니다.
통지 및 설명
여러분은 자동화된 시스템이 사용되고 있다는 사실과 이 시스템이 여러분에게 영향을 미치는 결과물에 작동하는 방법과 이유를 이해할 수 있어야 합니다.
자동화된 시스템을 설계, 개발 및 도입하는 기관은 전반적인 시스템 기능 및 자동화가 수행하는 역할에 대한 명확한 설명, 시스템이 사용 중이라는 통지, 시스템을 책임지는 개인이나 기관, 그 결과물에 대하여 명확하고 시기적절하며 공개적인 설명 등을 쉬운 용어로 서술한 문서를 일반에 공개하여야 합니다.
이러한 통지는 최신 상태로 유지되어야 하며, 시스템의 영향을 받는 사람들은 중요한 사용 사례 또는 주요 기능 변경에 대한 통지를 받아야 합니다. 여러분은 자동화된 시스템이 여러분에게 영향을 미치는 결과물을 결정한 방법과 이유를 알 수 있어야 하며, 이때 자동화된 시스템이 결과물을 결정하는 유일한 입력이 아닌 경우에도 이 권리를 보장받을 수 있어야 합니다. 자동화된 시스템은 여러분과 시스템을 이해해야 하는 운영자 및 기타 사용자에게 기술적으로 유효하고 유의미하며 유용한 설명을 제공해야 하며, 상황에 따라 위험 수준이 조정되어야 합니다. 이러한 자동화된 시스템에 대한 요약 정보가 쉬운 용어로 포함된 보고서와 더불어, 이들 통지 및 설명의 명확성과 품질에 대한 평가 내용이 가능한 한 공개되어야 합니다.
인간 대안, 검토 및 대체
적절한 경우 여러분은 제외(opt-out)될 수 있어야 하며 여러분이 직면한 문제를 신속하게 검토하고 구제할 수 있는 사람에게 연락할 수 있어야 합니다.
적절한 경우 여러분은 인간 대안을 선택하고 자동화된 시스템에서 제외될 수 있어야 합니다. 이 적절성은 주어진 상황에 대한 합리적인 기대에 기반하고 광범위한 접근성을 보장하며 특히 위해적 영향으로부터 일반 사람들을 보호하는 데 중점을 두고 결정되어야 합니다. 경우에 따라 법률이 인간 대안 또는 다른 대안을 요구할 수 있습니다. 자동화된 시스템이 실패하거나 오류가 발생하였을 때, 혹은 여러분이 여러분에게 미친 영향에 대해 이의를 제기하거나 불복하고자 할 때, 여러분은 대체 절차 및 재심 절차를 통해 시기적절한 인간 검토 및 구제수단에 접근할 수 있어야 합니다. 인간 검토 및 대체는 접근 가능하고, 공평하고, 효과적이며, 계속 유지되고, 적절한 직원 교육이 수반되어야 하며, 일반 사람들에게 불합리한 부담을 주어서는 안 됩니다. 형사 사법, 고용, 교육 및 보건의료 또는 그 밖의 민감한 영역에서 의도적으로 사용되는 자동화된 시스템은 해당 목적에 추가적으로 맞춤하여야 하고, 감독기관에 유의미한 접근을 보장하여야 하며, 시스템과 상호 작용하는 모든 사람에 대한 교육을 실시하고, 부정적인 결정이나 고위험 결정에 대한 인간의 검토를 포함하여야 합니다. 이러한 인간 거버넌스 절차에 대한 설명과 적시성, 접근성, 결과물 및 효과성에 대한 평가 보고서는 가능한 한 공개되어야 합니다.