[번역] 뉴질랜드 정부 <알고리즘 헌장>

본 헌장은 정부 기관이 알고리즘을 사용하는 방법에 대해 뉴질랜드인이 신뢰를 갖게끔 하는 약속이다. 본 헌장은 정부가 데이터 사용에 있어 투명성과 책무성을 보여주는 다양한 방법 중 하나다. 하지만, 마오리 데이터 주권(Māori Data Sovereignty)과 같은 중요한 사항은 복합적이며 별도의 검토가 필요하기 때문에 충분히 다룰 수 없었다.

약속

우리 기관은 알고리즘을 이용해 만들어낸 결정이 뉴질랜드 국민에게 영향을 미친다는 것을 이해한다. 우리는 우리의 알고리즘에 기반한 결정의 영향을 평가할 것을 약속한다. 더 나아가 우리는 확인된 위험성 등급에 따라 알고리즘 헌장 약속을 적용할 것을 약속한다.
알고리즘 헌장은 다음을 약속한다.

투명성

의사결정이 알고리즘에 의해 어떻게 영향을 받았는지 명확하게 설명함으로써 투명성을 유지한다. 이는 다음을 포함한다.
▸알고리즘을 평이한 영어로 문서화
▸데이터와 처리과정에 관한 정보를 접근가능하게 만들기(법적인 제한이 있지 않는 이상)
▸데이터가 어떻게 수집되고, 저장되고, 보호받는지에 관한 정보 공개

파트너쉽

다음과 같은 조약의 약정을 통해 명확한 공익을 제공한다.
▸와이탕이 조약의 원칙에 부합하는 알고리즘의 사용 및 마오리족 세계관(Te Ao Māori)의 관점을 포함하는 알고리즘 개발

사람

다음과 같은 방법으로 사람에 초점을 맞춘다.
▸알고리즘에 관심이 있는 사람, 집단, 커뮤니티를 찾고 적극적인 참여 조직, 알고리즘 사용에 영향을 받는 사람들의 의견 수렴

데이터

다음과 같은 방법으로 데이터가 그 목적에 부합하는지 확인한다.
▸그 한계를 이해하기
▸편향을 식별하고 관리하기

개인정보 보호, 윤리 그리고 인권

다음과 같은 방법으로 개인정보, 윤리 그리고 인권에 대한 보호를 보장한다.
▸의도치 않은 결과를 평가하고 이에 대한 조치를 취하기 위한 정기적인 전문가 검토

인간의 감독

다음과 같은 방법으로 인간의 감독을 유지한다.
▸알고리즘에 대한 공공 조사(public inquiry)를 위한 담당자 지명
▸알고리즘에 영향을 받은 결정에 대해 불만을 접수하거나 이의를 제기하기 위한 수단 제공
▸알고리즘에 영향을 받은 결정에서 인간의 역할에 대한 명확한 설명

위험성 발생가능성과 영향을 평가하기

뉴질랜드 <알고리즘 평가 보고서>에서는 고급 분석 및 데이터 사용이 공공 서비스 제공에 필수적이라는 사실을 발견했다. 기관이 모든 업무 규칙과 과정에 헌장을 적용하는 것은 불가능하며 헌장의 편익적 취지도 달성할 수 없을 것이다.
그러나 정부 기관에서 사람들의 복리에 중대한 영향을 미칠 수 있는 방식으로 알고리즘을 도입하거나 많은 사람들이 의도치 않은 부작용을 겪을 가능성이 높은 알고리즘을 도입하는 경우에는 헌장을 적용하는 것이 합당하다.
헌장 서명기관은 아래 위험성 매트릭스를 사용하여 자기관 알고리즘 결정을 평가할 수 있다. 이런 평가는 전반적인 위험성 수준을 도출하기 위하여 상대적인 영향 수준에서 의도치 않은 부작용의 발생가능성을 정량화함으로써 기관의 판단을 지원할 것이다.
위험성 등급에 의해 헌장의 적용 여부가 결정된다.

위험성 매트릭스

발생가능성

통상 있음 표준적인 작동 중에 자주 발생할 수 있음
때때로 있음 표준적인 작동 중에 간혹 발생할 수 있음
거의 없음 표준적인 작동 중에 발생할 가능성이 낮지만 발생할 수는 있음
영향 정도	낮음 의사결정의 영향이 독자적이며, 심각하지 않음	중간 의사결정의 영향이 중간 규모의 사람들에게 미치며, 어느 정도 심각성이 있음	높음 의사결정의 영향이 광범위하며, 매우 심각함

위험성 등급

낮음 알고리즘 헌장이 적용될 수 있음	중간 알고리즘 헌장이 적용됨	높음 알고리즘 헌장이 반드시 적용돼야함

적용 및 책무

본 헌장은 서명기관마다 다르게 적용된다. 위험성 매트릭스 접근방식은 서명기관이 위험성이 높은 의사결정에 우선적으로 주력하도록 하고, 정부 기관이 법률상 소관과 통상적인 업무 수행을 위해 매일 사용하는 대부분의 업무 규칙을 제외할 수 있게 한다. 그 취지는 뉴질랜드인에게 의도치 않은 해악을 미칠 위험도가 높거나 심각한 알고리즘의 사용에 초점을 맞추려는 데 있다. 이 책무는 영역 검토의 일부로써 12개월 후에 검토될 예정이다.