[번역] 캐나다 정부 <자동화된 의사결정 훈령>

* 원문 : Directive on Automated Decision-Making. (2021. 4. 시점)

제6장 요구사항

자동화된 의사결정 시스템 사용 프로그램을 주무하는 부처 실장이 지명하는 사람 또는 차관보는 다음을 책임진다.

6.1. 알고리즘 영향평가

6.1.1. 자동화된 의사결정 시스템을 생산하기 전에 알고리즘 영향평가를 완료한다.
6.1.2. 알고리즘 영향평가에 의해 의사결정이 내려진 경우 부록 C에 규정된 관련 요구사항을 적용한다.
6.1.3. 자동화된 의사결정 시스템의 기능 또는 범위가 변경된 경우 알고리즘 영향평가를 갱신한다.
6.1.4. 알고리즘 영향평가의 최종 결과를 <열린 정부 훈령>에 부합하도록 캐나다 정부 웹사이트 및 캐나다 재정위원회가 지정한 기타 서비스를 통해 일반 접근이 가능한 형식으로 공개한다.

6.2. 투명성

의사결정 전 공지

6.2.1. 해당 의사결정이 부록 C에 규정된 바대로 자동화된 의사결정 시스템에 의해 전체적 또는 부분적으로 수행된다는 내용을 사용 중인 모든 서비스 제공 경로를 통해 공지한다.
6.2.2. 에 부합하는 명확하고 쉬운 용어를 이용하여 공지한다.

의사결정 후 설명

6.2.3. 부록 C에 규정된 대로 의사결정이 내려진 방법과 이유에 대해 영향을 받는 개인들에게 이해가능하게 설명한다.

구성 요소에 대한 접근 권한

6.2.4. <디지털 서비스 훈령>의 A.2.3.8장에 명시된 요구사항에 따라 소프트웨어 구성요소에 대하여 적절한 라이선스를 설정한다.
6.2.5. 독점 라이선스를 사용하는 경우 다음을 보장한다.

6.2.5.1. 자동화된 의사결정 시스템에 사용되는 독점 소프트웨어 구성요소의 모든 공개 버전을 해당 부서에 전달하고 보호한다.
6.2.5.2. 캐나다 정부는 특별 감사, 조사, 검사, 심사, 집행 조치 또는 사법 절차에 필요한 경우 독점 소프트웨어 구성요소의 모든 공개 버전을 비롯하여 자동화된 의사결정 시스템에 대하여 접근하고 테스트할 권리를 보유한다. 이때 무단 접근을 방지하기 위한 보호조치를 준수한다.
6.2.5.3. 이러한 접근권의 일부로서, 캐나다 정부는 필요한 경우 외부인에게 이러한 구성요소를 검토하고 감사할 수 있는 권한을 부여할 수 있다.

소스 코드 공개

6.2.6. 다음과 같은 경우를 제외하고, <디지털 서비스 훈령> A.2.3.8장에 명시된 요구사항에 따라 캐나다 정부가 보유한 사용자 정의 소스 코드를 공개한다.

6.2.6.1. 소스 코드가 1급 비밀, 2급 비밀, C급 대외비로 분류된 데이터를 처리하는 경우
6.2.6.2. 정보공개법이 적용되는 경우, 정보공개법에 따라 공개가 면제되거나 제외되는 경우
6.2.6.3. 캐나다 정보관리 최고책임자에 의해 면제되는 경우

6.2.7. 공개된 소스 코드에 대하여 적절한 접근 제한을 설정한다.

의사결정 문서화

6.2.8. <디지털 서비스 훈령>에 따라 자동화된 의사 결정 시스템의 의사결정을 문서화하여, 이하 모니터링(6.3.2) 및 보고에 대한 요구사항(6.5.1)을 지원한다.

6.3. 품질 보증

테스트 및 모니터링 결과물

6.3.1. 생산에 착수하기 전, 자동화된 의사결정 시스템이 사용하는 데이터와 정보에 대하여 의도되지 않은 데이터 편향성 및 결과물에 부당하게 영향을 미칠 수 있는 여타의 요소에 대해 테스트할 수 있는 절차를 마련한다.
6.3.2. 자동화된 의사결정 시스템을 의도되지 않은 결과물로부터 보호하고 본 훈령 뿐 아니라 기관 및 프로그램 관련 법률의 준수 사실을 확인하기 위하여 그 결과물을 정기적으로 모니터링하는 절차를 마련한다.

데이터 품질

6.3.3. 자동화된 의사결정 시스템과 관련하여 수집되고 사용되는 데이터가 <디지털 서비스 정책> 및 개인정보보호법에 따라 관련성이 있고, 정확하며, 최신인지 검증한다.

동료 검토

6.3.4. 부록 C에 규정된 바대로 자동화된 의사결정 시스템을 검토하기 위해 적절한 자격을 갖춘 전문가의 자문을 받는다.

직원의 교육훈련

6.3.5. 부록 C에 규정된 바대로 자동화된 의사결정 시스템의 설계, 기능 및 구현에 대해 직원의 교육훈련을 적절하게 실시하여 그 운영을 검토, 설명 및 감독할 수 있도록 한다.

비상 계획

6.3.6. 부록 C에 따라 비상 시스템 또는 절차를 수립한다.

보안

6.3.7. <정부 보안 정책>에 따라 시스템의 개발 주기 동안 위험 평가를 실시하고 적절한 보호조치가 적용될 수 있도록 한다.

합법성

6.3.8. 사업의 기획 단계부터 기관의 법무부서와 협의를 하여 자동화된 의사결정 시스템의 사용이 해당 법률 요구사항을 준수하도록 보장한다.

인적 개입 보장

6.3.9. 해당되는 경우 부록 C에 따라 자동화된 의사결정 시스템에 인적 개입을 허용하도록 보장한다.
6.3.10. 부록 C에 따라 자동화된 의사결정 시스템을 생산하기 전에 적절한 수준의 승인을 획득한다.

6.4. 구제수단

6.4.1. 대상이 행정적인 의사결정에 대해 이의를 제기하기 위해 사용할 수 있는 해당 구제수단의 선택권을 제공한다.

6.5. 보고

6.5.1. 프로그램 목표 달성에 있어 자동화된 의사결정 시스템의 효과성과 효율성에 관한 정보를 캐나다 재무부가 지정한 웹사이트 또는 서비스에 게시한다.

(부록 C) 알고리즘 영향 수준별 요구사항

요구사항 수준 I 수준 II 수준 III 수준 IV
동료 검토 (peer review) 비해당 다음중 1개 이상 수행
- 연방, 주, 준주 또는 시 정부기관에서 자격이 인증된 전문가의 검토
- 고등교육기관 학부 유자격 구성원의 검토
- 관련 비정부기구 소속 유자격 연구자의 검토
- 관련 전문성을 갖춘 서드파티 공급자와 계약
- 자동화된 의사결정 시스템의 사양을 전문가가 검토하는 저널에 게재
- 재정위원회 사무처에서 지정한 데이터 및 자동화 자문기구의 검토
다음중 2개 이상 수행하거나
- 캐나다 국립연구위원회, 캐나다 통계청, 또는 캐나다 통신보안기구에서 자격이 인증된 전문가의 검토
- 고등교육기관 학부 유자격 구성원의 검토
- 관련 비정부기구 소속 유자격 연구자의 검토
- 관련 전문성을 갖춘 서드파티 공급자와 계약
- 재정위원회 사무처에서 지정한 데이터 및 자동화 자문기구의 검토,
또는
- 자동화된 의사결정 시스템의 사양을 전문가가 검토하는 저널에 게재
공지 비해당 프로그램이나 서비스 웹사이트에 쉬운 용어로 된 공지 게시 관련 웹사이트에 자동화된 의사결정 시스템에 대한 쉬운 용어로 된 문서 발간하며 다음 사항을 포함할 것
- 구성 요소의 작동 방식
- 행정 결정을 지원하는 방식
- 모든 검토 또는 감사의 결과
- 학습 데이터에 대한 설명, 또는 이 데이터를 공개적으로 사용할 수 있는 경우 익명화된 학습 데이터에 대한 링크
의사결정에 대한 인간의 개입 (Human-in-the-loop for decisions) 의사결정이 인간의 직접적인 개입 없이 내려질 수 있음 의사결정 절차에서 특정 시점에 인적 개입이 없으면 의사결정이 내려질 수 없음. 더불어 최종 의사결정은 사람에 의해 이루어져야 함
설명 요구사항 해당 법정 요구사항에 추가적으로 공통적인 의사결정 결과에 대하여 유의미한 설명이 제공되도록 보장할 것. 여기에는 웹사이트 자주 묻는 질문 코너(FAQ)를 통해 설명을 제공하는 것이 포함될 수 있음 해당 법정 요건에 추가적으로 수혜, 서비스, 기타 규제 조치를 거부하는 모든 의사결정 결과에 대하여 유의미한 설명이 제공되도록 보장할 것
교육훈련 비해당 시스템의 설계 및 기능에 대한 문서화 시스템의 설계 및 기능에 대한 문서화.
교육 과정 이수 필수.
시스템의 설계 및 기능에 대한 문서화.
교육 과정 반복적 이수.
교육 이수 확인 수단 마련.
비상 계획
(Contingency Planning)
비해당 자동화된 의사결정 시스템을 사용할 수 없는 경우 비상 계획 및 백업 시스템을 사용할 수 있도록 보장할 것
시스템 구동 승인 비해당 비해당 부처 실장 승인 재정위원회 승인

(관련) 캐나다 정부 알고리즘 영향평가