* 원문 : The Committee on Standards in Public Life (2020). Artificial Intelligence and Public Standards : A Review by the Committee on Standards in Public Life. p8.
정부, 국가 기관 및 규제 기관에 대한 권고 사항
위원회는 정부, 국가기관 및 규제기관이 공공부문 AI에 대한 강력하고 일관성 있는 거버넌스와 규제 프레임워크를 마련하도록 8개 사항을 권고한다.
- 권고 사항 1: 윤리적 원칙 및 지침
현재 공공 부문에서 AI의 사용을 안내하기 위한 세 가지 윤리 원칙(FAST SUM 원칙, OECD AI 원칙, 데이터 윤리 프레임워크)이 있다. [다만] 이런 것들이 어떻게 함께 작동하는지, 또 어떤 원칙을 따라야 할지가 공공기관들에게 불확실할 수 있다.- 공공부문의 AI 활용을 좌우하는 고도의 윤리적 원칙을 국민이 이해할 필요가 있다. 정부는 이러한 원칙을 확인하고, 승인하고, 홍보해야 하며, 현재 사용 중인 세 가지 원칙의 목적, 적용 범위 및 각각의 입장을 설명해야 한다.
- AI 사무국, 정부 디지털 서비스 및 앨런 튜링 연구소가 [공동] 발간한 <공공 부문 AI 사용 지침>을 보다 쉽게 사용하고 이해할 수 있도록 조치하고 이를 광범위하게 추진해야 한다.
- 권고 사항 2: AI에 대한 명확한 법적 근거 명시
모든 공공 부문 조직은 공공 서비스 제공에 배치되기 전에 AI의 사용이 관련 법규를 어떻게 준수하는지에 대한 보고서를 발표해야 한다. - 권고 사항 3: 데이터 편향 및 차별금지법
평등인권위원회는 앨런 튜링 연구소 및 CDEI와 협력하여 공공 기관이 [인공지능 배치에 있어] 2010년 평등법을 준수하도록 지침을 개발해야 한다. - 권고 사항 4: 규제보증기구
AI의 개발 및 이행속도를 감안할 때 규제지형의 격차를 파악하고 AI와 관련된 사안에 대해 개별 규제기관과 정부에 자문을 제공하는 규제보증기구를 둘 것을 권고한다.
우리는 특정 AI 규제기구 신설을 권고하지 않으며, 기존의 모든 규제기관이 책임지고 있는 분야에서 증가하고 있는 AI에 대하여 규제요건과 영향에 대해 고려하고 대응할 것을 권고한다.
위원회는 CDEI가 규제보증 역할을 수행하도록 하려는 정부의 계획을 지지한다. 정부는 CDEI를 독립적인 법적 기준으로 설정하기 전에 CDEI의 전반적인 목적을 명확히 설정하는 신속한 조치를 취해야 한다. - 권고 사항 5: 조달 규칙 및 절차
정부는 시장에서 구매력을 발휘함에 있어 공공부문을 위한 AI 솔루션을 개발하는 민간기업이 공공기준을 적절하게 충족하도록 조달 요구사항을 마련해야 한다.
이를 위하여 조달 절차 초기에 윤리적 기준에 대한 규정이 검토되고 입찰자와 계약 약정에 명시적으로 규정되도록 하여야 한다. - 권고 사항 6: 국영상업서비스의 디지털 시장
국영상업서비스는 새로운 AI 프레임워크의 일환으로 실용적 도구를 마련하여 국민에게 서비스를 제공하는 기업과 공공기관이 윤리적 요건에 맞는 AI 제품과 서비스를 찾아내야 한다. - 권고 사항 7: 영향평가
정부는 AI가 공공기준에 미칠 잠재적 영향을 평가하기 위해 기존 절차에 AI 영향평가 요건이 어떻게 통합될 수 있는지 검토해야 한다. 이 평가는 의무적으로 실시하여야 하며, 공표되어야 한다. - 권고 사항 8: 투명성 및 공개성
정부는 공공기관의 AI 시스템에 대한 신고 및 정보공개에 대한 가이드라인을 수립해야 한다.
공공서비스를 제공하는 공공 및 민간업체에 대한 권고사항
위원회는 공공 서비스 일선 제공자들이 AI 활용에 있어 효과적인 위험 기반 거버넌스를 구축하도록 7개 사항을 권고한다.
- 권고 사항 9: 공공 기준에 대한 위험 평가
공공 및 민간의 공공 서비스 제공자는 제안된 AI 시스템이 공공 기준에 미칠 잠재적 영향을 프로젝트 설계 단계에서 평가하고 식별된 기준상 위험을 시스템 설계가 완화하는지 확인해야 한다. 기준 검토는 AI 시스템 설계에 상당한 변경이 있을 때마다 이루어져야 할 것이다. - 권고 사항 10: 다양성
공공 및 민간의 공공 서비스 제공자는 편견과 차별의 문제에 의식적으로 대처하고 다양한 행동, 배경 및 관점을 고려하여야 한다. 다양한 전 범위 인구집단을 고려해야 하고 공정하고 효과적인 서비스를 제공해야 한다. - 권고 사항 11: 책임 소재
공공 및 민간의 공공 서비스 제공자는 AI 시스템에 대한 책임을 명확히 할당하고 문서화해야 하며, AI 시스템 운영자가 의미 있는 방식으로 책임을 다할 수 있도록 보장하여야 한다. - 권고 사항 12: 모니터링 및 평가
공공 및 민간의 공공 서비스 제공자는 AI 시스템이 항상 의도한 대로 작동하는지 모니터링하고 평가해야 한다. - 권고 사항 13: 감독체계 수립
공공 및 민간의 공공 서비스 제공자는 자신의 AI 시스템을 적절하게 검사할 수 있는 감독 메커니즘을 수립해야 한다. - 권고 사항 14: 이의제기 및 시정
공공 및 민간의 공공 서비스 제공자는 시민들에게 자동화 및 AI 지원 결정에 대한 이의제기 권리 및 그 행사 방법을 항상 알려야 한다. - 권고 사항 15: 교육 훈련
공공 및 민간의 공공 서비스 제공자는 AI 시스템과 함께 업무하는 직원들이 지속적인 교육과 교육을 받도록 해야 한다.