빅테크의 알고리즘이 혐오표현과 허위·조작정보의 온라인 확산을 부추기면서 전 세계 공론장에 영향을 미치고 있다는 비판이 지속적으로 제기되어 왔습니다. 빅테크 알고리즘의 영향은 개별 콘텐츠의 문제를 넘어 아동과 여성에 대한 폭력, 기본권 침해, 나아가 민주주의까지 위협할 수 있다는 점에서 심각한 사회 문제입니다.
그러나 우리나라를 비롯하여 빅테크 알고리즘의 문제를 경험하고 있는 세계 여러 나라에서 이에 대한 정책적 대응은 미흡한 상황입니다. 특히 기존의 규제는 개별적인 불법·유해정보의 삭제와 차단에 초점을 맞추어 왔으며, 콘텐츠의 확산에 영향을 미치는 플랫폼의 알고리즘과 운영 방식에 대한 책임은 충분히 다루지 못했습니다.
이러한 가운데 유럽연합은 2023년부터 초대형 온라인 플랫폼과 검색엔진에 매년 서비스의 시스템적 위험을 평가하도록 의무화한 디지털서비스법(DSA)을 시행하였습니다. 평가 대상에는 불법 콘텐츠의 확산 뿐 아니라 기본권과 시민 담론에 미치는 부정적 영향, 젠더 기반 폭력 및 아동의 권리에 대한 침해 위험 등이 포함됩니다. DSA는 평가에서 나타난 위험에 대하여 완화 조치를 요구하고 독립적 감사, 외부 연구자의 데이터 접근을 통해 플랫폼의 책임성을 확보하고자 하였습니다.
이 제도가 시행되기 시작한 지 약 3년이 지났으며, 그동안 두 차례의 위험평가 보고서가 공개되었습니다. 과연 이러한 제도는 효과를 거두고 있을까요? 빅테크 기업들은 시스템적 위험을 제대로 평가하고 완화하고 있을까요? 유럽연합 집행위원회와 시민사회에서는 이를 어떻게 평가하고 있을까요?
정보인권연구소는 이러한 문제의식을 바탕으로 유럽연합 DSA의 시스템적 위험평가와 완화 제도, 집행의 현황을 검토하고 그 성과와 한계가 우리 사회에 주는 정책적 시사점을 살펴보는 이슈보고서를 발간하였습니다.
많은 관심을 가지고 살펴봐 주시고, 표현의 자유를 보호하면서도 빅테크 알고리즘에 대한 사회적 통제와 플랫폼의 책임성을 강화하기 위한 대안을 함께 모색해 주시기 바랍니다.
* 이 자료는 독일 하인리히 뵐 재단의 후원으로 발간되었습니다.