정부와 기업이 한목소리로 AI 강국을 향해 달리면서 채용, 경찰, 보험, 교육 등 삶과 노동의 중요한 영역에 인공지능이 빠르게 확산되고 있습니다. 그러나 AI가 안전과 인권에 문제를 일으켰던 사례에 대해서는 진지한 검토가 이루어지고 있지 않거나 사소한 문제로 취급되고 있습니다. 딥러닝 기법 등 AI가 가진 불투명성과 기업들의 영업비밀 주장으로 AI의 문제를 밝히는 것이 쉽지 않은 것도 사실입니다.
AI가 사람의 인권과 안전에 문제를 일으켰던 사례들을 계속 모아보고자 합니다. 이를 통해 AI 도입에 대한 성찰적이고 인권에 기반한 접근을 고민하고자 합니다. 사례를 더 알고 계신 분은 이메일로 보내주시기 바랍니다. idrsec골뱅이proton.me
국내 인공지능 문제사례(계속 업데이트)
공공기관 AI 채용 (2021. 3. 16.)
코이카 AI 면접 중 멈춤 현상이 2회 발생한 응시자 3명은 AI 면접이 끝나지 않은 사실을 통지받았지만, AI 면접을 미실시한 것으로 처리됐다. 1차 면접시험 응시를 제한받아 불합격 처리됐다.
경찰 과속단속 (2023. 6. 8.)
서 씨의 차를 적발한 암행 순찰차의 탑재형 단속 장비에 문제는 없는지 전남경찰청에 조사를 요청했습니다. 보시는 것처럼 차 안에 단속 장비를 탑재하고 있는데요. 이 앞에 있는 레이더를 이용해 과속 차량을 감지하고 있습니다. 단속 장비 제작 업체가 확인했더니 생각지도 못했던 결과가 나왔습니다. 서 씨의 대형 택시는 2차선을 달렸는데 , 1차선에서 달리던 다른 차의 과속 수치가 엉뚱하게도 택시로 찍힌 겁니다.
산업로봇 (2023. 11. 10.)
경찰은 기계 로봇 센서가 A씨를 박스로 인식해 얼굴과 상체 부위를 압착한 것으로 보고 있다.
AI 채용 (2024. 10. 16.)
국회 행정안전위원회 소속 박정현(더불어민주당, 대전 대덕) 의원으로부터 받은 ‘17개 시·도별 공공기관 인·적성 검사 및 AI 검사 도입 현황’을 보면, 2년간 구직자 351명이 AI 검사에서 탈락했다.
배달로봇 (2024. 12. 18.)
로봇 운영사 관계자는 "배달 로봇은 횡단보도에서 자율주행할 때 녹색 신호가 아니면 움직이지 않는다"며 "당시 관제사가 사람들이 모두 횡단보도를 건너는 모습을 보고 원격조종을 하는 과정에서 사고가 났다"고 설명했다.
민간보험사 보험사기예측시스템 (2026. 1. 9.)
C보험사는 보험사기예측시스템(FDS)이 특정 병원의 진료 패턴을 과도하게 ‘사기 의심’으로 분류하는 편향을 발견하고 즉각적인 시정조치 및 근본 원인 분석을 실시하고 이를 개선했다.
교육청 '하이러닝' (2026. 1. 9.)
청북고 연구에선 학생이 백지 답안을 제출했는데도 AI가 점수를 준 사례가 확인됐다. 정천중 수행평가에선 학생이 과제 조건 중 하나인 제시문을 활용하지 않았는데도 AI가 글의 분량만 보고 높은 점수를 주거나, 과학 개념을 혼동했는데도 유사 표현으로 인식해 정답으로 처리했다.
AI가 답안을 과소평가하는 문제도 발견됐다. 불필요한 설명 없이 간결하게 쓴 답에 대해 AI가 낮게 평가하거나, 도덕 수행평가 중 학생이 새로운 대안을 제시했지만 평가 기준 예시에 없다는 이유로 AI가 인정하지 않기도 했다.