알고리즘편향 (Algorithmic Bias)
한 줄 정의: 알고리즘의 설계, 학습 데이터, 최적화 목표에 내재된 편향으로 인해 특정 집단이나 관점에 불균형한 결과가 체계적으로 산출되는 현상을 의미한다.
쉽게 풀면
컴퓨터 알고리즘이 겉으로는 중립적으로 보이지만, 학습한 데이터나 설계 방식 때문에 특정 사람이나 의견에 불공평한 결과를 내는 것이다.
논문에서는 이렇게 쓰입니다
Noble(2018)은 저서 『Algorithms of Oppression』에서 검색 엔진 알고리즘이 인종적·성적 편견을 어떻게 재생산하는지 분석했다.
노블은 구글 검색 결과 사례 분석을 통해 상업적 알고리즘이 사회적 편견을 반영하고 증폭시킬 수 있음을 보여주었다.
주의할 점
알고리즘 편향은 의도적 설계뿐 아니라 훈련 데이터의 역사적 편향에서 비롯되는 경우가 많아 기술적 수정만으로 해결되기 어렵다.