알고리즘거버넌스 (Algorithmic Governance)
쉽게 풀면
사람이 아니라 알고리즘이 어떤 정보를 보여줄지, 무엇을 우선순위로 둘지 등을 사실상 결정하고 관리하는 방식을 말한다.
왜 중요한가
알고리즘거버넌스는 알고리즘이 사회 질서를 조정하는 방식과 그 알고리즘을 통제하는 제도를 동시에 가리키므로, 콘텐츠 모더레이션이나 플랫폼 규제를 다루는 연구에서 분석 틀로 쓰입니다. 유럽 디지털서비스법처럼 알고리즘 시스템의 위험 평가를 의무화하는 정책의 배경을 설명할 때도 이 개념을 사용합니다. 신용평가나 채용 심사처럼 개인의 삶에 큰 영향을 미치는 영역에 알고리즘 의사결정이 도입되면서, 결정 과정에 대한 이의제기권과 설명요구권을 법제화하려는 시도가 세계 각국에서 이뤄지고 있습니다.
핵심 정리
- 알고리즘 거버넌스는 디지털 기술이 사회적 질서를 만들어 내는 방식에 주목하는 개념입니다. Katzenbach와 Ulbricht(2019)는 이 개념이 공공 부문에서 노동 관리, 디지털 커뮤니케이션의 질서화에 이르기까지 여러 분야에서 쓰인다고 정리합니다.
- 이 분야에서 반복되는 쟁점으로 데이터화와 감시, 편향, 행위성(agency), 투명성이 꼽힙니다. 같은 논문은 예측 치안과 자동화된 콘텐츠 조정의 짧은 사례를 통해 알고리즘 거버넌스가 하나의 고정된 형태가 아니라 다중적이고 우연적이며 다툼이 있는 것이라고 논합니다.
- Yeung(2018)은 알고리즘 규제(algorithmic regulation)를 새로운 사회적 질서화의 체계로 보고, 데이터를 연속적으로 수집·분석해 활동 영역을 규율하는 의사결정 체계로 정의한 뒤 반응형과 선제형으로 나누어 여덟 가지 형태로 분류했습니다.
- Danaher 등(2017)은 알고리즘 거버넌스 연구 의제를 집단지성의 힘을 빌려 개발하는 논문입니다.
예시로 보기
같은 ‘알고리즘이 질서를 만든다’는 말도 누가 규칙을 정하느냐에 따라 의미가 달라집니다. 구분을 돕는 가상의 분류입니다(가상의 예).
| 유형 | 주체 | 예 |
|---|---|---|
| 공공 부문의 알고리즘 의사결정 | 정부·공공기관 | 복지 대상자 선별, 위험도 예측 도구 |
| 플랫폼의 사적 질서 | 플랫폼 기업 | 노출 순위 조정, 자동 콘텐츠 삭제 |
| 알고리즘을 통제하려는 제도 | 의회·규제기관 | 위험 평가 의무, 이의제기권 같은 법제 |
첫 두 유형은 ‘알고리즘에 의한 통치’, 셋째는 ‘알고리즘에 대한 통치’에 가깝습니다. 논문에서는 이 두 방향을 구분해 쓰는지 확인해야 합니다.
자주 하는 오해
| 오해 | 바로잡기 |
|---|---|
| 알고리즘 거버넌스는 정부가 알고리즘을 쓰는 것을 뜻한다. | 공공 부문뿐 아니라 노동 관리, 디지털 커뮤니케이션 등 여러 영역이 논의 대상입니다(Katzenbach & Ulbricht, 2019). |
| 알고리즘이 개입하면 인간의 편향이 사라진다. | 편향은 같은 개념에 딸린 핵심 쟁점으로 꼽힙니다. 알고리즘이 설계와 자료를 통해 편향을 옮겨 올 수 있습니다. |
| 알고리즘 거버넌스는 한 가지 모습이다. | 사례 연구에서 보듯 맥락과 관할, 이해관계에 따라 형태가 달라집니다. |
논문에서는 이렇게 쓰입니다
실제 논문에서
이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
그는 검색 엔진과 소셜미디어 알고리즘이 사회적으로 무엇이 '적절한' 정보인지를 규정하는 새로운 형태의 공적 권위를 갖게 되었다고 논했다.
플랫폼 규율과 이용자 행동을 함께 다루는 연구에서 자주 인용되는 방식이다.
조금 더 깊게 보면
이 용어는 알고리즘에 의한 통치와 알고리즘의 통치라는 두 뜻으로 쓰여 혼란이 있으므로, 어느 쪽인지 밝혀야 합니다. 알고리즘을 통제하려는 시도는 투명성 요구로 시작했지만 코드를 공개해도 결과를 예측하기 어렵다는 한계가 드러나, 최근에는 감사와 영향 평가 같은 절차적 책무성으로 초점이 옮겨 갔습니다. 알고리즘 거버넌스는 정부가 알고리즘을 이용해 통치하는 방식과, 플랫폼 기업이 알고리즘을 통해 이용자 행동을 사실상 규율하는 사적 거버넌스를 모두 포괄하며, 후자의 경우 공적 책임성 기제 없이 규칙이 작동한다는 점이 특히 문제로 지적됩니다.
주의할 점
알고리즘 거버넌스는 효율성을 높이지만 책임 소재의 불투명성과 민주적 감시의 어려움이라는 새로운 통치 문제를 야기한다. 알고리즘이 개입한다고 해서 인간의 편향이 제거되는 것은 아니며, 설계자의 가정이나 학습 데이터의 편향이 알고리즘을 통해 오히려 은폐된 채 재생산될 위험이 있습니다.
헷갈리기 쉬운 용어
알고리즘과 사회 질서를 다루는 용어들이 가까이 있습니다.
| 용어 | 초점 | 메모 |
|---|---|---|
| 알고리즘 거버넌스 | 알고리즘이 사회적 질서를 만드는 방식 전반 | 연구 분야·시각을 가리키는 넓은 개념 |
| 알고리즘 규제 | 데이터를 연속적으로 수집·분석해 활동 영역을 규율하는 의사결정 체계 | Yeung(2018)이 정리한 개념 |
| 알고리즘 책무성 | 알고리즘 결정의 설명·심사·책임 관계 | 거버넌스를 평가하는 한 축 |
참고 문헌
- Katzenbach, C., & Ulbricht, L. (2019). Algorithmic governance. Internet Policy Review, 8(4).
- Yeung, K. (2018). Algorithmic regulation: A critical interrogation. Regulation & Governance, 12(4), 505–523.
- Danaher, J., Hogan, M. J., Noone, C., Kennedy, R., Behan, A., De Paor, A., Felzmann, H., Haklay, M., Khoo, S. M., Morison, J., Murphy, M. H., O'Brolchain, N., Schafer, B., & Shankar, K. (2017). Algorithmic governance: Developing a research agenda through the power of collective intelligence. Big Data & Society, 4(2).
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.