알고리즘 회피 (Algorithm Aversion)

한 줄 정의: 알고리즘이 사람보다 더 정확한 결과를 낼 수 있는 상황에서도 소비자가 알고리즘의 판단이나 추천을 신뢰하지 않고 회피하려는 경향을 말합니다.

쉽게 풀면

알고리즘 회피는 인공지능이 추천한 상품이나 조언보다 사람이 추천한 것을 더 믿고 싶어하는 마음을 가리킵니다.

같은 추천이라도 사람 전문가가 한 것과 알고리즘이 한 것 중 알고리즘 쪽을 더 의심하는 현상이라 할 수 있습니다.

이는 알고리즘이 실제로 부정확해서가 아니라, 기계에 대한 심리적 불신이나 예측 실패에 대한 낮은 관용 때문에 나타나는 경우가 많습니다.

추천 시스템, 챗봇, 자동화된 고객 서비스 등 알고리즘 기반 기술이 소비 환경에 광범위하게 도입되면서, 소비자가 이를 수용하지 않는 이유를 이해하는 것이 중요해졌습니다.

기업이 AI 기반 서비스를 설계할 때 소비자의 저항을 줄이기 위한 전략을 세우는 데 이 개념이 활용됩니다.

"알고리즘이 인간 전문가와 동일한 정확도를 보였음에도, 소비자는 알고리즘의 추천에 대해 더 낮은 신뢰를 보이는 알고리즘 회피 현상이 관찰되었습니다."

객관적 성능이 같아도 알고리즘에 대한 신뢰도가 더 낮게 나타날 수 있다는 의미입니다.

"의사결정 과정에 소비자의 의견을 반영할 수 있는 여지를 제공하면 알고리즘 회피가 완화되는 것으로 나타났습니다."

알고리즘에 대한 통제감이나 개입 가능성이 회피 성향을 줄일 수 있음을 보여줍니다.

알고리즘 회피는 의료, 채용, 추천 시스템 등 다양한 의사결정 영역에서 나타나며, 과업의 성격에 따라 회피 정도가 다르게 나타나는 경향이 논의됩니다.

연구는 주로 실험 설계를 통해 동일한 결과를 인간이 제공했다고 알렸을 때와 알고리즘이 제공했다고 알렸을 때의 신뢰도와 수용도를 비교하는 방식으로 이루어집니다.

알고리즘 회피가 모든 상황에서 동일하게 나타나는 것은 아니며, 과업의 유형이나 소비자 개인의 특성에 따라 정도가 달라질 수 있습니다.