자동화신뢰 (Trust in Automation)
한 줄 정의: 인간이 자율 시스템의 판단과 행동을 얼마나 신뢰하고 그에 따라 행동을 조정하는지를 다루는 인간-로봇 상호작용의 심리적·행동적 요인.
쉽게 풀면
사람이 로봇이나 자동화 시스템의 판단을 얼마나 믿고 맡기는지를 다루는 개념입니다.
논문에서는 이렇게 쓰입니다
자동화 신뢰는 시스템의 신뢰성, 예측 가능성, 투명성에 대한 사용자의 주관적 평가로 정의되며, 과신(overtrust)과 불신(distrust) 모두 시스템 활용의 안전성을 저해할 수 있다.
믿음이 너무 강하면 로봇의 실수를 알아채지 못하고, 너무 약하면 유용한 자동화 기능조차 쓰지 않게 되는 양쪽 위험이 모두 있다는 뜻입니다.
주의할 점
지나친 신뢰(과신)는 사용자가 시스템의 한계를 인지하지 못해 사고로 이어질 수 있어 적절한 신뢰 수준 유지가 중요합니다.