측량망 조정계산 (least squares adjustment)

지도학
한 줄 정의: 잉여관측이 있는 측량망에서 오차제곱합이 최소가 되게 좌표를 정하는 계산입니다.

쉽게 풀면

측량에서는 필요한 개수보다 더 많이 관측하는 것이 보통이라서, 관측값들이 서로 조금씩 어긋나 하나의 답으로 딱 떨어지지 않습니다. 조정계산은 이때 모든 관측값에 조금씩 보정량을 주되, 보정량 제곱의 합이 가장 작아지도록 좌표를 정하는 방법입니다. 그 결과 가장 그럴듯한 좌표와 함께, 그 좌표를 얼마나 믿을 수 있는지를 나타내는 정밀도까지 얻을 수 있습니다.

왜 중요한가

조정계산은 개별 관측의 우연오차를 흡수해 측량망 전체를 하나의 일관된 좌표체계로 확정하는 절차이므로, 국가기준점 성과 산출의 필수 단계입니다. 관측값마다 정밀도가 다를 때 가중값을 달리 주어 좋은 관측에 더 큰 발언권을 줄 수 있고, 통계 검정을 통해 이상 관측값을 찾아내는 진단 기능도 함께 제공합니다. 결과로 나오는 분산·공분산 행렬은 오차타원이나 위치정확도 평가의 근거가 됩니다.

논문에서는 이렇게 쓰입니다

"GNSS 기선벡터와 지상 관측값을 통합한 망조정을 수행한 결과, 신설 기준점의 수평 표준편차는 3밀리미터 수준으로 산출되었다."

서로 다른 방식으로 얻은 관측값들을 한 번에 처리해 가장 일관된 좌표를 구했고, 그 계산 과정에서 함께 나온 통계량으로 좌표의 정밀도를 밀리미터 단위로 제시했다는 뜻입니다.

조금 더 깊게 보면

관측방정식을 미지수에 대해 선형화한 뒤 가중값 행렬을 넣어 정규방정식을 세우고, 이를 풀어 미지수의 보정량을 구하는 것이 표준 절차입니다. 측량망은 위치·방향·축척의 기준이 주어지지 않으면 형태만 정해지고 절대 위치가 정해지지 않는 결함망이 되므로, 기준점을 고정하거나 자유망 조정으로 처리합니다. 조정 후 잔차를 이용한 분산 검정으로 관측 정밀도 설정의 타당성을 확인하고, 잔차 검정으로 이상값을 탐지합니다.

주의할 점

통계학의 최소제곱법과 수학적 원리는 같지만, 측량망 조정은 기하학적 구속 조건과 기준계 결정 문제가 함께 얽혀 있다는 점에서 단순 회귀와 다릅니다. 조정 결과의 작은 표준편차는 내부 정합성을 뜻할 뿐이며, 기준점 성과 자체가 틀렸다면 정확도는 보장되지 않습니다.

관련 용어