메시 수렴성 검토 (Mesh Convergence Study)
쉽게 풀면
컴퓨터 해석에서 모델을 나누는 요소(메시)가 너무 크고 성기면 정확한 계산이 안 되고, 반대로 지나치게 잘게 나누면 계산 시간이 크게 늘어난다. 메시 수렴성 검토는 메시 크기를 점점 줄여가며 같은 해석을 여러 번 반복하고, 각 결과값이 어느 시점부터 더 이상 크게 변하지 않고 일정한 값에 가까워지는지(수렴하는지)를 확인하는 절차다. 결과가 충분히 수렴했다고 판단되면 그 메시 크기가 정확도와 계산 시간 사이의 적절한 균형점이 된다. 이 절차 없이 무작정 얻은 해석 결과는 실제로는 메시가 너무 성겨서 부정확한 값일 수 있어, 신뢰할 수 있는 유한요소 해석에는 필수적인 검증 단계다.
왜 중요한가
메시 수렴성 검토는 수치해석 결과가 실제 물리 현상을 반영한 것인지, 아니면 단순히 메시 설정에 따른 인공적인 값인지를 가려내는 절차이기 때문에 구조·열유체·전자기 해석을 다루는 거의 모든 공학 논문에서 결과의 신뢰성을 뒷받침하는 근거로 요구된다. 심사자나 독자가 해석 결과를 신뢰하려면 해당 결과가 메시 밀도에 무관하게 안정적인 값임을 먼저 확인해야 하므로, 이 절차는 해석 논문의 재현성과 직결된다.
논문에서는 이렇게 쓰입니다
메시를 점점 세밀하게 바꿔가며 계산해서 결과값이 충분히 안정되는 요소 크기를 확인하고 그것을 최종 해석에 사용했다는 뜻이다.
유동 해석에서는 격자(메시)를 촘촘하게 할수록 계산 비용이 급격히 늘어나므로, 정확도와 계산 자원 사이의 균형점을 찾기 위해 관심 물리량의 변화율을 기준으로 격자계를 결정한다는 의미다.
전자기 시뮬레이션에서도 관심 있는 물리량(여기서는 공진 주파수)이 메시를 세밀화해도 더 이상 크게 달라지지 않는지를 확인해 해석 결과의 신뢰도를 입증하는 절차로 쓰인다.
조금 더 깊게 보면
수렴 여부를 판단할 때는 단순히 최댓값 하나만 비교하기보다, 그리드 수렴 지수(Grid Convergence Index, GCI)처럼 여러 단계의 메시 크기를 이용해 수치적 불확실성을 정량적으로 추정하는 방법이 함께 언급되기도 한다. 또한 전체 영역에서는 이미 수렴한 것처럼 보여도 응력집중부, 경계층, 특이점 근처처럼 값이 급격히 변하는 국소 영역은 별도의 국소 메시 세분화(mesh refinement)와 개별적인 수렴성 확인이 필요한 경우가 많다.
주의할 점
응력집중부처럼 국소적으로 값이 급격히 변하는 영역은 전체 평균 수렴 여부와 별개로 별도의 세밀한 검토가 필요할 수 있다.