해석 결과의 품질과 격자
유한요소해석은 연속체로 정의된 지배 방정식을 유한 개의 요소로 이산화하여 근사해를 구하는 과정이다. 따라서 우리가 얻는 해석 결과는 현재 만들어진 유한요소모델에 대한 근사해이다. 재료 물성과 하중 및 구속 등의 조건이 아무리 정확해도 모델의 격자가 형상과 응력 구배를 충분히 표현하지 못한다면 결과를 신뢰하기는 어렵다. 이렇게 격자에 의해 발생하는 오차를 우리는 이산화 오차라고 한다. 이산화 오차는 해석자가 직접 통제할 수 있는 가장 대표적인 수치 오차이고 평가를 비교적 쉽게 수행할 수 있음에도 실무에서 가장 자주 생략되는 항목이기도 하다.
이러한 격자의 품질을 평가하기 위해 Ansys에서는 다양한 기능과 방법을 제공한다.
• 요소 형상 품질 지표: Mesh Quality Aspect Ratio, Skewness, Jacobian Ratio 등으로 요소의 기하학적 왜곡도를 점검
• 국부 크기 제어: Body/Face/Edge Sizing, Sphere of Influence, 곡률 근접(Curvature Proximity) 기반 자동 세분화
• 격자 생성 기법: 2차(고차) 요소, Hex Dominant, Sweep, MultiZone 등
• 적응형 세분화(Adaptive Mesh Refinement)와 수렴(Convergence) 도구: 오차 추정치 기반 자동 재세분화
• Submodeling: 관심 영역만 잘라내어 정밀 격자로 재해석
그러나 이 기능들은 대부분 “요소가 기하학적으로 강건한가”, “국부적으로 수렴하는가”를 다룰 뿐, “이 격자로 얻어진 결과가 참값에 얼마나 가까운가”에 대한 답을 해주지는 않는다.
이 질문에 답하기 위해 마련된 표준적인 방법이 격자 수렴 지수(GCI, Grid Convergence Index)이다.

그림 1. 격자 간 변화율이 작다는 것과 참값에 수렴했다는 것은 별개의 문제
GCI의 기본 원리 및 적용 절차
GCI는 격자 크기 h가 0에 수렴하는 이상적인 경우의 격자 독립해를 서로 다른 h값을 가진 격자들로부터 외삽으로 추정하고, 가장 작은 h의 격자 결과가 이 격자 독립해(실제 물리 참값이 아닌, 격자에 따른 이산화 오차가 제거된 이상적 결과)로부터 얼마나 떨어져 있는지 안전계수를 반영한 불확도 밴드로 표현한 값이다.
좀 더 쉽게 풀어 쓰면, GCI는 격자 크기 h가 다른 세 개의 격자 결과로 h가 0일 때의 이상적인 답을 예측하고, 지금 우리 결과가 그 답에서 얼마나 벗어나 있는지를 % 오차 범위로 알려주는 값이다.

그림 2. GCI 개념
※ Fig 2의 GCI 26%는 개념 설명을 위한 예시이며, 본문 계산 예제의 값과는 다르다.
GCI를 계산하는 절차는 다음과 같다.
Step 1. 세 종류의 크기를 가지는 격자 모델 생성
관심부의 격자 크기를 h1(1 mm), h2(2 mm), h3(4 mm)로 하는 세 개의 격자를 생성한다.
이때 변수는 요소의 크기에 국한되어야 하며, 그 외 요인은 동일해야 한다.
Step 2. 해석 실행 및 결과 추출
세 격자에 대해 동일한 조건의 해석을 수행하고 GCI 계산에 사용될 결괏값을 추출한다. 본 글에서는 최대 등가응력을 결괏값으로 사용하였다. 이때 값은 동일한 위치, 좌표계, 후처리 옵션 등으로 추출해야 정상적인 계산이 가능하다.
|
구분 |
요소 크기 h (mm) |
세분화비 |
최대 등가응력 (MPa) |
|
Fine Mesh |
1 |
r21 = 2 |
265 : φ1 |
|
Medium Mesh |
2 |
r32 = 2 |
262 : φ2 |
|
Coarse Mesh |
4 |
– |
250 : φ3 |
표 1. 격자 구성 및 해석 결과 (가상 예제)
Step 3. 수렴 차수 p 계산 및 적절성 판단
세 격자 결과의 인접 격자 간 차이를 다음과 같이 정의하고 이로부터 수렴 차수 p를 계산한다. 이 값을 계산된 수렴 차수라 부르며, 사용한 요소의 이론 수렴 차수와 비교하여 격자 수렴이 정상적으로 이루어졌는지 판단한다. 이때 세분화비 r은 1.3(실무 경험에 기반한 경험치) 이상의 일정한 값을 가져야 한다. r이 너무 작으면 격자 간 결과 차이가 반복 계산 오차 등 수치 노이즈에 묻혀 수렴 차수 p의 계산이 불안정해지고, GCI 값도 신뢰하기 어려워지기 때문이다.
![]()


계산된 p=2는 2차 요소의 이론 수렴 차수와 부합하므로, 이는 세 격자의 해가 점근 수렴 영역에 있다고 판단할 수 있는 하나의 기준을 만족했음을 보인다. R값이 0원인으로는 응력 특이해, 국부 요소 품질 불량, 세분화비 r이 너무 작은 경우, 점근 영역에 들어가지 못한 성긴 격자 등을 들 수 있다.
※ p계산 후 반드시 확인해야 할 3가지
① 수렴 거동 판정 -> 0인가? (단조 수렴 확인)
② 이론값 대비 비교 -> 계산된 p가 사용한 요소의 이론 수렴 차수 근처인가?
|
목푯값 종류 |
1차 요소 |
2차 요소 |
|
변위/처짐 |
2 |
3 |
|
온도 |
2 |
3 |
|
응력/변형률 |
1 |
2 |
|
열유속/구배 |
1 |
2 |
|
고유진동수 |
2 |
4 |
|
좌굴하중 |
2 |
4 |
|
변형에너지/반력 |
2 |
4 |
표 2. 이론 수렴 차수 p 결정표
√상용 프로그램의 후처리 방식에 따라 이론 수렴 차수보다 높게 나올 수 있다. 이 경우 보수적인 접근을 위해 GCI계산 시 이론 수렴 차수를 적용하기도 한다.
③ 점근영역 확인 ->
인가?
이 세 조건이 모두 만족되어야 GCI 값을 신뢰할 수 있다. 하나라도 어긋나면 격자를 재구성하거나 더 조밀한 격자로 다시 생성해야 한다.
Step 4. GCI 계산

|
기호 |
뜻 |
값의 예시 |
| φ₁
|
Fine Mesh 모델에서 얻은 목적 결과 |
265 MPa |
| φ₂
|
Medium Mesh 모델에서 얻은 목적 결과 |
262 MPa |
| φ₃
|
Coarse Mesh 모델에서 얻은 목적 결과 |
250 MPa |
|
r |
격자 세분화비(h2/h1) |
2 |
|
p |
계산된 수렴 차수 |
2 |
|
Fs |
안전 계수 |
1.25 |
|
점근 영역 지표 |
1.01(≈1) |
표 3. GCI 수식의 변수
앞의 가상 예제의 결과를 기준으로 GCI를 계산하면

Step 5. 결과 분석
GCI의 허용 기준은 산업 분야와 프로젝트의 특정 요구사항(안전 등급, 규제 요건 등)에 따라 달라질 수 있으나, 일반적인 엔지니어링 응용 분야에서는 5~10% 미만이면 수용 가능한 수준으로 본다. 다만 이 수치는 어떤 표준 문서가 규정한 값이 아니라 실무에서 통용되는 경험적 기준이므로, 원자력·항공 등 높은 신뢰성을 요구하는 분야에서는 프로젝트의 품질보증 요건에 따라 허용 기준을 별도로 정의해야 한다. 본 예제의 Fine Mesh는 GCI 0.47% ( 265 * 0.47% = 1.3 MPa)로 기준을 크게 만족하며, 최종 결과는 다음과 같이 보고할 수 있다.
최대 등가응력 = 265.0 MPa (±1.3 MPa, GCI 0.47%)
이는 안전계수 Fs = 1.25가 약 95% 신뢰 수준에 대응함을 전제로, 격자 세분화를 무한히 진행했을 때 얻어지는 이상적 결과(격자 독립해)가 263.7 ~ 266.3 MPa 범위 안에 존재할 확률이 약 95%임을 의미한다.
주목할 점은 Medium Mesh(2 mm)의 GCI 역시 1.91%로 허용 기준을 만족한다는 것이다. 반복 해석이 많아 계산 비용에 부담이 되는 상황이라면 Medium Mesh의 채택도 정량적으로 정당화할 수 있다. 무작정 조밀한 격자를 고집하는 대신 “필요한 정확도를 만족하는 가장 경제적인 격자”를 근거를 갖고 선택할 수 있다는 것, 이것이 GCI가 주는 실무적 가치다.
맺음말
유한요소해석에서 가장 근본이 되는 것은 격자이다. 격자를 만드는 일은 물리 현상을 모델링하는 일과는 구별되는 수치 근사의 문제이며, 그 적절성을 확인할 책임은 소프트웨어가 아니라 격자를 만든 해석자 자신에게 있다. 그러나 최근 해석 프로그램 사용의 편이성이 크게 좋아지면서 유한요소법을 전공하지 않은 엔지니어도 짧은 교육만으로 해석을 수행할 수 있게 되었고, 그만큼 격자에 대한 고민은 기본값(default) 설정에 가려져 간과되고 있는 것이 현실이다. 상용 툴에서 나오는 그럴듯한 응력 분포가 곧 정답은 아니다.
GCI는 별도의 추가 도구 없이 세 번의 해석과 몇 줄의 수식만으로 “내 유한요소모델이 만들어 낸 결과를 얼마나 믿을 수 있는가”에 숫자로 답해 준다. 이번 글이 잊히고 있던 격자 품질에 대한 고민을 다시 떠올리는 계기가 되고, 여러분의 해석 보고서에 “결괏값 ± GCI”라는 한 줄이 추가되는 작은 변화로 이어지길 바란다.
지면의 한계로 이 글에서는 GCI의 기본 개념과 절차를 간략히 짚는 데 그쳤다. 실제 적용 시에는 아래 참고문헌을 함께 살펴보길 권한다. 태성에스엔이는 원자력·항공·방산 등 다양한 분야에서 유한요소해석의 신뢰성 확보를 지원해 온 경험을 바탕으로, GCI 적용을 비롯한 다양한 격자 수렴 평가 방안을 제공하고 있다.
참고문헌
[1] Roache, P. J., 1994, “Perspective: A Method for Uniform Reporting of Grid Refinement Studies,” ASME Journal of Fluids Engineering, Vol. 116, No. 3, pp. 405–413. doi:10.1115/1.2910291
[2] Celik, I. B., Ghia, U., Roache, P. J., Freitas, C. J., Coleman, H., and Raad, P. E., 2008, “Procedure for Estimation and Reporting of Uncertainty Due to Discretization in CFD Applications,” ASME Journal of Fluids Engineering, Vol. 130, No. 7, 078001. doi:10.1115/1.2960953
[3] Stern, F., Wilson, R. V., Coleman, H. W., and Paterson, E. G., 2001, “Comprehensive Approach to Verification and Validation of CFD Simulations — Part 1: Methodology and Procedures,” ASME Journal of Fluids Engineering, Vol. 123, No. 4, pp. 793–802. doi:10.1115/1.1412235