수치해석
컴퓨터로 수학 문제를 근사해서 푼다 — 뉴턴법·수치적분·부동소수점.
sin(1.5)의 정확한 값을 손으로 구할 수는 없다. 그러나 컴퓨터는 테일러 급수로 수천 자리까지 근사한다. 로켓 궤도, 기상 예측, 유한요소법 구조 해석, 딥러닝 역전파 — '정확한 답 대신 충분히 정확한 답을 효율적으로'가 수치해석의 철학이다.
수치해석은 '해석적으로 안 풀리는 문제를 컴퓨터로 근사하는 학문'이다. 방정식의 근, 적분의 값, 미분방정식의 해 — 실제 응용에서는 대부분 해석해가 없어 수치 알고리즘이 유일한 답이다.
뉴턴-랩슨법: x_{n+1} = x_n − f(x_n)/f'(x_n). 접선을 그어 x절편을 찾고 반복. 2차 수렴 — 한 번에 정확도가 제곱으로 좋아진다. 초기값만 좋으면 몇 번의 반복으로 기계 정밀도 도달.
| 알고리즘 | 수렴 속도 | 보장 | 활용 |
|---|---|---|---|
| 이분법 | 1차 (느림) | 무조건 수렴 | 안전한 근 찾기 |
| 뉴턴-랩슨 | 2차 (빠름) | 초기값 의존 | 최적화, √ 계산 |
| 심슨 법칙 | O(h⁴) | 곡선 아래 넓이 | 수치적분 |
| Runge-Kutta | 4차 | ODE 수치해 | 로켓 궤도, 기상 |
| LU 분해 | — | 연립방정식 | 행렬 역변환 |
부동소수점의 함정: `0.1 + 0.2 == 0.3`은 False다. IEEE 754 이진 표현의 한계로 누적 오차가 쌓이면 전혀 다른 결과가 나온다. 1996년 Ariane 5 로켓이 부동소수점 오버플로로 폭발한 사고가 대표적.
실생활 응용 — ① 딥러닝 역전파(LU·행렬 역변환) ② 기상 예측(FDM 편미분방정식) ③ 자동차 충돌 FEM 시뮬레이션 ④ RSA 소수 판별 밀러-라빈 ⑤ GPU 부동소수점 오차 제어.
이분법은 항상 수렴이 보장되지만 뉴턴-랩슨보다 느리다.
f(x) = x² − 2, x₀ = 1에서 뉴턴-랩슨 1회 적용 후 x₁은?
수치적분에서 분할 구간 h를 줄이면 오차는 줄어든다.
컴퓨터에서 0.1 + 0.2 = 0.3 이 항상 성립한다.
뉴턴-랩슨법의 수렴 차수는?