topic★★★★★난이도 · 약 20분
GPU vs CPU — AI 칩의 세계
CPU = 만능 지휘관(4~16코어) / GPU = AI 전용 가속기(수천 코어). 역할이 다를 뿐, 둘 다 필수.
#GPU#CPU#H100#CUDA#병렬 처리
왜 배우는가
GPT-4 학습에는 GPU 25,000개가 사용되었다. CPU가 아닌 GPU를 쓰는 이유는 딥러닝의 핵심 연산인 행렬곱이 병렬 처리에 최적이기 때문이다.
와 , 무엇이 다를까? 비유하면 CPU는 교수 1명(심화 강의), GPU는 학생 수천 명(단순 시험 동시 채점)이다.
| 비교 항목 | CPU | GPU |
|---|---|---|
| 코어 수 | 4~16개 (강력한 코어) | 수천 개 (작지만 많은 코어) |
| 비유 | 교수 1명 (심화 강의) | 학생 수천 명 (단순 시험) |
| AI 역할 | 데이터 전처리, 제어 | 행렬곱, 학습, 추론 |
| 결론 | 만능 지휘관 | AI 전용 가속기 |
NVIDIA H100 GPU — CUDA 코어 16,896개, 텐서 코어 528개(행렬곱 전용), VRAM 80GB HBM3, 가격 약 4,000만 원/개
실제 GPU는 CUDA 코어 수천 개가 동시에 행렬 연산을 수행하여 CPU 대비 수십~수백 배 빠르다.
실기 드릴 3문항
edit실기 드릴 · 단답형
딥러닝 학습에 GPU가 CPU보다 유리한 이유는?
check_circle실기 드릴 · OX
전가산기 64개를 연결하면 64비트 정수 덧셈이 가능하다.
edit실기 드릴 · 단답형
무어의 법칙에 따르면 트랜지스터 수는 약 몇 년마다 2배가 되는가?