topic난이도 · 약 20

GPU vs CPU — AI 칩의 세계

CPU = 만능 지휘관(4~16코어) / GPU = AI 전용 가속기(수천 코어). 역할이 다를 뿐, 둘 다 필수.

#GPU#CPU#H100#CUDA#병렬 처리
왜 배우는가

GPT-4 학습에는 GPU 25,000개가 사용되었다. CPU가 아닌 GPU를 쓰는 이유는 딥러닝의 핵심 연산인 행렬곱이 병렬 처리에 최적이기 때문이다.

, 무엇이 다를까? 비유하면 CPU는 교수 1명(심화 강의), GPU는 학생 수천 명(단순 시험 동시 채점)이다.

비교 항목CPUGPU
코어 수4~16개 (강력한 코어)수천 개 (작지만 많은 코어)
비유교수 1명 (심화 강의)학생 수천 명 (단순 시험)
AI 역할데이터 전처리, 제어행렬곱, 학습, 추론
결론만능 지휘관AI 전용 가속기
GPU vs CPU — 코어 수와 병렬 처리 비교

NVIDIA H100 GPU — CUDA 코어 16,896개, 텐서 코어 528개(행렬곱 전용), VRAM 80GB HBM3, 가격 약 4,000만 원/개

실제 GPU는 CUDA 코어 수천 개가 동시에 행렬 연산을 수행하여 CPU 대비 수십~수백 배 빠르다.

실기 드릴 3문항
edit실기 드릴 · 단답형

딥러닝 학습에 GPU가 CPU보다 유리한 이유는?

check_circle실기 드릴 · OX

전가산기 64개를 연결하면 64비트 정수 덧셈이 가능하다.

edit실기 드릴 · 단답형

무어의 법칙에 따르면 트랜지스터 수는 약 몇 년마다 2배가 되는가?