topic★★★★★난이도
AI는 뭘 잘하고 뭘 못하나 — 패턴인식 vs 맥락판단
AI는 패턴 매칭과 반복 작업에 탁월하지만, 비즈니스 맥락과 보안 판단은 인간의 몫이다.
#AI한계#패턴인식#보안#환각
왜 배우는가
AI의 능력을 과대평가하면 위험한 코드를 그대로 배포하게 되고, 과소평가하면 생산성의 기회를 놓친다. 정확한 경계를 아는 것이 바이브코더의 첫 번째 역량이다.
AI 코딩 도구의 본질은 대규모 언어 모델(LLM)이다. LLM은 인터넷의 수십억 줄 코드를 학습해서 '이런 맥락 다음에는 이런 코드가 올 확률이 높다'는 패턴을 파악한다. 이 특성 때문에 잘하는 것과 못하는 것이 명확하게 나뉜다.
| AI가 잘하는 것 | AI가 못하는 것 |
|---|---|
| 반복적인 보일러플레이트 코드 생성 | 프로젝트 고유의 비즈니스 로직 판단 |
| 공식 문서 기반 API 사용법 안내 | 문서에 없는 보안 취약점 탐지 |
| 기존 패턴의 리팩토링·최적화 | 전혀 새로운 아키텍처 설계 |
| 테스트 코드 자동 생성 | 테스트의 충분성 판단 |
| 에러 메시지 해석과 수정 제안 | 근본 원인이 인프라에 있는 경우 |
| 코드 문서화·주석 작성 | 사용자 경험(UX) 품질 판단 |
AI는 '이전에 본 적 있는 패턴'에서 강력하고, '처음 보는 상황에서의 판단'에서 약하다. 이 경계를 이해하는 것이 바이브코더와 단순 사용자의 차이다.
특히 주의해야 할 영역은 보안이다. AI는 기능적으로 동작하는 코드를 잘 만들지만, SQL 인젝션이나 XSS 같은 보안 취약점을 스스로 감지하고 방어하는 데는 한계가 있다. '돌아가는 코드'와 '안전한 코드'는 다르며, 이 차이를 판단하는 것은 인간의 몫이다.
환각(Hallucination) 주의 — AI는 존재하지 않는 라이브러리나 API를 그럴듯하게 '만들어낼' 수 있다. 코드가 문법적으로 완벽해 보여도 실제로 실행되지 않는 경우가 있으므로, 반드시 실행·테스트로 검증해야 한다.