그림으로 배우는 생성형 AI - 큰 그림을 잡기엔 좋지만, 그림이 늘 도움을 주진 않았다

“한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다.”

들어가며

생성형 AI를 일상적으로 쓰게 된 지는 꽤 됐다.
그러다 보면 자연스럽게 “쓰는 입장”에서 “만드는 입장”이 궁금해진다.

그 무렵 만난 책이 한빛미디어의 “그림으로 배우는 생성형 AI” 였다.
모델 선택, 에이전트 설계, 아키텍처, 책임 있는 AI 운영까지 — 평소 따로따로 읽어왔던 주제들이 한 권에 묶여 있어 손이 갔다.

제목만 보면 가벼운 입문서 같지만, 막상 펴 보면 그렇지 않다.
좋았던 부분도, 아쉬웠던 부분도 분명했던 책이라 둘 다 정리해 보려고 한다.

책의 큰 흐름

이 책은 총 6개 장으로 구성돼 있고, 흐름이 비교적 명확하다.

1장은 생성형 AI가 무엇인지, 그리고 왜 2022년 이후 폭발적으로 확산됐는지를 정리한다.
머신러닝의 기본 구조(데이터 → 모델 → 훈련 → 추론)를 짚으며, “AI냐 아니냐”가 아니라 “실제로 문제를 줄이느냐” 가 평가 기준이 됐다는 관점을 제시한다.

2장은 사용자 입장에서의 활용을 다룬다.
“멋진 초안 만들기”를 첫 번째 킬러 용도로 잡고, 프롬프트 작성과 API 호출, 출력 튜닝까지 이어진다.

3장은 산업별 사례다. 고객 지원, 코드 생성, 마케팅, 데이터 분석, 엔터프라이즈 검색까지.
“생성형 AI는 데모만 화려하다”는 비판에 대해, 이미 산업에서 비용 구조와 업무 절차를 바꾸고 있다는 흐름으로 반박한다.

4장부터는 본격적으로 만드는 사람을 위한 이야기로 넘어간다.
에이전트형 시스템, 5장은 그 위에 얹히는 아키텍처, 6장은 책임 있는 AI 운영까지 다룬다.

생성형 AI의 기본 모델 구조

인상 깊었던 부분 - 에이전트와 아키텍처

개인적으로 가장 도움이 됐던 건 4장과 5장이다.

4장은 “LLM 한 번 호출”의 한계에서 출발한다.
최신 정보가 부족하고, 여러 단계로 쪼개야 하는 업무는 한 번의 호출로 해결되지 않는다는 점에서 시작해, 다음 네 가지 패턴을 정리한다.

성찰(reflection): 모델이 자기 답변을 점검·수정하는 자기 피드백 구조
동적 계획 수립: 단계를 고정하지 않고 상황에 맞게 다시 짜는 방식
도구 사용(tool use): 검색·계산기·DB 등 외부 도구를 호출해 정확성과 최신성을 확보
다중 에이전트 협업: 계획자·실행자·검증자처럼 역할을 분리해 협업

이 네 가지를 RAG 에이전트, SQL 에이전트 같은 구체적 사례로 이어주는 흐름이 좋았다.

RAG 에이전트의 동작 흐름

특히 RAG를 단순히 “벡터 DB에서 검색해서 LLM에 넣는 것”으로 설명하지 않고, 왜 필요한지(최신성·정확성·환각 완화) 와 무엇을 운영에서 챙겨야 하는지(기밀 데이터, 안전장치) 를 같이 짚어주는 부분이 인상 깊었다.

5장은 그다음 단계의 질문을 던진다.
“에이전트형 시스템을 그대로 운영에 올리면 어떻게 되는가?”

매 단계마다 LLM을 호출하면 비용이 폭발하고, 지연이 늘고, 결과 변동성이 커진다.
이 장은 그 문제를 아키텍처 차원에서 풀어내는 방법을 다룬다. 기초 모델 선택부터, 비용·지연·정확성·리스크의 트레이드오프, 그리고 모니터링·평가·가드레일 같은 운영 요소까지.

“프롬프트만 잘 쓰면 된다”가 아니라 엔지니어링과 운영의 언어로 생성형 AI를 다시 바라보게 한다는 점에서, 4장과 5장은 이 책에서 가장 값어치를 한 부분이었다.

책임 있는 AI - 6장이 다루는 무게

6장은 책임 있는 AI(responsible AI)와 정렬(alignment)을 다룬다.

생성형 AI는 단순한 오류를 넘어 환각, 독성·편향, 오용 가능성 같은 고유 위험을 가진다.
“정확하지 않다”가 아니라 “그럴듯한 해를 끼칠 수 있다“는 문제 정의가, 책임 있는 설계의 출발점이라는 메시지가 분명하다.

또한 책임 있는 AI를 윤리적 선언으로 끝내지 않고, 관측·평가·가드레일·모니터링 같은 운영 능력으로 구현해야 한다고 본다.
이 관점은 평소 LLM을 도구로만 써온 입장에서 한 번쯤 진지하게 마주해야 할 부분이라고 느꼈다.

아쉬웠던 부분 - 그림과 후반부의 톤

좋았던 부분이 분명했던 만큼, 아쉬웠던 부분도 짚고 싶다.

이 책의 정체성은 결국 “그림으로 배우는” 이다.
그렇기 때문에 책 전반에 도식과 다이어그램이 자주 등장하는데, 솔직히 말하면 그림이 이해를 돕기보다 본문을 그대로 시각적으로 옮겨놓은 인상을 받은 경우가 많았다.

예를 들어 본문에서 “데이터 → 모델 → 훈련 → 추론”이라고 쓰여 있으면, 그림도 같은 단어를 박스로 묶어 화살표로 이어놓는 식이다.
새로운 정보를 추가하거나 글로 설명하기 어려운 관계를 보여주는 것이 아니라, 이미 읽은 문장을 보기 좋게 정렬한 정도에 머무르는 그림이 적지 않았다.

“그림으로 배우는”이라는 제목에 기대를 했던 만큼, 이 부분은 조금 아쉬웠다.

또 하나는 뒤로 갈수록 코드 비중이 빠르게 늘어난다는 점이다.
4장 후반과 5장에 들어서면 설명보다 코드 스니펫이 더 많아지는 구간이 생기는데, 이때 책의 인상이 안내서에서 설명서 또는 레퍼런스로 가까워지는 느낌을 받는다.

이 책의 대상 독자가 엔지니어와 데이터 과학자까지 포함한다는 점에서 코드 자체가 들어가는 건 자연스럽다.
다만 그럼에도 “왜 이렇게 설계하는지, 어떤 트레이드오프가 있는지, 실패와 성공 기준을 어떻게 잡는지” 같은 개념적 다리가 코드보다 조금 더 앞에 놓였더라면 설득력이 더 살았을 것 같다.

특히 같은 책을 함께 보도록 권장된 PM과 기술 리더 입장에서 보면, 후반부는 구현 세부보다 의사결정을 위한 설명이 더 필요한 지점이 많은데 그 부분이 상대적으로 약해 아쉬움이 남았다.

이런 분께 추천합니다

기존 애플리케이션에 생성형 AI를 통합하거나 새로 설계해야 하는 소프트웨어 엔지니어·아키텍트
기존 머신러닝 경험은 있지만, 생성형 AI 쪽으로 영역을 넓히고 싶은 데이터 과학자·ML 엔지니어
생성형 AI 도입의 시점과 방식, 투자 판단을 책임져야 하는 PM과 기술 리더
LLM을 단순 호출하는 단계에서 벗어나, 에이전트형 시스템·RAG·운영 요소(모니터링·평가·가드레일) 까지 한 번 정리하고 싶은 분

반대로 다음과 같은 경우라면 다른 책이 더 맞을 수 있다.

이미 RAG·에이전트 시스템을 실무에서 운영하고 있는 분에겐 다소 가벼울 수 있다.
코드 중심의 실습서를 기대한다면, 이 책보다 LangChain·LlamaIndex 등의 전용 실습서가 더 적합하다.
API·웹 서비스나 머신러닝에 대한 기본 감각이 전혀 없다면, 후반부에서 호흡이 끊길 가능성이 있다.

정리

“그림으로 배우는 생성형 AI” 는 한 문장으로 정리하면 다음과 같다.

“생성형 AI를 도구로 써온 사람이, 만드는 사람의 시야로 넘어가는 다리 역할을 하는 책.”

1~3장에서 잡아주는 큰 그림과, 4~5장의 에이전트·아키텍처 흐름, 그리고 6장의 책임 있는 AI까지.
엔지니어·데이터 과학자·PM이 같은 언어로 생성형 AI를 이야기할 수 있게 해주는 지형 안내서로서의 역할은 충분히 해낸다고 느꼈다.

다만 제목이 약속하는 “그림으로 배우는”의 무게에는 다소 못 미쳤다.
그림이 새로운 이해를 만들어주기보다 본문의 시각적 요약에 머무른 경우가 많았고, 후반부로 갈수록 개념적 설명이 줄고 코드가 늘어나는 점은 아쉬움으로 남는다.

그럼에도 생성형 AI 전체를 개발과 운영의 언어로 한 번 묶어 보고 싶은 독자에겐 충분히 유효한 선택지라고 생각한다.

피드백은 언제나 환영합니다.