제로 챕터 · 왕초보 FAQ

「모델을 훈련시켰다」는데, 대체 뭘 훈련한 걸까요?

술자리에서 잔을 들고 「최근에 모델을 훈련시켰다」고 말하는 사람, 꼭 있죠. 그 말의 과장은 0에서 99%까지예요. 이 페이지는 상대가 대체 뭘 했는지 듣게 도와주고, 덤으로 테이블을 조용하게 만드는 추궁 세 마디도 알려 드려요.

한 줄 답변

AI 업계에서 훈련이란 모델 자체의 파라미터를 바꾸는 일이고, 비용은 수십만에서 억 단위 위안까지예요. 그런데 대부분이 말하는 「모델을 훈련시켰다」는 실제로는 프롬프트를 썼거나, 지식 베이스를 연결한 것이에요. 5분과 5천만 위안의 차이죠.

먼저 분명히 · 업계에서 「훈련」이 진짜 뜻하는 것

대규모 언어 모델 안에는 수백억에서 조 단위의 파라미터가 들어 있어요. 파라미터를 뇌의 신경 연결이라고 생각해 보세요. 모델의 실력은 전부 이 숫자들 안에 있어요. 훈련이란 방대한 데이터로 이 숫자들을 반복해서 씻어 내며 조금씩 맞추는 일이에요. 전기, GPU, 돈이 들고 — 아이 하나를 스무 해 동안 학교에 보내는 것과 맞먹어요. 중자산 공사에 가깝죠.

평소 AI에게 「당신은 베테랑 편집자예요, 문장을 다듬어 주세요」라고 하거나 회사 자료를 올리는 일은 파라미터를 하나도 건드리지 않아요. 비유하면, 전자는 대학생을 처음부터 키우는 것이고, 후자는 이미 자란 대학생에게 메모지 한 장이나 매뉴얼 한 권을 건네는 거예요. 메모지는 쓸모가 있지만, 그렇다고 「대학생을 키웠다」고 말할 수는 없어요.

그러니 다음에 「모델을 훈련시켰다」는 말을 들으면, 첫 반응은 이걸로 충분해요: 파라미터를 건드렸나? 얼마나? 아래 사다리가 모든 경우를 네 층으로 나눠 줘요.

네 층 사다리 · 5분에서 5천만 위안까지

아래에서 위로, 한 층을 오를 때마다 비용과 허들이 지수적으로 올라가요. 각 층을 누르면 시간, 비용, 허들이 펼쳐져요. 술자리 「모델을 훈련시켰다」의 열에 아홉은 맨 아래 두 층에서 일어나요.

L1

프롬프트 고치기

말을 바꿔서 AI가 더 잘 알아듣게
소요 시간
몇 분
비용 규모
무료
허들
누구나 할 수 있음
한 일
AI에게 설명서 한 편을 씀
모델에게 역할, 업무 흐름, 출력 조건을 줘요. 예를 들면 「당신은 꼼꼼한 법무예요. 답하기 전에 리스크부터 나열하세요」. 모델 파라미터는 하나도 안 움직였어요. 그런데 출력 품질은 천지 차이일 수 있어요. 일상 수요의 열에 아홉은 이 층이면 충분해요.
L2

지식 베이스 연결하기 (RAG)

AI에게 뒤적일 책장을 하나 주기
소요 시간
몇 시간에서 며칠
비용 규모
몇백에서 몇만 위안
허들
설정만 할 줄 알면 됨
한 일
자료를 AI 손옆에 두기
회사 문서와 제품 매뉴얼을 정리해 「책장」에 넣어요. AI는 답하기 전에 한 번 뒤적이고, 자료를 보고 답해요. 「가르친 것」처럼 들리지만 모델 자체는 변하지 않았어요. 손옆에 참고서가 생긴 것뿐이에요. 책을 치우면 바로 원래대로 돌아가요.
L3

파인튜닝

파라미터는 진짜 움직였지만, 베이스는 남의 것
소요 시간
며칠에서 몇 주
비용 규모
몇천에서 수십만 위안
허들
데이터와 엔지니어가 필요
한 일
완성된 뇌에 직무 특화 연수
이미 훈련된 오픈소스 모델을 가져와, 자신의 수천에서 수십만 건 데이터로 이어서 훈련해요. 파라미터는 진짜 바뀌어요. 대졸자에게 직무 특화 연수를 시키는 셈이에요. 이 층까지 오면 「모델을 훈련시켰다」는 말이 겨우 성립해요. 다만 기억하세요: 그 베이스 뇌는 여전히 남이 만든 거예요.
L4

처음부터 사전학습

제로에서 뇌를 하나 만들기
소요 시간
수개월
비용 규모
수천만에서 억 단위 위안
허들
전 세계에서 할 수 있는 회사는 손에 꼽힘
한 일
인터넷 절반의 데이터로 제로에서 훈련
무작위 숫자 더미에서 시작해, 방대한 데이터와 수천 장의 GPU로 몇 달을 훈련해 완전히 새로운 뇌를 만들어요. 이 일을 할 수 있는 회사는 전 세계에서 한 손으로 세고도 손가락이 남아요. 술자리에서 누가 이걸 덤덤하게 말했다면, 여러분은 전설을 보고 있거나 — 아니면 농담을 듣고 있는 거예요.
어디에 해당할까요 · 이 말들은 대체 어느 층인가요

퀴즈 하나: 아래 다섯 문장은 사교 자리에서 자주 나오는 말이에요. 각 문장이 말하는 일이 어느 층에서 일어났을 가능성이 큰지 맞춰 보세요. 선택지를 누르면 답이 열려요.

「ChatGPT로 우리 회사를 아는 모델을 훈련시켰어요」
십중팔구 L1 또는 L2예요. 대화 제품 안에서 할 수 있는 일은 기본적으로 프롬프트를 쓰고 자료를 올리는 두 가지예요. 커스텀 어시스턴트를 만들고 회사 문서를 넣은 경우가 많아요. 쓸모는 있고 인정할 만하지만, 「모델 훈련」과는 아직 두 층이 남았어요.
「오픈소스 모델을 파인튜닝해서 고객센터에 썼어요」
L3, 이 말은 오히려 솔직해요. 자신이 어느 층인지 정확히 말했어요: 파라미터를 건드렸고, 베이스는 오픈소스 모델이에요. 이렇게 말하는 사람은 보통 진짜로 일을 해 본 사람이에요.
「매일 쓰다 보니, 저를 점점 더 잘 알아듣게 훈련됐어요」
L0, L1조차 안 돼요. 일상 대화는 모델 파라미터를 하나도 바꾸지 않아요. 「점점 더 알아듣는다」는 느낌은 기억 기능이거나, 여러분이 질문을 더 잘하게 된 경우가 많아요. 대화로 모델이 안 훈련되는 이유는 이 페이지를 보세요: AI는 대화에서 학습하나요.
「업계 대규모 언어 모델을 자체 개발했어요」
L3일 수도, L4일 수도 있어요. 추궁이 필요해요. 「자체 개발」은 탄력이 아주 큰 말이에요. 처음부터 사전학습해도 자체 개발이고, 오픈소스를 파인튜닝해도 자체 개발이라고 하는 사람이 있어요. 이때 다음 섹션의 질문 세 방을 꺼내세요.
「AI에게 페르소나와 업무 흐름을 한 세트 써 줬어요」
L1이고, 아주 분명하게 말했어요. 칭찬할 만해요. 「훈련」이라는 큰 단어를 빌리지 않고, 한 일을 그대로 말했어요. 이런 표현이 발표회 여럿보다 훨씬 단정해요.
어떻게 듣고 어떻게 물을까 · 이 질문 세 방을 들고 다니세요

상대가 어느 층인지 안 가려지나요? 추측하지 말고 그냥 물으세요. 이 세 질문이 비용, 데이터, 베이스 세 급소를 각각 짚어요. 답하지 못하는 사람은 스스로 층이 내려가요.

💰

「컴퓨팅 비용이 얼마였나요?」

훈련은 진짜 돈으로 태워 만드는 일이에요. L3부터 GPU를 빌려야 하고, L4는 수천만에서 억 단위를 태워요. 비용 규모를 대지 못하는 「훈련」은, 십중팔구 일어난 적이 없어요.

📚

「데이터는 어디서 났나요?」

파라미터를 바꾸려면 규모 있는 훈련 데이터가 필요해요. 「회사 문서를 먹여 줬어요」라고 하면 거의 L2 지식 베이스 연결이고, 모델 자체 파라미터는 하나도 안 움직인 거예요.

🏗️

「베이스는 어떤 모델인가요?」

L1부터 L3까지는 전부 남의 베이스 위에 서 있어요. 전혀 부끄러운 일이 아니지만, 분명히 말할 가치는 있어요. 「핵심 기술이라 밝히기 어렵다」고 얼버무리면, L1으로 보면 돼요.

이 질문 세 방에는 발표회와 SNS의 각종 화술을 겨냥한 완전한 심화판도 있어요. 연습해 보고 싶다면 AI 업계 은어 번역기를 한 판 해 보세요. 마지막에 공정한 말 하나: 프롬프트를 고치는 일은 전혀 부끄럽지 않아요. 네 층 가운데 가성비가 가장 높고, 수요의 열에 아홉은 그걸로 충분해요. 부끄러운 일은 처음부터 하나뿐이에요: 분명 L1에 있으면서 L4라고 말하는 것.

✅ 이 페이지에서 나누고 싶은 것