기초 원리

학습 vs 추론: 완전히 다른 두 가지 과정

많은 사람들이 AI가 매번 답변할 때 학습한다고 생각합니다. 실제로는 전혀 그렇지 않습니다.

비교
학생 시험에 비유하자면: 학습(Training) = 수년간 준비, 반복 연습, 지식 암기  →  추론(Inference) = 시험장에서 답변, 파라미터 동결, 더 이상 새것을 배우지 않음
학습(Training)
방대한 데이터로 수십억 개의 파라미터를 조정하여 모델이 세계 지식을 기억하게 합니다.
실행 빈도일회성
연산 요구1K–10K GPU
파라미터지속 업데이트
비용수억 달러
소요 시간수주~수개월
추론(Inference)
고정된 파라미터를 사용하여 입력에 대한 응답을 생성합니다. 매 대화마다 파라미터는 완전히 변하지 않습니다.
실행 빈도매 대화
연산 요구1~수 GPU
파라미터완전 동결
과금Token당 과금
소요 시간1~10초/회
인터랙티브 실험: 당신의 말이 파라미터를 바꿀까요?
Context Window (컨텍스트 창)
AI
안녕하세요! 무엇을 도와드릴까요?
모델 파라미터 (예시)
🔒 파라미터 완전 동결
대화는 어떤 가중치도 변경하지 않습니다
AI에게 하는 말은 어떤 파라미터도 수정하지 않습니다. 오늘 "당신 이름은 민준이에요"라고 말해도, 내일 새 대화를 시작하면 기억하지 못합니다. 대화는 컨텍스트 창에만 존재하기 때문입니다. 대화는 학습이 아닙니다.