파라미터가 많을수록 더 똑똑할까요?
발표회에서는 「천억 파라미터」「조 단위 파라미터」가 아무렇지 않게 나와요. 숫자는 갈수록 더 무시무시하고요. 이 「파라미터」는 대체 뭘까요? 숫자가 크면 꼭 더 똑똑할까요?
파라미터는 뇌 속 노브의 개수와 같아요. 노브가 많으면 보통 견문이 더 넓어요. 하지만 똑똑한 정도는 학습 데이터의 품질과 학습 방법에도 달려 있어요. 일상 업무에서는 작은 모델이 오히려 더 이득인 경우가 많아요.
모델을 학습시키는 건, 노브가 엄청나게 많은 기계를 조율하는 일과 같아요. 자료를 한 묶음 넣을 때마다 노브를 조금씩 돌려서, 답이 더 그럴듯해지게 만들어요. 학습이 끝나면 그 수십억, 수천억 개 노브의 위치가 합쳐져, 배운 모든 것이 저장돼요. 그래서 파라미터 수는 대략 이렇게 이해하면 돼요: 이 기계에 돌릴 수 있는 노브가 몇 개인지, 즉 얼마나 많은 견문을 담을 수 있는지.
슬라이더를 끌어 단계를 바꿔 보세요. 각 규모의 모델이 대략 어떤 느낌인지, 돌리려면 어떤 장비가 필요한지 볼 수 있어요. 숫자는 자릿수만 보면 되고, 정확한 값에 집착하지 마세요.
노브가 많으면 대가도 있어요: 더 느리고, 더 비싸고, 장비를 더 가려요. 아래 세 가지 장면에서는 작은 모델이 덩치 큰 쪽을 자주 이겨요.
작은 모델은 속도로 이겨요
파라미터가 적으면 계산이 빨라요. 실시간 자막, 입력기 자동완성처럼 바로 답이 나와야 하는 장면에서는, 큰 모델이 아무리 박식해도 기다릴 수가 없어요.
작은 모델은 비용으로 이겨요
같은 일을 해도 작은 모델은 전기세와 연산 비용이 훨씬 낮아요. 양이 많은 일이라면, 일 년 동안 아끼는 돈이 꽤 커요.
작은 모델은 특화로 이겨요
예를 들어 고객센터에서 사용자가 반품을 원하는지, 배송 조회인지 가리는 일. 잘 다듬은 작은 모델은 빠르고 정확해서, 가성비로 덩치 큰 쪽을 압도해요.
모델을 고르는 건 차를 고르는 것과 같아요. 장거리로 무거운 짐을 나르면 트럭을, 시내에서 장 보려면 스쿠터면 충분해요. 일이 얼마나 어려운지 먼저 생각하고, 그다음에 얼마짜리 톤수의 모델을 쓸지 정하세요. 청구서와 사용감이 둘 다 한결 편해져요.
✅ 이 페이지에서 나누고 싶은 것
- 파라미터는 용량 지표예요: 노브가 많을수록 담을 수 있는 견문이 많아요
- 데이터 품질과 학습 방법도 똑같이 중요해요: 노브가 많아도 잘못 돌리면 소용없어요
- 모델은 일에 맞춰 톤수를 정하세요: 일상 일에는 작은 모델이 더 이득인 경우가 많아요
- 뉴스의 파라미터 경쟁은 듣기만 하면 돼요: 일을 잘하느냐가 여러분의 일이에요