대화할수록 날 더 잘 알아요. 학습하는 걸까요?
AI를 쓰다 보면 이런 느낌이 들 때가 있어요. 어디에 사는지, 뭘 좋아하는지 알고, 대화할수록 더 다정해서, 천천히 나를 알아 가는 것 같죠. 정말 학습하며 진화하는 걸까요? 답은 조금 뜻밖이에요. 한 글자도 배우지 않았어요.
학습하는 게 아니에요. 대화는 모델 자체를 바꾸지 못해요. 뇌는 출고되는 순간 동결됐거든요. 점점 더 나를 아는 것처럼 느껴지는 건, 제품이 당신 정보를 「작은 수첩」에 적어 두고 대화가 시작되기 전에 슬쩍 다시 집어넣는 일이에요. 기억력이 약한 오랜 친구가, 만나기 전에 노트를 한 번 펼쳐 보는 것과 같아요.
대규모 언어 모델의 삶은 두 단계로 나뉘어요. 학습과 대화예요. 학습은 학교와 같아서, 방대한 자료를 읽고 머릿속 파라미터를 반복해서 조정해요. 대화는 졸업 후 출근과 같아서, 이미 배운 것으로 일만 해요. 핵심은 이거예요. 출근한 그날부터 머릿속 파라미터는 고정돼요. 만 마디를 나눠도 이 파라미터는 하나도 움직이지 않아요. 두 단계를 자세히 보고 싶다면, 이 사이트에 학습과 사용 심화편이 있어요.
「나를 점점 더 잘 안다」는 일에서, 많은 사람 머릿속 그림과 실제로 일어나는 그림은 거리가 멀어요. 아래 버튼 세 개를 눌러, 하나씩 보세요.
방금 「실제로 일어나는 그림」에 나온 그 작은 수첩이, 각 제품이 홍보하는 「메모리 기능」이에요. 모델 바깥에 걸어 둔 메모장이죠. 대화에서 나온 핵심 정보(어디에 사는지, 뭘 먹는지, 무슨 일을 하는지)를 골라 저장해 두고, 새 대화가 시작되기 전에 제품이 이 항목들을 대화 맨 앞에 붙여 넣어요. 모델이 그 글을 읽으니, 답이 자연스럽게 당신을 아는 것처럼 들려요. 이렇게 붙여 넣은 내용이 차지하는 자리가 바로 흔히 말하는 컨텍스트 윈도우예요.
이 장치는 흔히 느끼는 답답함도 설명해 줘요. 제품을 바꾸면 메모리는 가져갈 수 없어요. 작은 수첩은 A 제품 서버에 있고, B 제품은 볼 수 없거든요. 한쪽에서 몇 년 쌓은 「호흡」이, 앱만 바꾸면 바로 제로가 돼요. 그러니 중요한 개인 취향은 문서에도 따로 남겨 두세요. 어디를 가든 붙여 넣을 수 있게요.
사람마다 따로 학습시키면 값이 말도 안 돼요
대규모 언어 모델을 한 번 학습시키려면 전용 칩 수천 장을 몇 주 동안 돌려야 하고, 비용은 억 단위로 계산해요. 수억 명의 사용자마다 전용 모델을 하나씩 학습시키는 청구서는, 어떤 회사도 감당할 수 없어요.
작은 수첩은 싸고, 쓰기에 충분해요
그에 비해 사용자마다 메모장 하나를 주는 비용은 거의 무시할 수 있어요. 체감 차이는 거의 없어요. 광저우에 살고, 채식하고, 고양이 한 마리를 키운다는 건 그대로 알아요.
동결이 오히려 더 안전해요
누구나 대화만으로 모델을 고쳐 쓸 수 있다면, 좋은 말을 가르치는 사람도 있고 나쁜 말을 가르치는 사람도 생겨요. 파라미터 동결은 모든 사람에게 같은 수준을 유지하게 해요. 이건 특성인 동시에 보호예요.
✅ 이 페이지에서 나누고 싶은 것
- 모델 파라미터는 출고와 동시에 동결돼요: 아무리 많이 대화해도 뇌는 바뀌지 않아요
- 「메모리」는 바깥에 걸어 둔 작은 수첩이에요: 제품이 당신 정보를 저장해 두고, 대화 전에 다시 집어넣어요
- 점점 더 나를 아는 것처럼 느껴진다면: 칭찬할 대상은 제품 설계예요. 모델은 적힌 대로 읽을 뿐이에요
- 중요한 취향은 직접 한 부 남겨 두세요: 작은 수첩은 제품만 바꾸면 초기화돼요. 문서를 들고 어디든 붙여 넣으세요