기업들이 다 만든다는 「지식 베이스」는 뭔가요?
회의에서 「지식 베이스를 만들자」「RAG를 붙이자」는 말이 자주 나와요. 큰 공사처럼 들리죠. 사실 이건 AI에게 필요할 때 찾아보는 책장을 달아 주는 일이에요: 이제 오픈북 시험을 볼 수 있고, 펼친 그 페이지를 가리켜 주기까지 해요.
회사 파일을 작은 조각으로 자르고 인덱스를 만든 뒤, AI가 답하기 전에 그 안에서 관련 대목을 찾아 대화에 넣고 답해요. 당신 자료를 들고 말하고, 출처도 표시해 줄 수 있어요.
지식 베이스 전체 작동은 세 단계예요. 「다음」을 눌러 한 단계씩 가세요. 매 단계가 방금 그 책장 비유를 씁니다.
똑같이 「우리 출장 경비 한도는 얼마인가요?」라고 묻고, 아래 두 버튼을 바꿔 가며 AI 답이 어디서 갈리는지 보세요.
이렇게 복잡하게 할 필요 있나요, 회사 파일 수백 개를 한꺼번에 AI에게 주면 되지 않냐고요. 이유는 두 가지예요:
책상이 다 못 받아요
AI가 한 번에 「눈에 담을」 수 있는 양은 한정되어 있어요. 크기가 고정된 작업대와 같아서, 파일 수백 개는 펼칠 자리조차 없죠. 이 작업대를 컨텍스트 윈도우라고 해요. 이 페이지가 왜 「기억을 잃는지」를 설명합니다.
글자 수대로 과금
AI가 읽어 들이는 글자마다 토큰으로 과금돼요. 질문마다 파일 전부를 붙이면, 매번 도서관 전체를 옮기는 셈이라 지갑이 먼저 못 버팁니다. 토큰 과금은 이 페이지를 보세요.
그래서 지식 베이스의 발상은 영리해요: 책은 선반에 두고, 매번 가장 관련 있는 몇 페이지만 시험장에 가져가요. 돈도 아끼고, 자리도 돼요.
지식 베이스는 AI가 자료를 들고 말하게 하지만, 진위를 가리는 능력은 한정되어 있어요. 책장의 파일이 낡았으면 옛 파일대로 답하고, 두 파일이 서로 모순이면 반반 베낄 수도 있어요. 보장하는 건 「근거를 확인할 수 있다」는 것이지, 「그 근거가 믿을 만한지」는 못 봐요. 그래서 지식 베이스를 만들 때 일의 절반은 파일 정리에 써야 해요: 낡은 것은 지우고, 모순은 합치세요. 책장이 깨끗해야 답도 깨끗해요.
✅ 이 페이지에서 나누고 싶은 것
- 지식 베이스 = 오픈북 시험의 책장: 자르고, 인덱스를 만들고, 시험 때 펼쳐 답하기 — 이 세 단계예요
- 출처를 표시할 수 있어요: 답이 어느 파일에서 왔는지 한눈에 보이고, 원문을 열면 대조할 수 있어요
- 파일 품질이 답 품질을 결정해요: 책장에 낡거나 모순된 자료가 있으면 AI도 그대로 답해요
- 학습과는 무관해요: 전 과정에서 모델 자체는 바뀌지 않고, 파일만 바꾸면 당일 적용돼요