같은 질문인데, 왜 매번 답이 다를까요?
어제 밀크티 가게 이름을 지어 달라고 했더니 감성 넘치는 안이 세 개 나왔어요. 오늘 한 글자도 안 바꾸고 다시 물었더니 분위기가 완전히 달라요. 기억력이 나쁜 걸까요, 대충 넘기는 걸까요? 둘 다 아니에요. 버튼을 몇 번 누르면 글자 하나가 어디서 오는지 직접 볼 수 있어요.
AI는 글자를 쓸 때마다 주사위를 굴리기 때문이에요. 확률 높은 후보 몇 개 가운데 하나를 고르죠. 답이 자연스럽고 딱딱하지 않게 하려는 의도된 설계예요. 안정적인 출력이 필요할 때는 무작위성을 낮출 수 있어요.
아래는 고정된 질문이에요. 한 글자도 바꾸지 않아요. 「다시 묻기」를 눌러, 세 번 답이 얼마나 달라지는지 보세요.
AI가 문장을 쓰는 방식은 말 잇기예요. 매번 다음 글자 하나만 정하죠. 먼저 모든 후보에 점수를 매기고, 점수 높은 쪽이 뽑힐 기회가 크고, 낮은 쪽은 작아요. 그다음 하나를 뽑아요. 이 글자를 뽑은 뒤, 다음 글자를 위해 다시 뽑아요. 문장 하나에 글자가 수십 개면 제비뽑기도 수십 번이에요. 두 번 답이 똑같으면 그게 오히려 드문 일이에요.
말만으로는 부족하니, 아래가 어떤 위치의 실제 장면이에요. AI는 이미 「가게 이름 제안: 재스민 밀크」까지 썼고, 다음 단어를 정하는 중이에요. 후보 네 개의 확률 막대가 여기 있어요. 이번 주사위는 여러분이 대신 굴려 주세요. 몇 번 더 굴리며, 오른쪽 당첨 횟수를 눈여겨보세요.
매번 점수 가장 높은 글자만 고르면 답이 안정되니, 그게 더 좋지 않느냐고 물을 수 있어요. 해 봤어요. 결과가 아주 나빴어요. 항상 최고점만 고르면 답은 딱딱한 앵무새가 돼요. 밀크티 가게 이름을 열 번 물으면, 열 번 「재스민 밀크티」라고 답해요. 카피가 천편일률이 되고, 이름 짓기·시 쓰기·아이디어 내기 같은 일은 바로 망가져요. 2등, 3등 단어도 뽑히게 하면 길이 한순간에 넓어지고, 말도 살아 있는 사람처럼 들려요.
창의 작업 · 무작위성을 환영하세요
이름 짓기, 카피, 브레인스토밍에서 무작위성이 곧 영감의 원천이에요. 몇 번 더 물으면, 동료를 몇 명 더 공짜로 부른 셈이에요. 가장 좋은 버전만 고르면 돼요.
진지한 작업 · 무작위성을 낮추세요
계약 조항, 코드, 데이터 처리에서는 답이 흔들리면 사고가 나요. 많은 제품이 무작위성을 낮출 수 있어요(흔히 「temperature(온도 값)」 파라미터). 가장 낮추면 거의 매번 최고점을 고르게 돼요. 더 깊게 보고 싶다면 temperature 심화편을 보세요.
실용적인 당부 하나 더. 무작위성은 한 번 답의 신뢰도에 한계가 있다는 뜻이기도 해요. 중요한 사실이 걸려 있으면, 같은 질문을 방식을 바꿔 몇 번 더 물어 보세요. 답이 같은 부분은 신뢰도가 더 높고, 왔다 갔다 하는 부분은 권위 있는 출처로 확인해야 해요. 답이 다른 것과 거짓말하는 것은 다른 일이에요. 하지만 여러분 입장에서 처리 방식은 같아요. 둘 다 확인해야 해요.
✅ 이 페이지에서 나누고 싶은 것
- 무작위성은 특성이에요: 답이 다르면 주사위가 정상 작동 중이라는 뜻이고, 고장은 다른 이야기예요
- 글자마다 제비뽑기 한 번: 확률 높은 쪽이 자주 뽑히고, 낮은 쪽에도 기회는 있어요
- 창의 작업은 무작위성을 환영하고, 진지한 작업은 temperature를 낮추세요: 상황에 맞게 쓰세요
- 중요한 사실은 몇 번 더 물어 교차 검증하세요: 같은 부분은 더 믿을 만하고, 다른 부분은 확인하세요