엔지니어링 지표는 통과했는데, 사용자는 왜 여전히 느리다고 할까요?
앞 챕터에서는 지연을 줄이고, 비용을 깎고, 환각률을 내리는 법을 배웠습니다. 이번 챕터는 스톱워치를 바꿉니다: 사용자 머릿속에 있는 그 시계. 서버 시계와 가는 방식이 다릅니다. 평점, 구독 갱신, 삭제가 모두 그걸 따라갑니다. 1강은 먼저 실험을 돌리고, 이 시계의 시각 버릇을 하나씩 풀어 봅니다.
아래 네 패널 뒤에는 같은 한 번의 요청이 있습니다: 같은 질문, 같은 5초 만에 완전한 답. 차이는 하나뿐—그 5초 동안 사용자에게 무엇을 보여 주느냐. 버튼을 눌러 네 개를 동시에 돌리고, 체감을 살펴보세요.
방안 A · 빈 화면 정지
아무것도 안 줌방안 B · 스피너 대기
살아 있다고 알림방안 C · 스트리밍
먼저 일부를방안 D · 단계 공개
뭐 하는지 보여 줌방금 대부분에게 가장 힘들었던 건 빈 패널이었습니다. 빈 화면은 힘들 뿐 아니라 숨은 대가가 있습니다: 시간에 대한 추정을 부풀립니다. 지각 시간 연구는 「기다리면서 시간에 주의를 두는」 측정을 전망적 타이밍이라고 부릅니다—주의가 시간 자체에 많이 실힐수록 주관적 길이가 부풀고, 긴장 정서가 한 겹 더 늘립니다. Zakay와 Block의 주의 게이트 모델이 이 규칙의 가장 자주 인용되는 설명입니다. 결론은 여기 두고, 직접 재어 보는 편이 더 설득력 있습니다.
「시작」을 누르면 왼쪽 패널이 진행도 없고, 스피너도 없고, 문구도 없는 대기에 들어갑니다. 체감으로 8초가 지났다 싶으면 멈추세요. 머릿속으로 박자를 세지 마세요—그건 치팅입니다.
이게 빈 화면 정지가 데이터 백엔드에는 안 보이는 청구서입니다: 서버는 5초, 사용자는 6초 반. 피드백 없는 대기의 과대평가 오차는 실험에서 20~30%가 흔합니다. 제품의 「체감 지연」은 모니터링 패널의 P99보다 더 나쁘고, 그 차이는 인터페이스가 결정합니다.
스톱워치가 사용자 마음에서 돈다면, 엔지니어링 예산은 그가 재는 구간에 써야 합니다. 아래 챗봇의 총 시간은 5초로 고정이고, 움직일 수 있는 파라미터는 하나뿐입니다: 첫 토큰 시간 TTFT(전송부터 첫 글자가 보일 때까지). 슬라이더를 끌고 「다시 재생」을 누르면, 오른쪽이 선택한 TTFT로 타이핑 스트림을 다시 보여 주고 체감 점수가 따라 변합니다.
앞의 체감을 재사용 가능한 규칙 세 줄로 정리합니다. 각 단계에 mini 데모가 있으니 세 단계를 모두 넘겨 보세요.
사용자 시계는 전송을 누를 때 시작하고, 첫 글자를 볼 때 멈춥니다. 그 뒤 주의는 읽기로 넘어가고, 읽으면서 도착하는 내용은 대기 장부에 거의 안 잡힙니다. 엔지니어링 팀은 총 시간의 P99를 보고, 사용자는 첫 토큰만 기억합니다. 두 시계가 안 맞으면 나쁜 리뷰가 틈으로 새어 나옵니다. 실험 3에서 TTFT 레버의 길이는 바로 이 버릇이 준 것입니다.
같은 한 번의 대기: 5초 뒤 답이 도착합니다. 결말 두 가지를 바꿔 보며, 기억 속 길이가 어떻게 변하는지 보세요.
물리적으로는 그 한 번의 5초입니다. 회고적 시간은 사후에 재구성되고, 기분이 나쁠수록 재구성된 대기는 길어집니다. 그래서 지연과 환각이 나쁜 리뷰 한 문장에 자주 같이 들어갑니다: 느리고 멍청하다. 답 품질 문제가 속도 탓으로 연좌되고; 반대로 좋은 답은 느림을 일부 덮어 주기도 합니다. 4강 피크엔드 법칙이 이 줄을 엔딩 디자인에 씁니다.
AI 제품에는 타고난 병 세 가지가 있습니다: 느림(추론에 시간이 걸림), 틀림(환각을 완전히 못 없앰), 불투명(사용자가 뭘 하는지 못 봄). 엔지니어링 수단은 단기에는 이 셋을 완화할 뿐이고, 사용자 평가는 지각에서 나옵니다—지각은 설계할 수 있습니다. 앞 챕터에서 배운 스트리밍, 모델 라우팅, 시맨틱 캐시, Agent 진행 보고는 각각 심리학 스위치로서의 정체도 있습니다. 이번 챕터는 심리 효과를 위해 언제 그걸 돌릴지 가르칩니다.
느림, 틀림, 불투명—각 병 뒤에 몇 강이 줄 서 있고; 그 다음은 관계와 돈입니다. 카드를 눌러 뒤집고, 각 강이 사용자의 어떤 불만을 푸는지 보세요.
✅ 이 강의가 전하고 싶은 것
- 스톱워치 두 개를 보세요: 서버는 물리적 길이를 재고, 사용자는 전송부터 첫 토큰까지 잽니다—성과 지표에 TTFT를 한 줄 따로 두세요
- 인터페이스를 비워 두지 마세요: 피드백 없는 대기는 20~30% 부풀고, 1초를 넘기면 피드백을, 3초를 넘기면 진행을 주세요
- 예산은 먼저 첫 토큰에: 스트리밍, 먼저 개요, 구간 반환—일정은 모두 머신 업그레이드보다 앞입니다
- 오류는 그 자리에서 막으세요: 시간 기억은 정서를 따라가고, 동문서답은 「느림」까지 나쁜 리뷰에 같이 씁니다