Prompt 엔지니어링

스트리밍 출력과 포맷 조합

LLM은 Token 단위로 출력합니다. 동일한 응답 내용이라도 포맷이 다르면 스트리밍 경험이 완전히 달라집니다. 시나리오를 선택하고 재생을 클릭하여 세 가지 포맷의 렌더링 차이를 확인하세요.

데모 시나리오 선택

세 가지 포맷 실시간 비교

JSON 대기 중

원시 스트림 Token (문자 단위 누적)

⏳ 완전한 JSON이 도착할 때까지 파싱 대기…
스트리밍 중 JSON은 불완전하므로
중간에 파싱하여 렌더링할 수 없습니다

✓ JSON 파싱 완료 (전체 텍스트 도착 후)

Markdown 대기 중

렌더링 영역 (문자 단위 표시)

⚠️ 문자 단위 표시는 유연하지만,
Markdown에서
구조화된 필드를 안정적으로 추출할 수 없습니다

XML 커스텀 태그 대기 중

증분 파싱 렌더링 (</tag> 캡처 즉시 렌더링)

핵심 결론

JSON 스트리밍
백엔드 친화적이나 스트리밍에 불리합니다:
전체 텍스트 도착을 기다려야 파싱 가능,
사용자는 loading 상태만 봅니다

Markdown 스트리밍
가장 부드러운 사용자 경험:
문자 단위 표시로 타이핑 느낌이 나지만,
구조화된 필드 추출이 불가능합니다

XML 스트리밍
최선의 조합: 스트리밍 + 구조화
</name> 캡처 즉시 렌더링,
Claude가 기본 권장하는 방식

핵심 결론: XML은 태그 캡처 → 즉시 필드 렌더링; JSON은 전체 텍스트 대기 → 한 번에 파싱; MD는 문자 단위 표시 → 필드 추출 불가.