Token 비용 엔지니어링 · 9 / 13

문법 계층: Prompt는 기계를 위해 쓰여요

실전 네 계층의 첫 층이에요. 많은 제품이 초기에 디버깅 편의를 위해, 혹은 AI가 대신 쓴 프롬프트라서 ###·** 굵게·JSON으로 데이터를 보여 주는 습관이 있어요. 사람에게 친절한 조판이 대규모 언어 모델의 과금 논리에서는 전부 「어휘 세금」이에요.

어휘 세금YAMLCSVMinified JSON

이 세금은 얼마나 무거울까: 13%가 형식

저자가 Token 시각화 분석 도구(yusuan.ai/analyzer)를 만들어 축약판 Lyra 프롬프트를 넣었더니: 굵게 쓰는 ** 기호만으로 Token의 8.5%를 먹었어요. 목록·제목 기호·JSON 들여쓰기와 줄바꿈까지 합치면 이 프롬프트의 13%가 형식 내용이에요. 일반 제품 Prompt에서는 장식성 Token이 보통 10%–20%예요.

Token 시각화 분석(yusuan.ai/analyzer): 한 프롬프트에서 **가 33번 나오고, 이 기호만 4.16%예요. (그림: 저자 공유 원본)

천만 급 호출량에서는 월 예산의 10%–20%가 「PM이 조금 더 편하게 보이게」에 쓰여요. (그림: 저자 공유 원본)

Prompt는 기계를 위한 지시이고, 최종본은 예뻐 보일 필요가 없어요. 기계가 보는 건 논리이지 조판이 아니에요. **는 정말 강조가 필요할 때만 쓰세요.

인터랙티브 데모 · 같은 데이터의 청구서 세 장

사용자 기록 50건을 모델에 넣었을 때 세 포맷을 눌러 비교하세요. 필드명을 50번 반복하는 JSON 배열이 RAG 장면의 중상 구역이에요.

경험 세 가지

1. 복잡한 객체는 YAML(또는 TOON), JSON 말고. JSON의 신호 대 잡음비는 너무 낮아요: 키마다 큰따옴표, 중첩마다 중괄호 닫기—그리고 그 기호들이 종종 독립 과금돼요. YAML은 들여쓰기로 닫기 기호를 대체하고, 콜론으로 「따옴표+콜론」을 대체해 Token을 보통 10%–15%, 많으면 40%까지 아껴요. TOON은 Token 절약용 새 포맷이지만 신생이라 LLM 지원이 불안정할 수 있어요—그래서 더 안전한 조합은 YAML + CSV예요.

2. 평평한 리스트는 CSV, JSON 배열 말고. 헤더 있는 표가 반복 키 이름을 전부 없애요. 긴 리스트 장면에서 30%–60%를 깎고, 같은 컨텍스트 윈도우에 더 많은 데이터를 넣을 수 있어요.

키 이름은 한 번만 쓰고 반복을 없애면, 긴 리스트에서 Token이 바로 30%–60% 절약돼요. (그림: 저자 공유 원본)

3. 백엔드 출력은 Minified JSON 강제. 출력단 Token이 입력보다 비싸고, API 반환 속도에도 바로 영향이 있어요. 사용자향 스트리밍은 느슨해도 되지만, 순수 백엔드 작업(태그 추출·감정 분석·데이터 정제)은 조판이 필요 없어요—System Prompt에 명시하세요:

출력은 반드시 Minified JSON이어야 합니다. 줄바꿈·들여쓰기·코드 블록 마커 없음. 예시: {"id":1,"status":"ok"}

기계가 데이터를 읽을 때는 예쁨이 아니라 합법성이면 충분해요. 배치 작업에 이 제약을 넣으면 생성 시간이 눈에 띄게 줄어요.

핵심 요점

✓

먼저 yusuan.ai/analyzer로 Prompt를 재세요: 장식성 Token이 보통 10%–20%—가장 쉽게 건질 수 있는 돈이에요.

✓

데이터 구조는 장면별로: 복잡한 객체 YAML, 평평한 리스트 CSV, 백엔드 출력 Minified JSON.

✓

출력이 입력보다 비싸니, 출력 형식을 단속하면 절약과 속도가 함께 와요(12절에 수법 세 가지 더).

출처: 저자 팀 내부 공유 《AI Token 비용 엔지니어링 전략 공유》 실전편 「01｜문법 계층」에서 정리했어요. 도구: yusuan.ai/analyzer; YAML 규격은 yaml.org.