강좌 마무리
요약 (1부) · 원리 + Harness
강좌 요약 1부(1/2): 모듈 1 "LLM은 어떻게 만들어지는가"로 인지적 직관을 쌓고, 모듈 2 "효과적인 Prompt 작성법"으로 AI가 원하는 출력을 하게 만듭니다.
모듈 1
모듈 1 · LLM은 어떻게 만들어지는가
인지적 직관 구축 — 속지 않기
핵심 개념 1
대화는 학습이 아니다 — 파라미터는 동결되어 있습니다
훈련이 끝나면 모델은 고정됩니다. 매번 대화할 때 모델은 기억하지도, 발전하지도 않습니다. AI는 Token 단위로 과금되며, 질문 횟수로 과금되지 않습니다.
핵심 개념 2
환각은 구조적 문제입니다 — 근본적으로 없앨 수 없습니다
모델은 다음 Token을 예측하는 것이지, 데이터베이스를 조회하지 않습니다. 지식 컷오프, 자신감 있는 날조, 사실 혼동 — 이 세 가지 환각 유형은 완화할 수 있지만 없앨 수는 없습니다.
완화 방법
RAG: 실제 문서를 Prompt에 주입하기
매번 대화할 때 관련 문서를 컨텍스트에 주입하여 자료를 보면서 답변하게 합니다 — 이것이 RAG의 본질입니다. 모델은 새로운 지식을 학습한 것이 아닙니다.
일반적인 오해: AI가 매번 대화할 때마다 학습하고 발전하며, 사용할수록 똑똑해진다고 생각하는 것
모듈 2
모듈 2 · 효과적인 Prompt 작성법
AI가 원하는 출력을 하게 만들기 — 추측에 맡기지 않기
System Prompt
말하는 대로 바뀝니다
System Prompt은 역할, 어조, 제약을 정의합니다. 같은 모델이라도 Prompt가 다르면 출력이 완전히 달라집니다. 이것이 AI 제품 차별화의 핵심 레버입니다.
Few-Shot 예시
예시를 보여주는 것이 설명보다 효과적입니다
어떻게 해야 하는지 설명하는 것보다 2-3개의 입력→출력 예시를 직접 제공하는 것이 낫습니다. 모델은 이를 통해 기대하는 형식과 스타일을 추론합니다.
CoT 체인오브소트
먼저 생각하고 답하게 하면 정확도가 높아집니다
복잡한 태스크에 "단계별로 분석해주세요"를 추가하면 정확도가 크게 향상됩니다. 모델이 추론 과정을 작성하도록 강제한 다음 답변을 제공하게 합니다.
일반적인 오해: Prompt는 짧을수록 좋다. 실제로는 설명이 명확할수록 출력이 더 안정적입니다
강좌 요약 · 1부 · 2부: Agent + 비용 + 안전 및 규정 준수