제로 챕터 · AI란 대체 무엇인가

진지한 얼굴로 헛소리를 합니다

앞의 두 수업에서 배웠죠. AI는 이어 말하기를 하고, 그것도 「소화된 기억」에 기대서 한다는 것을요. 이제 가장 중요한 수업입니다—그럴듯하게 잇는 것과 맞게 잇는 것은 다릅니다. 아래 세 개의 AI 답변에는 각각 지어낸 문장이 하나씩 숨어 있어요. 자, 직접 잡아 보세요.

틀린 문장 찾기 · 각 답변에 지어낸 문장이 하나씩, 눌러서 찾아 보세요
왜 이럴까요? 다시 「이어 말하기」로
AI가 이 문장을 잇고 있다고 해 봅시다. 「위화의 대표작으로는 그 밖에도……」 그런데 사실 기억이 잘 안 나요. 이 순간 앞에 놓인 후보는:
매끄러움 · 선택되기 쉬움 「장편소설 『가랑비 속의 외침』이 있다.」—책 제목은 진짜예요. 하지만 기억에 이 책이 없다면, 존재하지 않지만 굉장히 그럴듯한 제목을 매끄럽게 이어 버릴 수도 있어요. 예를 들면 『가랑비 속의 연대기』처럼요.
어색함 · 선택되기 어려움 「음, 이건 기억이 잘 안 나서 함부로 말 못 하겠어요.」—AI가 읽은 수억 권의 책에서, 저자들은 이렇게 쓰는 일이 거의 없어요. 그래서 이런 잇기는 태생적으로 「자연스러운 말 같지 않아서」 선택되기가 어렵습니다.
이해되시나요? AI가 고르는 건 「어느 문장이 여기 나올 법한가」이지, 「어느 문장이 진실인가」가 아니에요. 인류의 글에서는 유창하고 자신만만한 서술이 「모르겠어요」보다 훨씬 많으니, 매끄러운 날조가 정직한 망설임을 자연스레 이겨 버립니다. 나빠서 그런 게 아니라, 이어 말하기라는 메커니즘의 부작용이에요—전문 용어로 「환각(hallucination)」이라고 합니다.
가장 중요한 한 가지: AI는 자기가 모른다는 걸 모릅니다. 사람은 거짓말할 때 스스로 알지만, AI는 아니에요—AI에게 맞는 말과 틀린 말은 같은 동작입니다. 그럴듯한 것을 골라 잇는 것이죠. 그래서 「이 문장은 제가 지어낸 거예요」라고 먼저 알려 줄 수도 없어요.
세 가지 작은 습관 · 오늘부터 쓸 수 있어요
🔍

습관 하나: 구체적인 사실은, 확인하고 쓰기

숫자, 날짜, 사람 이름, 책 제목, 법 조항, 약 용량처럼 「정답이 있는」 것을 보면, 쓰기 전에 원 출처를 한 번 검색해 보세요. AI가 아껴 주는 건 이해하는 시간이지, 확인하는 시간까지 아껴 줄 수는 없어요.

💬

습관 둘: 「확실해? 출처가 뭐야?」라고 한 번 더 묻기

이 되물음 한 번에 AI가 스스로 말을 바꾸는 경우가 많아요 (「죄송해요, 방금 말씀드린 건 정확하지 않았네요……」). 다만 주의하세요. AI가 내미는 출처 자체도 지어낸 것일 수 있어요—그럴듯한 논문 제목 하나 지어내는 건 이어 말하기 기계에게 일도 아니거든요. 출처는 직접 열어서 검증해야 합니다.

⚖️

습관 셋: 중요한 결정일수록, 정보원을 하나 더

건강, 돈, 법률에 관한 일이라면 AI의 답변을 「소식 빠른 친구의 참고 의견」 정도로 대하세요—친구의 말은 가치가 있지만, 친구 말 한마디에 약을 먹거나 계약서에 서명하거나 소송을 걸지는 않잖아요.

✅ 이 수업에서 나누고 싶은 것