신뢰 보정: 최고의 사용자는 반신반의하는 사람
앞 네 강의는 경험 점수를 쌓았어요. 이번 강의는 브레이크를 밟습니다: 신뢰라는 지표의 목표값은 처음부터 만점이 아니었어요. AI가 틀린다는 건 고칠 수 없는 물리적 현실이라, 건강한 사용자는 이렇게 생겼어요. 믿어도 되는 장면에서는 마음껏 쓰고, 확인해야 하는 장면에서는 한 눈 남겨 두기. 어느 쪽으로 기울어도 수업료를 냅니다. 이번 강의는 먼저 실제 수업료 두 건을 보고, 직접 만질 수 있는 보정 도구 세 가지를 드릴게요.
⚠ 과도한 신뢰: 환각을 진실처럼 쓰기
2023년 뉴욕 Mata v. Avianca 사건: 현직 변호사가 ChatGPT로 판례를 검색해 존재하지 않는 날조 판례 6건을 그대로 법정 문서에 붙였고, 판사가 하나씩 확인한 뒤 변호사에게 제재가 내려지며 전 세계 뉴스가 됐어요. 비슷한 사고가 이어졌습니다. AI 출력은 유창하고 자신감 있고 형식이 깔끔해서, 표면 단서마다 「이거 믿을 만하다」는 판단을 유도하는데, 그 단서와 내용의 진위는 아무 상관이 없어요.
⚠ 신뢰 부족: AI가 비싼 장식이 됨
반대쪽 사고는 훨씬 조용해요. 회사가 AI 도구를 사고, 직원이 한 번 오류에 부딪힌 뒤부터 출력마다 문장 단위로 재검토합니다. 재검토 비용이 직접 쓰는 비용을 넘으면 결국 안 쓰게 돼요. 구매비는 그대로 나가는데 효율은 하나도 안 오릅니다. 신뢰 부족은 뉴스에 안 나고, 「AI 도구 활성 사용률 8%」 같은 내부 회고에만 나옵니다.
판단 구호를 먼저 드릴게요: 「위험 × 검증 가능성」을 보고, 「AI가 얼마나 강한지」는 보지 마세요. 같은 전면 채택이라도 주간 보고에 쓰면 보정이고, 법정에 쓰면 과도예요. 시나리오 여섯 개—당신이 보정사가 됩니다.
보정 도구 첫 번째: 출처 인용—클릭해서 열 수 있는 종류요. 확인하고 싶은 사용자는 원문으로 한 번에 가서 과도한 신뢰를 누르고, 확인하기 귀찮은 사용자도 「출처가 있다」를 보고 합리적 자신감을 얻어 신뢰 부족을 메꿉니다. 일석이조의 전제는 인용이 진짜이고 클릭 가능해야 한다는 것: 장식용 가짜 인용이 한 번 들통나면, 인용이 없는 것보다 열 배는 나빠요. 아래 AI 답변에 각주 세 개가 달려 있어요. 하나씩 열어 원문과 맞춰 보세요.
도구 두 번째: 신뢰도. 첫 부에서 이미 말했죠—모델은 자기가 모르는 걸 모릅니다. 스스로 확신도를 말하게 하면 믿을 수 없어요. 하지만 제품 층에는 정직한 대리 신호가 있어요: 검색이 몇 문서를 맞췄는지, 관련도는 얼마나 높은지, 여러 출처가 일치하는지, 지식 마감일이 질문을 덮는지. 아래는 같은 투약 답변이고, 스위치 그룹 세 개가 제품 결정 세 개에 대응해요. 돌려 보며 오른쪽 답변과 사용자의 신뢰 보정 정도가 어떻게 바뀌는지 보세요.
도구 세 번째는 한 가지만 봅니다: 「AI는 틀릴 수 있으니 중요 정보는 확인하세요」라는 작은 글자를 정말 누가 읽는지. 심리학의 답은 배너 맹시(banner blindness)예요. Benway & Lane(1998)의 시선 추적 실험에 따르면, 고정 위치에 늘 뜨는 요소는 뇌가 배경 텍스처로 걸러 버립니다. 아래에서 답변 다섯 개를 연달아 눌러, 그 글자가 어떻게 사라지는지 직접 보세요.
✅ 이 강의가 전하고 싶은 것
- 신뢰 목표를 보정에 두기: 전부 믿으면 사고, 안 믿으면 돈만 낭비—사용자를 대각선으로 끌어오세요
- 인용을 클릭 가능하게: 「날 믿어」를 「직접 검증해」로 바꾸고, 장식용 가짜 인용의 역풍을 경계하세요
- 신뢰도는 대리 신호로: 검색 히트 수·관련도·출처 일치—모델이 스스로 말하는 확신보다 정직해요
- 경고는 조건부로: 고정 면책은 사흘이면 안 보이고, 저신뢰일 때 이유를 달고 뜨는 경고만 읽혀요