AI 제품 심리학

멘탈 모델: 사용자가 잘못된 설명서를 집어 들었다

인터랙션 디자인에 멘탈 모델이라는 오래된 개념이 있어요. 사용자는 「이 물건은 이렇게 돌아가야 해」라는 가정을 들고 제품을 씁니다. 가정이 틀리면 조작도 틀리고, 그러면 악평은 제품에, 청구서는 당신 앞으로 날아옵니다. AI는 인류 역사상 처음으로 「겉모습은 옛 제품, 속은 딴판」인 물건이라 멘탈 불일치가 유독 심해요. 이번 강의는 먼저 잘못된 설명서 네 권을 알아보고, 교정 교구 세 개를 직접 다뤄 봅니다.

잘못된 설명서 네 권 · 악평의 도매 원천

채팅창은 검색창처럼 생기고, 답은 백과사전처럼 보이며, UI는 참을성 있는 고객센터 같아요. 사용자는 겉모습으로 옛 설명서 네 권을 매칭하고, 각 권이 정확히 한 종류의 악평을 찍어 냅니다.

잘못된 설명서 ①
검색엔진처럼 쓰기
기대결과에 출처가 있고, 정보는 실시간
현실기억으로 답하고, 지식에 마감일이 있으며, 링크가 없어요. 제로 챕터에서 「검색은 책장을, AI는 결론을 준다」고 했지만, 사용자는 그 수업을 들은 적이 없습니다
악평「준 링크가 안 열려요」「오늘 뉴스도 못 찾네」
잘못된 설명서 ②
데이터베이스처럼 쓰기
기대물은 대로 조회하고, 없으면 없다고 말한다
현실확률 완성 기계라, 없으면 그럴듯한 답을 지어냅니다
악평「우리 회사 Q3 매출을 물었더니 숫자를 바로 말해서 깜짝 놀랐어요」
잘못된 설명서 ③
학습하는 견습생처럼 쓰기
기대한 번 말하면 기억하고, 쓸수록 나를 더 안다
현실파라미터는 동결되고, 새 세션이면 기억상실—「점점 더 안다」는 노트만 컨텍스트에 다시 넣은 것뿐
악평「표 쓰지 말라고 팔백 번 말했는데 돌아서면 까먹어요. 태도 문제예요」
잘못된 설명서 ④
계산기처럼 쓰기
기대숫자 연산은 당연히 맞아야 한다
현실언어 모델은 토큰 확률로 숫자를 내놓고, 긴 식·여러 줄 합계는 자주 틀려요. 올바른 자세는 코드를 짜게 해서 계산시키는 것
악평「숫자 37개 합도 틀리는데, 이게 지능이라고?」
흠잡기 연습 · 사용자 손의 설명서를 알아보기

네 단 대화, 사고는 이미 터졌어요. 먼저 사용자가 든 설명서가 어느 권인지 판정하고, 해설을 보세요—해설에 제품 대응이 들어 있습니다. 진단은 시작일 뿐이에요.

네 단 대화, 네 번의 오진 현장 0 / 4 판정
단서는 대화 안에 있어요. 사용자가 무엇을 원하는지 보고, AI가 실제로 무엇을 줬는지 보세요.
교정 수단 1 · 빈 상태를 교실로 바꾸기

멘탈 모델은 도움말로 고칠 수 없어요. 아무도 안 읽거든요. 사용 경로의 틈새에서 가르쳐야 하고, 첫 현장은 새 세션의 빈 첫 화면입니다. 사용자가 첫 글자를 치기 전, 설명서를 펼치기 전—이 화면에 무엇을 쓰느냐가 어느 권을 집어 들게 할지 정합니다. 첫 화면 방안 세 가지를 직접 바꿔 보며, 오른쪽 UI와 아래 첫 질문 품질이 어떻게 달라지는지 보세요.

빈 상태 디자이너 바꿔 보세요
신규 사용자 첫 질문 품질
24
당신의 AI 어시스턴트 · 새 세션
AI에게 메시지 보내기…
교정 수단 2 · 「기억됨」을 눈으로 보게 하기

견습생 설명서의 악평 문구는 「말했는데도 안 듣네」예요. 아래 두 제품은 모두 사용자 요구에 응했지만, 차이는 응하는 방식입니다. 그 악평을 끝낼 수 있다고 보는 쪽을 골라 보세요.

「기억됨」 공개 대결 하나 고르기
두 버전의 사용자가 같은 말을 했어요. 사흘 뒤 무슨 일이 생겼는지 아래로 보세요.
버전 A
앞으로 답변에 표 쓰지 마세요. WeChat 그룹에 바로 붙여 넣을 거예요.
알겠어요.
사흘 뒤 · 새 세션
이 프로젝터 세 모델 비교해 주세요.
비교 표를 정리했어요:
모델밝기가격
X1800 루멘2299
X21200 루멘3499
버전 B ✓ 선호 저장됨: 표 피하기
앞으로 답변에 표 쓰지 마세요. WeChat 그룹에 바로 붙여 넣을 거예요.
알겠어요. 앞으로는 불릿으로 설명할게요.
사흘 뒤 · 새 세션
이 프로젝터 세 모델 비교해 주세요.
선호 반영 · 표 없음 · X2가 가장 밝아 낮 거실에서도 잘 보여요; · X1이 가장 싸고, 가볍고 수납이 편해요; · X3 시스템 경험이 가장 매끄러워 드라마용으로 추천해요.
교정 수단 3 · 경계 고지를 실수보다 앞서 두기

시효성 질문은 검색엔진 설명서의 다발 구간이에요. 흠잡기 첫 대화가 그렇게 망가졌죠. 두 버전 AI가 말하는 경계 내용은 한 글자도 다르지 않고, 차이는 언제 말하느냐뿐입니다. 멘탈을 더 잘 지키는 쪽을 고르세요.

경계 선행 대결 하나 고르기
같은 질문, 같은 지식 마감일, 두 가지 시점.
버전 A · 틀린 뒤 설명
오늘 달러/위안 환율이 얼마예요?
달러/위안 환율은 약 7.24입니다.
사용자가 은행 앱을 열어 보니: 실제 7.09
아닌데요, 차이가 이렇게 크다고요?
죄송해요. 제 지식은 2025년 6월까지라 실시간 환율을 가져올 수 없고, 방금 드린 건 학습 데이터의 옛 값이었습니다.
버전 B · 답하기 전 고지
오늘 달러/위안 환율이 얼마예요?
실시간 데이터 질문이에요: 제 지식은 2025년 6월까지라, 이런 질문은 웹 검색을 켜는 게 좋아요. 웹 검색켜짐
웹 조회 결과: 오늘 달러/위안 중간가 7.09（출처: 외환거래센터, 10:15 갱신）.
계산기 설명서도 같은 처방이에요: 합계·통계·날짜 계산은 코드 인터프리터로 라우팅하고, UI에 「코드로 계산함」을 표시하세요. 오류율을 누르는 동시에 사용자도 이해해요—AI가 믿을 만한 방식은 도구를 부르는 것이고, 맨손으로 산수하는 부분은 원래 믿으면 안 됩니다.
출처와 더 읽을거리: 멘탈 모델 개념은 Craik(1943)가 제안했고, Norman이 『디자인과 인간 심리』에서 제품 디자인으로 가져왔어요. 사용자는 자기 모델로 조작하고, 모델이 틀리면 조작도 틀립니다. 기억 공개는 Nielsen 10대 사용성 휴리스틱 첫 조항 「시스템 상태 가시성」에 대응하고, 빈 상태에 예시를 두는 원리는 Cialdini 『설득의 심리학』의 사회적 증거도 겹칩니다—남들도 이렇게 물으니 나도 이렇게 묻는다. 첫 실수가 폐기를 촉발한다는 증거는 6강 알고리즘 혐오(Dietvorst et al., 2015)를 보세요.

✅ 이 강의가 전하고 싶은 것