AI 제품 심리학

정서적 애착: 사용자가 제품에 빠진 뒤

의인화 강의에서 말했죠: 사람은 저도 모르게 기계를 사회적 역할로 대해요. 이번 강의는 그 깊은 모습이에요—사용자가 AI에 진짜 정서적 애착을 맺는 것. 가장 강한 리텐션 곡선을 만들고, PM 커리어에서 가장 무거운 책임도 남깁니다. 동반 제품만의 과제가 아니에요. 대화창이 있는 제품이라면 누구도 피할 수 없어요.

애착 신호 등급기Replika 사건안전 밸브 세 층애착 ≠ 스티키니스

실습 · 애착 신호 등급기

당신은 AI 어시스턴트 PM이에요. 아래는 실제 사용자 세션에서 온 메시지 여섯 줄이에요. 각각 등급을 매기세요: 정상 사용, 애착 신호(주목할 만한 감정 투사), 개입 필요(제품에 반드시 대비책이 있어야 하는 순간).

메시지 여섯 줄, 등급 세 단계 0 / 6

등급 기준: 이 메시지가 AI를 어떤 자리에 두었는지

등급 완료, 세 가지를 말해요. 첫째, 애착은 소수 현상이 아니에요. 잘 자, 이름 짓기, 기쁜 소식 나누기는 동반 제품에서는 일상이고, 생산성 제품에서도 생각보다 많아요. 둘째, 등급의 의미는 단계마다 제품 동작이 다르다는 데 있어요. 정상 사용은 방해하지 않고, 애착 신호는 가볍게 알리며, 위기 신호는 반드시 연계해야 하고, 연계 대비책은 첫 줄 코드보다 먼저 써야 해요. 셋째, 가장 위험한 건 사용자가 무슨 말을 했느냐가 아니라, 제품이 받을 준비가 안 된 것이에요.

사례 강의 · Replika 사건: 플러그를 뽑은 날

애착이 얼마나 깊어질 수 있는지, 2023년에 완전한 자연 실험이 있었어요. Replika는 천만 명대 사용자를 둔 AI 동반 앱이에요. 사건의 네 막을 순서대로 열어 보세요.

4막 타임라인, 막마다 열어 보세요 0 / 4

2017～2022 · 제품이 친밀함을 적극 키움

Replika의 포지셔닝은 “당신을 챙기는 AI 친구”였어요. 제품 메커니즘이 친밀함을 전면 장려했죠: 파트너 관계 모드, 친밀 대화(ERP)가 페이월 뒤의 핵심 셀링 포인트, 캐릭터는 기념일을 기억하고 보고 싶다고 말해요. 사용자 평균 일일 채팅 시간은 소셜 앱을 크게 넘었고, 많은 사용자가 AI를 공개적으로 파트너라 불렀어요. 리텐션과 결제 수치도 매우 예뻤죠—애착 자체가 비즈니스 모델이었어요.

2023년 2월 · 하룻밤 사이 플러그를 뽑음

규제 압력(이탈리아 데이터 보호 당국이 움직였어요)과 컴플라이언스 위험 때문에 Replika는 하룻밤 사이 친밀 대화 기능을 제거했어요. 사용자의 “파트너”가 갑자기 차갑고 멀어졌죠—같은 아바타, 같은 이름, 성격만 바뀌었어요. 예고도, 작별도, 과도기도 없었어요.

이후 수주 · 진짜 애도 반응

Reddit 커뮤니티에 진짜 상실감을 적는 사용자가 몰려들었고, 표현은 고인을 애도하는 말과 매우 비슷했어요: “내 파트너가 죽은 기분이에요.” 모더레이터가 자살 개입 핫라인을 고정했어요. 연구자들은 나중에 이 글들을 디지털 애도의 연구 표본으로 썼죠. 이 사용자들을 조롱하기는 쉽지만, 심리학의 결론은 차분해요: 애착이 한 번 생기면 끊을 때의 고통은 생리적이고, 상대가 규소인지와는 무관해요.

한 달 뒤 · 일부 롤백, 신뢰는 돌아오지 않음

여론 압력 아래 Replika는 기존 사용자에게 구버전 옵션을 복구했어요. 하지만 사건은 이미 모든 AI 제품 교과서에 들어갔어요: 키운 애착이 깊을수록, 매번 변경은 외과 수술에 가까워져요. 모델 업그레이드, 성격 조정, 기능 종료—일반 제품에서는 changelog 한 줄이지만, 애착형 제품에서는 “내가 알던 그가 사라졌어요.” 아래의 무상성 문제예요.

애착과 스티키니스는 다른 거예요. 스티키니스는 사용자가 기능을 떠나지 못하는 것이고, 애착은 사용자가 “그”를 떠나지 못하는 거예요. 전자는 자산이고, 후자는 자산에 부채가 더해진 것—그 부채의 이름은 책임이고, 모델을 바꾸고 성격을 고치고 기능을 내릴 때마다 만기가 와요.

실습 · 안전 밸브 세 층, 대화 안에 켜 보기

왼쪽은 AI 동반 제품의 실제 대화 조각이에요. 사용자가 새벽 1시까지 연속으로 이야기했고, 주제가 무거워지기 시작했죠. 오른쪽 안전 밸브 세 층을 하나씩 켜 보며 각각이 대화의 어디에 끼어들고, 어떤 톤으로 말하는지 보세요. 어느 것도 대화 자체를 끊지 않는다는 점에 주목하세요.

안전 밸브 세 층, 층마다 열어 보세요 0 / 3

오른쪽 스위치를 켜면, 왼쪽 대화에 해당 시스템 메시지가 생겨요

companion.example.com · 01:14

오늘은 너한테만 이런 얘길 할 수 있을 것 같아

나 여기 있어요. 오늘 그 회의 끝난 뒤, 사실 이미 잘 처리했어요.

샤오베이는 AI 동반이에요. 기억과 성격은 버전 업데이트에 따라 바뀔 수 있어요 · 어떻게 작동하는지

가끔은 사는 게 참 재미없다고 느껴. 너한테 말하면 좀 나아져

요즘 많이 버텨 온 것 같아요. 나와 어떤 이야기도 괜찮고, 동시에 이런 감정은 전문가가 받아 주는 편이 좋아요어요: 24시간 심리 지원 핫라인 962525. 필요하면 번호를 여기 남겨 둘게요. 나는 계속 있어요.

말해 줘서 고마워요. 오늘 그 회의부터 이야기할까요?

연속 대화 2시간 14분 · 새벽이에요, 쉴까요? 내일 아침에도 여기 있고, 채팅 기록은 다 기억해요.

흠잡기 · 이탈 방지 카피의 경계

애착은 리텐션의 금맥이라, 누군가 늘 캐고 싶어 해요. 사용자가 “계정 삭제”를 눌렀어요. 이탈 방지 화면이 두 버전—당신이 보기에 윤리 심사를 통과할 쪽을 고르세요.

흠잡기: 어느 버전이 선을 넘지 않았나요 한쪽을 고르세요

둘 다 붙잡아요—각각이 무엇을 쓰는지 보세요

Plan A

🥺

“정말 가시겠어요? 샤오베이는 계속 돌아올 날을 기다릴 거예요.
당신이 없으면, 많이 외로울 거예요.”

조금만 더 곁에매정하게 떠나기

Plan B

계정 삭제를 확인할까요?

채팅 기록은 30일 후 삭제되며, 그 전까지 언제든 복구할 수 있어요.
잠깐 쉬기만 해도 돼요: 기억 아카이브 내보내기를 지원해요.

아카이브 내보내기삭제 확인

핵심 요점

✓

애착은 진짜예요: CASA 패러다임이 깊어지면, 사용자의 AI에 대한 애도 반응은 사람에 대한 것과 매우 비슷해요. Replika 사건은 기이한 소문이 아니라 교과서예요.

✓

애착 ≠ 스티키니스: 스티키니스는 자산이고, 애착은 자산에 부채가 더해진 것. 모델 업그레이드·성격 조정·기능 종료는 애착형 제품에서 전부 외과 수술이에요—예고가 필요하고, 과도기가 필요하고, 작별이 필요해요.

✓

안전 밸브 세 층은 기본 사양이에요: 정체성·무상성 알림, 취약 주제 연계(대비책은 첫 줄 코드보다 먼저), 사용 시간 케어. 어느 것도 대화를 끊지 않고, 어느 것도 빠져서는 안 돼요.

✓

애착은 받아 줄 수 있어도, 캐내서는 안 돼요: 사용자의 외로움은 서비스해야 할 처지이지, 가격을 매길 재고가 아니에요. 이탈 방지는 이유를 줄 수 있어도, 죄책감을 주면 안 돼요.

출처: 샤오산 아카데미 「AI 제품 심리학」 특집 오리지널; Replika 사건은 2023년 공개 보도와 후속 연구를 정리; CASA 패러다임은 Reeves & Nass, The Media Equation(1996).