권한 및 보안
팝업이 너무 많으면 사용자가 짜증, 안 뜨면 보안 위험
Agent가 매 단계마다 확인 팝업을 띄우면 「허용」을 다섯 번 누른 뒤 삭제하고 싶어집니다. 하지만 아무것도 묻지 않고 실행하다가 파일을 잘못 삭제하면 누가 책임을 지나요? 답은 위험 등급 분류입니다.
체험 비교: 「데모 시작」을 클릭해 차이를 느껴보세요
등급 없음: 매 단계 팝업 UX 나쁨
등급 분류: 고위험만 팝업 UX 좋음
0
등급 없음 · 사용자 확인 클릭 횟수
0
등급 분류 · 사용자 확인 클릭 횟수
위험 등급 분류의 사고방식
저위험 → 자동 실행
파일 읽기·정보 검색·캘린더 조회·텍스트 서식 지정… 이런 작업은 상태를 바꾸지 않고 오류가 발생해도 비용이 없습니다. 팝업이 필요 없습니다.
고위험 → 반드시 확인
파일 삭제·메시지 전송·결제 실행·권한 수정… 이런 작업은 되돌릴 수 없거나 영향이 크므로 팝업 확인이 반드시 필요합니다.
위험 등급 분류의 핵심 질문: 어떤 작업이 고위험인지 저위험인지 누가 판단하나요?
- PM이 사전 정의 — 설계 단계에서 각 도구의 위험 등급을 정해둠 (가장 일반적)
- AI가 스스로 판단 — 모델이 컨텍스트에 따라 「이 작업에 사람 확인이 필요한가」를 판단 (더 유연하지만 항상 정확하지 않음)
- 사용자 직접 설정 — 사용자가 어떤 작업에 확인이 필요한지 직접 설정 (가장 유연하지만 설정 비용 증가)
AI가 「이 작업에 사람 확인이 필요한가」를 스스로 판단하도록 하는 것이 위험 등급 분류의 핵심입니다. 좋은 권한 설계는 팝업 유무의 이분법이 아닙니다. 언제, 무엇을 팝업할지에 대한 세밀한 제어입니다.