권한과 보안
AI에게 얼마나 많은 자유를 줄 것인가
AI에게 모든 권한을 주면? 모든 것을 망칠 수 있습니다. 모든 단계를 승인하면? 사용자가 미쳐버릴 겁니다. 권한 설계는 스펙트럼입니다: 완전 자율에서 단계별 승인까지, 중간에 세 가지 선택이 더 있습니다.
다섯 가지 권한 모드 스펙트럼
← AI 자율성 높음
인간 통제력 높음 →
어떻게 선택할까요?
권한 모드 선택은 세 가지 차원에 달려 있습니다:
- 작업의 가역성 — 메시지 전송은 비가역적, 파일 읽기는 가역적
- 오류 비용 — 데이터 삭제는 비용 높음, 정보 검색은 비용 낮음
- 사용자 신뢰도 — 신규 사용자에게는 신중하게, 기존 사용자에게는 신뢰 부여
같은 제품 안에서도 기능마다 다른 권한 모드를 사용할 수 있습니다.
최고의 권한 모드는 없으며, 현재 시나리오에 가장 적합한 것만 있습니다. AI에게 얼마나 많은 자유를 줄지는 본질적으로 제품 질문에 답하는 것입니다: 일이 잘못되면 누가 책임집니까?