승인 없는 자동 실행은 0이어야 한다
WooSunLab
AI 에이전트가 콘텐츠를 발행하고 사이트를 수정하고 반복 업무를 처리한다 — 편리하게 들리지만, 소상공인 사장님 입장에서 곧바로 따라오는 질문이 있습니다. “그거 마음대로 하는 거 아니에요?”
정당한 질문입니다. 그리고 우리의 답은 기능 목록이 아니라 설계 원칙입니다: 승인 없는 자동 실행은 0건이어야 한다.
신뢰는 옵션이 아니라 구조다
“자동 실행을 끌 수 있습니다” 같은 설정 옵션으로는 부족하다고 판단했습니다. 옵션은 실수로 켜질 수 있고, 기본값이 되는 순간 잊힙니다. 그래서 WooSunLab은 실행 경로 자체에 승인 게이트를 넣었습니다.
- 모든 실행 계획은 근거(Evidence)와 함께 승인 대기열에 올라갑니다. 왜 이 작업이 필요한지, 어떤 데이터가 근거인지 먼저 보여줍니다.
- 고객이 승인 버튼을 누르기 전까지, 게시·배포·변경은 일어나지 않습니다. 예외 경로는 만들지 않았습니다.
- 실행 후에도 모든 결과에 근거가 기록되고, 사이트 변경은 미리보기와 롤백이 가능합니다.
사람이 결정 지점에 있어야 한다는 생각은 우리만의 것이 아닙니다. 미국 국립표준기술연구소(NIST)의 AI 위험 관리 프레임워크도 AI 시스템의 수명주기 전반에 인간의 감독과 책임 구조를 세울 것을 핵심 기능으로 제시합니다. 우리는 그 원칙을 정책 문서가 아니라 실행 경로에 넣었을 뿐입니다 — 문서는 어길 수 있지만, 경로에 없는 길은 갈 수 없기 때문입니다. 급할 때를 위한 “일단 실행” 스위치도 두지 않았습니다. 예외는 한 번 열리면 반드시 늘어나기 때문입니다.
속도를 잃지 않는가?
승인 단계가 있으면 느려질 것 같지만, 실제로는 반대에 가깝습니다. AI가 관측·분석·초안까지 모두 준비해 놓기 때문에 사람이 하는 일은 “검토하고 결정하는 것”뿐입니다. 밤새 AI가 준비한 실행안을 아침에 승인 몇 번으로 처리하는 흐름 — 이것이 우리가 지향하는 운영입니다.
핵심은 역할의 분리입니다. AI는 실행을 준비하고, 최종 결정은 인간이 내립니다. 이 문장은 우리 제품 페이지에 있는 카피이기 이전에, 코드 리뷰에서 실제로 지켜지는 아키텍처 규칙입니다.
승인이 형식적인 도장이 되지 않게 하는 장치도 근거입니다. 근거 없이 “실행할까요?”만 묻는 승인은 결국 전부 승인하게 되고, 그것은 자동 실행과 다르지 않습니다. 근거가 함께 오기 때문에 사장님은 안심하고 승인할 것과 되물을 것을 가려낼 수 있습니다.
데이터에도 같은 원칙을
같은 이유로 데이터 원칙도 단순하게 유지합니다. 고객 데이터는 고객 소유이며 언제든 내보내기·삭제가 가능합니다. 업로드 자료는 검사 전 어떤 AI에도 전달되지 않고, 고객 기밀은 다른 고객을 위해 재사용되지 않으며, 테넌트 간 데이터는 완전히 격리됩니다.
작동 방식에서 승인 게이트가 6단계 워크플로우 어디에 위치하는지 직접 확인하실 수 있습니다. 승인 큐가 실제로 어떻게 동작하는지는 제품 페이지의 Ops 섹션에서 체험할 수 있습니다(시뮬레이션).
자동화 도구를 들이기 전, 사장님이 물어볼 네 가지
| # | 질문 | 왜 중요한가 |
|---|---|---|
| 1 | 실행 전에 내가 승인하는 단계가 있는가 | 없으면 가게 이름으로 나가는 것을 통제할 수 없습니다 |
| 2 | 왜 이걸 제안했는지 근거를 보여주는가 | 근거 없는 승인 요청은 결국 전부 승인하게 됩니다 |
| 3 | 잘못 나갔을 때 되돌릴 수 있는가 | 롤백 없는 자동화는 사고가 곧 손실입니다 |
| 4 | 내 데이터가 어디로 가는지 밝히는가 | 안 밝히는 도구는 안 쓰는 게 안전합니다 |
네 가지 중 하나라도 “아니오”면, 그 도구는 편리함보다 위험이 큽니다.
자주 묻는 질문
승인이 쌓이면 결국 다 승인하게 되지 않나요? 근거 없이 “실행할까요?”만 묻는 승인이라면 그렇게 됩니다. 그래서 우리는 모든 승인 요청에 근거를 붙입니다 — 근거가 있어야 승인할 것과 되물을 것이 가려지고, 승인이 도장이 아니라 판단이 됩니다.
급한 상황에서는 예외가 필요하지 않나요? “일단 실행” 스위치는 두지 않았습니다. 예외는 한 번 열리면 반드시 늘어나고, 그때부터는 승인 게이트가 장식이 되기 때문입니다. 급한 일일수록 근거가 준비된 승인이 오히려 빠릅니다.
참고 자료
- NIST AI Risk Management Framework (미국 국립표준기술연구소) — AI 수명주기 전반의 거버넌스·인간 감독 원칙