엔지니어링
에이전트에게도 사원증 레벨이 있다 — 개인·그룹·공용 계층 이야기
AICLUDE Team
AI가 사내 자료를 전부 본다는 말의 위험성
사내에서 AI 에이전트를 도입하기 직전, 보안팀에서 가장 먼저 던지는 질문은 대개 이렇습니다.
그 AI, 우리 자료 중에 어디까지 봅니까?
좋은 질문입니다. 그리고 대답을 잘못하면 도입 자체가 멈춥니다. AI가 모든 자료를 통째로 본다는 설명은 단순히 편리한 구성이 아니라 접근 권한 체계의 부재를 뜻하기 때문입니다.
실제 조직을 떠올려 보세요. 인사팀 자료는 인사팀만 보고, 영업팀의 고객 자료는 해당 담당자만 보고, 공개된 FAQ는 누구나 봅니다. 사람 직원에게는 이 구분이 당연한데, AI에게 갑자기 모든 문을 열어주는 건 이상한 일입니다.
AICLUDE은 이 부분을 처음부터 염두에 두고 에이전트를 세 가지 계층으로 나눠 설계합니다.
세 가지 계층 — Private, Export, Public
계층 개념을 한 문장으로 정리하면 이렇습니다.
같은 플랫폼 위에서도, 어떤 에이전트가 어떤 지식을 보는지가 사전에 정의됩니다.
| 계층 | 접근 범위 | 비유 |
|---|---|---|
| Private (개인) | 해당 사용자 개인의 지식·대화·노트 | 자기 책상 서랍 |
| Export (그룹) | 팀 공유 문서·그룹 기억 | 팀 회의실 캐비닛 |
| Public (공용) | 정제된 공개 정보만 | 로비의 안내 팸플릿 |
예컨대 개인용 비서 에이전트는 그 사용자의 메일과 노트, 일정을 참고해서 답변합니다. 하지만 다른 직원의 자료에는 닿지 못합니다. 팀용 에이전트는 그룹 공유 자료를 보되, 다른 부서나 개인의 Private 영역까지 들어가지 못합니다. 외부 고객용 컨시어지 에이전트는 아예 공개된 정보만 다루므로, 민감한 내부 자료가 새어 나갈 소지가 구조적으로 막힙니다.
사원증 레벨처럼 생각하면 편합니다
조직 보안에서 흔한 비유가 사원증 레벨입니다. 사원증 등급에 따라 건물 안에서 갈 수 있는 방이 달라지는 구조죠. AI 에이전트도 똑같이 어느 방까지 출입하는지를 사원증으로 관리한다고 상상하면 이해가 쉽습니다.
- 개인 사원증 (Private 에이전트): 자기 책상과 자기 사물함만 열림
- 팀 사원증 (Export 에이전트): 팀 회의실까지 열림
- 방문객 사원증 (Public 에이전트): 로비와 접견실만 열림
아무리 AI가 똑똑해도, 자기 사원증에 없는 방은 열리지 않습니다. 기술의 겸손이 아니라 설계의 엄격함입니다.
왜 이 구분이 사업에 중요한가
세 가지 계층을 분리하지 않은 AI 에이전트를 조직에 들이면, 시간이 지나면서 이런 일이 벌어집니다.
- 개인 비서용 에이전트가 실수로 다른 팀의 내부 자료를 인용합니다. 그것도 고객 앞에서요.
- 외부 고객용 챗봇이 엉뚱하게 임직원 연락처를 답변에 섞어 넣습니다.
- 감사 기록을 들춰봐도 어떤 자료가 어디까지 쓰였는지 되짚기가 어렵습니다.
AI가 스스로 구분하지 못해서 일어나는 문제가 아닙니다. 처음부터 구분 자체가 없는 구조였기에 생기는 문제입니다.
계층이 사전에 정의되어 있으면 이런 문제가 거의 생기지 않습니다. 외부용 에이전트에게 내부 자료는 아예 존재하지 않는 것처럼 동작하기 때문입니다. 실수로 볼 범위 자체가 없으니, 실수로 새어 나갈 일도 없습니다.
조직이 도입할 때 살펴볼 것
AI 에이전트를 검토하시는 분께 드리는 체크리스트 세 가지입니다.
- 이 에이전트의 지식 범위가 사전에 정의되어 있는가 — 예/아니오로 답이 나와야 합니다.
- 계층이 다른 에이전트를 동시에 운영해도 서로 데이터를 보지 못하는가 — 격리가 디자인 수준에서 보장되어야 합니다.
- 감사 기록이 에이전트 계층 단위로 남는가 — 어느 에이전트가 어느 방(지식 범위)에 접근했는지 되짚을 수 있어야 합니다.
세 가지가 예, 예, 예라면 대체로 안심하셔도 좋습니다. 그중 하나라도 아직 구현 중이라면 도입은 신중해야 합니다. AI의 문제는 언제나 접근 권한이 없을 때가 아니라, 접근 권한이 잘못 주어졌을 때 생깁니다.
기술은 결국 조직의 상식을 닮는다
조직이 오랫동안 지켜온 상식이 있습니다. 모두가 모든 걸 볼 필요는 없다는 것. 이 상식 위에서 조직이 돌아갑니다. AI 에이전트 설계도 여기서 벗어날 까닭이 없습니다. 에이전트에게도 사원증을 쥐어주면, 생각보다 많은 보안 고민이 자연스럽게 사라집니다. 그리고 그게 AI가 조직의 믿음직한 구성원이 되는 첫걸음입니다.
블로그 목록으로