울타리를 나중에 치면 늦습니다
건축 얘기부터 해보겠습니다. 건물을 짓는 중에 "보안은 나중에, 일단 빨리 올리자"고 결정하면 어떻게 될까요. 기둥 사이에 CCTV를 끼워 넣고, 외벽에 급하게 센서를 붙이고, 창문은 한 번씩 열어 두게 됩니다. 완공 뒤에 보안 진단을 돌리면 "이 벽은 처음부터 두께가 다르게 설계됐어야 해요" 같은 답이 돌아옵니다. 고치려면 벽을 뜯어야 합니다. 비싸고, 느리고, 결국엔 적당히 타협하게 됩니다.
AI 서비스의 보안도 지금 이 풍경과 비슷한 곳이 많습니다. 챗봇을 만들어 놓고 운영 중에 "프롬프트 인젝션은 어떻게 막지?" "PII(개인정보)는 어떻게 지우지?"를 고민하기 시작하는 거죠. 이미 지어진 건물에 울타리를 치는 일과 같습니다.
Secure by Design이라는 말은 이 접근을 뒤집습니다. 보안을 나중에 붙이는 게 아니라, 설계 도면에 처음부터 그려두는 것입니다.
약속 하나 — 처음부터 "위협이 온다고 가정"한다
AI 서비스에서 흔한 사고 유형은 꽤 정해져 있습니다.
- 사용자가 교묘한 문장으로 시스템 프롬프트를 조작하려 한다 (프롬프트 인젝션)
- AI가 학습한 자료에 누군가가 악의적인 내용을 심어둔다 (지식 오염)
- AI가 쓰는 외부 도구가 공급망 어디선가 변조된다 (공급망 공격)
- 민감 정보가 출력에 섞여 나간다 (정보 노출)
이런 위협이 일어난 뒤 막으려 하면 이미 늦습니다. Secure by Design은 이 위협들을 파이프라인 중간중간에 기본적으로 체크하는 관문으로 심어둡니다. 별도 옵션을 켜지 않아도, 에이전트가 한 번 응답하는 동안 여러 층의 방어가 조용히 돌아갑니다.
약속 둘 — "눈에 안 보이는 벽"이 있어야 한다
진짜 잘 설계된 보안은 사용자가 존재 자체를 모르게 돌아갑니다. 방문객이 건물에 들어올 때, 바닥의 하중 감지를 느끼지 못해도 엘리베이터는 알맞게 작동하고 비상시 바로 경보가 울립니다. 눈에 띄지 않는 벽이 제 할 일을 하고 있다는 뜻입니다.
AI 에이전트에도 똑같은 "눈에 안 보이는 벽"이 있어야 합니다. 개인정보가 답변에 섞일 뻔하면 조용히 가리고, 위험한 명령을 유도하려는 입력은 제거하고, 외부 도구에 보내지기 전에 한 번 더 확인합니다. 사용자 경험은 그대로 매끄러운데, 배경에는 여러 층의 체크가 조용히 돌아가는 상태. 이게 Secure by Design이 지향하는 그림입니다.
약속 셋 — "전체를 보증할 수 있어야" 한다
보안의 어려움 중 하나는 "어디까지 안전한지 명확하게 말하기가 어렵다"는 점입니다. 하지만 도입하는 기업 입장에서는 이 질문에 구체적인 답이 필요합니다.
- 데이터는 어떻게 저장됩니까?
- 암호화된 상태에서도 검색이 가능합니까?
- 배포 이미지는 어떻게 안전을 유지합니까?
- 감사는 누가 무엇을 보았는지 되짚을 수 있습니까?
이 질문들에 대해 Secure by Design은 "옵션"이 아니라 "기본 구성"의 답을 준비해 둡니다. 기업용 수준의 암호화가 들어간 저장, 암호화 상태에서도 정확 일치 검색 가능, 공급망 서명이 된 이미지 배포, 감사 기록 기본 적재 — 이런 것들이 도입 첫날부터 켜져 있어야 "보증할 수 있는" 서비스가 됩니다.
"보안이 늦게 붙는 서비스"의 5가지 신호
개인적으로 솔루션을 검토하실 때 한 번쯤 짚어보면 좋은 힌트 다섯 가지입니다.
- "프롬프트 인젝션 방어는 별도 설정에서 켜야 합니다" — 기본이 아닌 건 쉽게 꺼집니다.
- "암호화는 요청하시면 적용해 드립니다" — 옵션은 언젠가 잊힙니다.
- "감사 로그는 별도 플랜입니다" — 사고는 비싼 플랜에만 오지 않습니다.
- "외부 공급망 도구 검증은 로드맵에 있습니다" — 로드맵에 있다는 건 아직 없다는 뜻입니다.
- "보안 설계 문서는 NDA를 먼저 맺고…" — 투명성이 떨어지면 외부 검증도 어렵습니다.
이 5가지가 전부 "사실 이미 되어 있습니다"로 대답되는 솔루션이라면, 도입 고민의 절반은 이미 끝난 셈입니다.
결국은 "당연한 걸 당연히 한다"는 약속
Secure by Design을 한 줄로 풀면 이렇습니다.
"사용자가 굳이 신경 쓰지 않아도 기본이 안전한 상태."
이건 특별한 기능이 아니라, 시대가 요구하는 기본기입니다. 처음부터 그렇게 짓는 것이, 나중에 고치는 것보다 훨씬 싸고 훨씬 안전합니다. AICLUDE이 오랫동안 걸어온 방향도 여기 있습니다. 화려한 기능보다, 먼저 당연한 것을 당연하게 해두는 일에 시간을 써왔습니다. 그래야 그 위에서 에이전트가 안심하고 일할 수 있습니다.
블로그 목록으로