엔지니어링
지식은 검색이 아니라 연결이다 — 왜 우리 에이전트는 한 번 더 생각할까
AICLUDE Team
답이 얕다는 느낌의 정체
사내 자료를 AI에 학습시켜 본 분이라면 한 번쯤 이런 경험이 있을 겁니다. 분명히 관련 문서가 잔뜩 있는데, AI의 답은 그 중 한두 문단만 간신히 긁어온 느낌. "방금 그 내용을 다룬 다른 문서도 있었잖아?" 싶은 답답함이요.
이건 학습이 부족해서가 아닙니다. AI가 지식을 단편적으로만 꺼냈기 때문입니다. 한 번의 키워드 검색으로 가장 유사한 문단 하나를 찾고, 그걸 그대로 요약해서 내놓는 식이죠. 도서관에서 책 한 권을 뽑아 들고 그 한 권 안에서만 답을 찾는 사서를 떠올리면 비슷합니다.
진짜 전문 사서는 다르게 일합니다. 한 권을 펴서 각주를 발견하면 그 각주가 가리키는 다른 책을 찾아보고, 거기서 인용한 또 다른 책까지 이어서 본 다음에 종합해서 답해줍니다. 같은 질문이라도 훨씬 두툼한 답이 나오죠.
AICLUDE이 Graph N-hop Agentic RAG라는 긴 이름으로 부르는 기술이 하는 일이 바로 이 전문 사서의 일하는 방식을 AI에게 심는 것입니다.
Graph, N-hop, Agentic — 이름을 풀어 읽으면
용어가 어렵게 들리니 세 조각으로 쪼개 보겠습니다.
- Graph (그래프) — 회사의 지식을 단순한 책더미가 아니라, 서로 연결된 지점들의 네트워크로 표현합니다. "이 문서는 저 계약과 이어져 있고, 그 계약은 이 고객과 연결되어 있다"는 관계가 미리 그려져 있는 거죠.
- N-hop (엔홉) — 한 번 건너뛰기로 끝나지 않고, 필요하면 두 번 세 번 건너뛰어서 답을 모읍니다. "이 질문 → 관련 문서 → 그 문서가 인용한 자료 → 최종 출처"까지 이어서 보는 방식입니다.
- Agentic (에이전틱) — AI가 스스로 판단합니다. 이 질문엔 한 번만 찾아도 충분한지, 좀 더 깊이 들어가야 하는지를 상황에 맞춰 결정합니다.
세 조각을 합치면 결국 이 말이 됩니다. 연결된 지식 그래프를 따라 필요한 만큼 더 깊이 들어가서, 여러 출처를 종합해 답하는 AI.
그래서 답이 뭐가 달라질까
이 방식의 효과는 숫자보다 실제 예로 보는 게 빠릅니다. 어느 제조사 고객이 "작년 4분기 A라인 불량률이 왜 그렇게 튀었지?"라고 묻는 상황을 떠올려 봅시다.
일반적인 1-hop 검색은 "4분기 불량률 보고서"를 찾아 요약합니다. "불량률이 3.2%였고 원인은 공정 B의 온도 변동입니다." 틀린 말은 아닙니다. 다만 여기서 그칩니다.
N-hop 방식으로 같은 질문을 받으면, 에이전트는 보고서를 찾은 뒤 그 보고서가 참조한 공정 로그로 건너뛰고, 거기서 해당 시기의 자재 입고 이력으로 또 한 번 건너뛰고, 유사한 과거 이벤트까지 모아서 한 번에 답합니다. "4분기 불량률이 튄 주된 요인은 공정 B 온도 변동이며, 그 변동은 11월 3째 주 자재 입고 A사 로트의 수분 함량과 높은 상관을 보였고, 2년 전에도 같은 공급처 로트에서 동일 패턴이 관찰된 적이 있습니다."
전자는 답이고 후자는 인사이트입니다. 같은 AI에게 같은 자료를 학습시켜도, 지식을 어떻게 연결해서 꺼내느냐에 따라 이 차이가 납니다.
한 번 쌓은 지식이 계속 똑똑해진다
여기서 한 가지 더 중요한 특징이 있습니다. 이 지식 그래프는 한 번 만들어두면 끝이 아니라는 점입니다. 조직에서 새로 생산되는 문서와 대화가 지식 그래프에 꾸준히 연결되면서, 시간이 지날수록 답변이 두꺼워집니다.
- 어제 상담한 고객 이슈가 오늘 다른 부서의 질문에 근거가 됩니다.
- 지난 달의 장애 대응 기록이 이번 달의 예방 제안에 자연스럽게 녹아듭니다.
- 쌓이는 만큼 에이전트의 사서 역량이 자라납니다.
"한 번 쌓은 지식이, 모든 팀과 채널에서 에이전트로 일합니다"라는 문장은 결국 이 구조 위에서 성립합니다.
이런 질문을 자주 받으신다면
조직 안에서 아래와 같은 목소리가 자주 들린다면, Graph N-hop Agentic RAG를 한 번 들여다볼 시점입니다.
- "AI 답이 표면적이라 결국 사람이 다시 찾아봐야 해."
- "사내 자료가 부서별로 흩어져 있어서 통합 검색이 안 돼."
- "같은 질문을 다른 팀이 반복해서 AI에게 묻는데 매번 다른 답이 나와."
결국 지식이 부족해서가 아닙니다. 연결이 부족한 거죠. 연결을 만들어주면 답은 자연히 두꺼워집니다.
블로그 목록으로