사내 문서를 AI로 검색하는 방법 -- 키워드 검색과의 차이와 도입 절차

"분명 그 파일, 공유 폴더 어딘가에 있었는데..."

파일명이 기억나지 않아 키워드를 바꿔가며 여러 번 검색을 다시 한 경험이 있지 않으신가요? 사내 문서 검색에 시간을 빼앗기는 것은 많은 기업이 안고 있는 공통 과제입니다. 이 글에서는 기존 키워드 검색과 AI 시맨틱 검색의 차이를 설명하고, **모노시리AI가 그것을 어떻게 실현하는지(사내 문서를 "스킬의 지도"로 정리해 두고, AI가 그것을 따라가며 찾는 구조)**까지 한 단계 더 깊이 파고듭니다. 생성형 AI로 사내 문서를 검색하는 사고방식과 함께, 도입까지의 구체적인 절차를 튜토리얼 형식으로 소개합니다.

---

이 글에서 알 수 있는 것

• 키워드 검색으로 사내 문서를 찾을 수 없는 이유
• 시맨틱 검색(의미 검색)의 원리
• 모노시리AI가 "의미로 찾기"를 실현하는 구조(스킬 트리를 따라가는 방식)를 도해로 해설
• RAG(검색 증강 생성)와의 차이, 그리고 생성형 AI로 사내 문서를 검색하는 사고방식
• 생성형 AI로 사내 문서를 검색하는 도입 3단계(튜토리얼)

---

왜 키워드 검색으로는 찾을 수 없는가

공유 폴더나 파일 서버에 탑재된 기존 검색 기능은, **입력된 문자열과 정확히 일치하는 단어를 찾는 "키워드 검색"**입니다.

이 방식에는 근본적인 한계가 있습니다. 예를 들어 연차 휴가 사용법을 알고 싶을 때, 검색창에 "연차 휴가"라고 입력해도 문서에 "유급 휴가"나 "연차"라고 적혀 있으면 검색되지 않습니다. 사람이라면 같은 의미임을 알 수 있지만, 키워드 검색은 문자 일치만 확인하기 때문입니다.

결과적으로 다음과 같은 문제가 반복됩니다.

• 검색 키워드를 여러 번 바꿔가며 시도
• 찾을 수 없어 결국 "잘 아는 사람"에게 물어보러 감
• 애초에 문서가 존재하는지조차 알 수 없음

McKinsey Global Institute의 조사에 따르면, 지식 근로자는 근무 시간의 약 20%를 정보 검색에 소비하고 있습니다. 이 시간의 상당 부분은 "찾을 수 없는 검색"에 사라지고 있습니다.

---

시맨틱 검색이란? -- "의미의 유사도"로 찾는 새로운 방법

시맨틱 검색(의미 검색)은 키워드 일치가 아닌, 문장의 "의미" 유사도로 정보를 찾는 검색 기술입니다.

포인트는, AI가 단어 그 자체가 아니라 그 배경에 있는 "의미"를 단서로 찾는다는 점입니다. AI는 방대한 문장에서 단어의 쓰임새를 학습했기 때문에, "연차 휴가"와 "유급 휴가"처럼 표기가 달라도 같은 것을 가리킨다고 판단할 수 있습니다. 그래서 입력한 단어와 문서 속 단어가 글자 그대로 일치하지 않아도, 의도에 맞는 문서를 찾아낼 수 있습니다.

이 원리 덕분에 예를 들어 다음과 같은 질문이 모두 같은 문서에 도달합니다.

질문 표현	찾고자 하는 내용
"연차 휴가 신청 방법 알려줘"	휴가 사용 절차
"유급 휴가 사용법은?"	휴가 사용 절차
"쉬는 방법을 알고 싶어"	휴가 사용 절차

키워드 검색에서는 3개의 서로 다른 쿼리지만, 시맨틱 검색에서는 모두 같은 "의미"로 이해됩니다.

키워드 검색 vs 시맨틱 검색 비교

비교 항목	키워드 검색	시맨틱 검색
검색 원리	문자열 완전 일치/부분 일치	문장 의미의 유사도
표기 차이 대응	대응 불가	자동 대응
자연어 검색	취약	강점
검색 결과 정확도	키워드에 따라 다름	의도를 이해하여 반환
전문 용어 대응	정확한 용어가 필요	평이한 표현으로도 검색 가능

---

모노시리AI는 어떻게 "의미로 찾는가" -- 스킬 트리를 따라가는 구조

"의미로 찾는다"라고 하면 어려워 보이지만, 사내 지식을 AI에게 물어보는 모노시리AI는 친숙한 구조로 이를 실현합니다. 핵심은 **스킬 트리(skill tree)**라는 개념입니다. 스킬 트리란 사내 문서를 AI가 다루기 쉽도록 정리해 둔, 폴더 구조의 목차 같은 것이라고 생각하시면 됩니다.

사전 준비: 지식을 "스킬의 지도"로 정리해 둔다

문서를 업로드하면, 모노시리AI는 먼저 모든 문서를 읽어 들여 내용의 묶음별로 계층적인 목차(스킬 트리)를 자동으로 생성합니다. "인사", "경비", "보안" 같은 큰 테마에서 그 아래의 세부 주제로 가지를 뻗어 가는, **책의 목차나 공유 폴더와 같은 "스킬의 지도"**를 마련해 두는 이미지입니다.

이 지도 만들기는 질문할 때마다가 아니라 업로드 시점에 단 한 번만 이루어집니다.

답변 시: AI가 필요한 곳만 열어 읽으러 간다

사용자가 질문하면, AI는 이 지도를 위에서부터 차례로 따라가며(내비게이션하며) 나아갑니다. 목차를 보고 관련 있어 보이는 테마를 고르고, 그 안을 더 살펴보고, 필요한 페이지만 열어서 읽습니다 -- 사람이 두꺼운 매뉴얼에서 답을 찾을 때의 움직임과 매우 비슷합니다.

즉 모노시리AI는 모든 문서를 한꺼번에 뒤지는 것이 아니라, 지도를 길잡이 삼아 "여기를 보면 된다"고 판단하면서 필요한 곳만 열어 갑니다. 관계없는 곳은 열지 않기 때문에 근거가 명확하고, 무관한 정보에 휘둘리기 어렵다는 이점이 있습니다.

기존의 "검색해서 모으는" 방식과의 차이: 많은 AI 검색은 질문할 때마다 대량의 문서에서 관련 부분을 모아 오는 방식(RAG 등)을 취합니다. 여기에는 검색용 인덱스를 구축하고, 문서가 늘어날 때마다 계속 다시 만드는 운영(이른바 "RAG의 늪")이 따라붙습니다. 모노시리AI는 지도를 따라가는 방식이므로, 이러한 전용 인덱스의 구축·재구축 수고가 들지 않습니다. 두 방식의 자세한 비교는 RAG는 이제 낡았는가? 롱 컨텍스트 시대의 지식 베이스 설계에서 다룹니다.

---

RAG란? -- 생성형 AI로 사내 문서를 검색하는 대표적인 방법

생성형 AI로 사내 문서를 검색하는 방법으로 널리 알려진 것이 **RAG(Retrieval-Augmented Generation: 검색 증강 생성)**입니다. 2020년 Meta AI Research에서 제안한 기법으로, 많은 AI 서비스에서 사용되고 있습니다.

RAG는 크게 2단계로 작동합니다.

1. 검색(Retrieval): 질문과 관련 있을 만한 문서를 사내 문서 중에서 모음
2. 생성(Generation): 모은 내용을 기반으로 생성형 AI가 자연스러운 문장으로 답변

포인트는, AI가 "자신의 지식"이 아닌 "사내 문서의 내용"을 근거로 답변한다는 것입니다. 이를 통해 일반적인 AI 채팅에서 문제가 되는 "그럴듯하지만 사실과 다른 답변(할루시네이션)"을 억제할 수 있습니다. 예를 들어 "출장 시 교통비 정산은 어떻게 하면 되나요?"라고 질문하면, AI는 사내 경비 정산 매뉴얼에서 해당 부분을 찾아내어 "사내 규정에 따르면 출장 교통비는..."과 같이 근거를 제시하며 답변합니다.

다만 RAG 방식에서는 질문할 때마다 관련 문서를 모으기 위한 구조(검색용 인덱스)를 마련하고, 문서가 늘어날 때마다 계속 정비해야 합니다. 모노시리AI는 이 과제를 피하기 위해, 앞서 설명한 스킬 트리를 따라가는 방식을 채택하고 있습니다(상세).

---

생성형 AI로 사내 문서를 검색하는 3단계(튜토리얼)

"원리는 알겠는데 도입이 어려울 것 같다"고 느끼실 수도 있습니다. 하지만 최근의 AI 지식 베이스 서비스는 엔지니어가 아니어도 쉽게 시작할 수 있도록 설계되어 있습니다. 여기서부터는 생성형 AI로 사내 문서를 검색할 수 있는 상태로 만들기까지의 절차를 3단계 튜토리얼로 차례대로 살펴보겠습니다.

1단계: 문서를 업로드한다

사내에 흩어져 있는 문서 파일을 업로드합니다. PDF, Word, Excel, PowerPoint 등 평소 사용하는 파일 형식을 그대로 사용할 수 있습니다. 기존 매뉴얼이나 규정집을 다시 만들 필요가 없습니다.

폴더를 나누어 관리하면, 부서나 업무 영역별로 접근 범위를 설정하는 것도 가능합니다. Monoshiri AI에서는 이 기능을 기능 목록 페이지에서 자세히 소개하고 있습니다.

2단계: AI가 자동으로 내용을 정리한다

업로드된 문서는 AI가 자동으로 읽고, 내용의 묶음별로 정리하여 스킬 트리(AI용 목차)를 자동으로 구축합니다. 기존 챗봇처럼 "질문과 답변 쌍"을 하나하나 설정할 필요가 없습니다. 문서의 내용을 AI가 그대로 이해하므로, 설정 작업은 거의 제로입니다.

3단계: 자연스러운 말로 질문한다

준비가 되면 관리 화면이나 LINE, 웹사이트에 임베드한 채팅 위젯에서 질문하기만 하면 됩니다. "경비 정산 방법은?", "신입 사원 연수 일정 알려줘"처럼 일상 대화와 같은 말로 질문할 수 있습니다.

---

도입 전 알아두면 좋은 포인트

AI 검색 도입을 검토할 때 자주 나오는 질문을 정리합니다.

기존 챗봇과 어떻게 다른가요?

기존 챗봇은 사전에 "시나리오"를 설계해야 하며, 예상하지 못한 질문에는 대응할 수 없습니다. AI 검색은 문서의 내용을 직접 참조하므로 시나리오 설계가 불필요하고, 폭넓은 질문에 대응할 수 있습니다. 자세한 내용은 다른 서비스와의 비교 페이지를 확인해 주세요.

보안은 괜찮은가요?

사내 문서를 클라우드에 업로드하는 것에 불안을 느끼는 분도 있을 것입니다. 신뢰할 수 있는 서비스에서는 데이터 암호화, 접근 제어, 조직 단위 데이터 분리가 기본으로 구현되어 있습니다.

비용은 얼마나 드나요?

월정액 서비스가 주류이며, 조직 규모와 문서량에 따른 요금제가 마련되어 있습니다. 정보 검색에 소요되는 인건비와 비교하면 비용 대비 효과가 높은 경우가 대부분입니다. 구체적인 요금은 요금제 페이지에서 확인할 수 있습니다.

---

마무리

이 글에서는 사내 문서를 AI로 검색하는 방법에 대해 키워드 검색과의 차이부터 도입 절차까지 설명했습니다.

• 키워드 검색의 한계: 문자열 일치만 확인하기 때문에 표기 차이나 자연어에 대응 불가
• 시맨틱 검색의 강점: 문장의 "의미"를 이해하여, 표현이 달라도 적절한 문서를 찾아냄
• 모노시리AI의 구조: 사내 문서를 계층적인 스킬 트리(AI용 목차)로 정리하고, AI가 필요한 곳만 따라가며 답변한다
• RAG와의 차이: 질문할 때마다 검색용 인덱스를 만들어 두는 방식(RAG의 늪)을 피할 수 있다
• 도입은 3단계: 문서 업로드, 스킬 트리 자동 구축, 질문 시작

사내 문서가 "있는데 찾을 수 없는" 상태는 일상적인 생산성을 조용히 갉아먹고 있습니다. 시맨틱 검색을 활용하면, 찾는 시간을 줄이고 본래 업무에 집중할 수 있는 환경을 만들 수 있습니다.