사내 매뉴얼이 없어서 반복되는 질문들 — AI 답변 창구 만드는 법

대표님이나 담당자에게 직원들이 자주 물어오는 것들이 있습니다. "연차 신청은 어떻게 하나요?", "거래명세서 양식이 어디 있죠?", "이 거래처 담당자가 누구였죠?", "기안 올리는 절차가 뭐예요?", "이런 경우엔 어느 쪽으로 분류하나요?" 같은 질문들입니다.

이런 질문들의 공통점이 있습니다. 매뉴얼이나 공유 문서 어딘가에는 분명히 답이 있는데, 물어보는 쪽도 찾아보기가 불편하고 답하는 쪽도 매번 설명하는 것이 번거롭다는 것입니다. 회사가 성장하면서 사람이 늘어날수록 이 반복은 더 자주 생깁니다. 5명 규모에서는 별 문제가 안 됐던 것이 10명, 20명이 넘어가면서 한 사람이 하루에도 몇 번씩 같은 질문을 받는 상황이 됩니다.

이 글은 이런 반복 질문을 AI가 대신 받아 처리하는 구조 — 사내 AI 답변 창구 — 를 어떻게 만들 수 있는지 정리한 것입니다. 개발 지식 없이 가능한 방법부터, 어디서부터 도움이 필요한지까지 단계별로 씁니다. 특정 도구를 권하는 글이 아닙니다. 어떤 방법이 어떤 상황에 맞는지, 그리고 맞지 않는 경우는 어떤 경우인지를 정직하게 씁니다.

매뉴얼을 만들어도 반복 질문이 줄지 않는 이유

"우리는 이미 매뉴얼 문서를 만들어놨는데요"라고 하시는 분들이 있습니다. 그런데도 반복 질문이 줄지 않는다면 세 가지 이유 중 하나일 가능성이 높습니다.

첫 번째는 찾기 어렵다는 것입니다. 팀 드라이브 어딘가에 있는 매뉴얼 파일을 열려면, 파일이 어느 폴더에 있는지 알아야 합니다. 모르는 사람은 찾다가 포기하고 결국 사람에게 물어봅니다. 매뉴얼을 만든 사람만 알고 있는 구조입니다. 폴더 이름을 알더라도 비슷한 제목의 파일이 여러 개라면 어느 게 최신인지 헷갈립니다. "업무매뉴얼_최종", "업무매뉴얼_최종2", "업무매뉴얼_최종_수정본" 같은 파일 목록이 있는 회사라면 이 상황입니다.

두 번째는 업데이트가 안 된다는 것입니다. 작년에 만든 매뉴얼이 지금도 최신 절차를 반영하고 있을 가능성은 낮습니다. 그 사이에 바뀐 내용이 있어도, 문서를 업데이트하는 사람이 없으면 낡은 정보가 그대로 남습니다. 직원이 그 매뉴얼을 보고 따라했다가 틀린 방식으로 일하는 경우도 생깁니다. 그래서 "매뉴얼 믿기보다 그냥 사람한테 물어보는 게 안전하다"는 문화가 자연스럽게 생겨납니다.

세 번째는 필요한 부분을 찾기 어렵다는 것입니다. 30페이지짜리 매뉴얼에서 지금 궁금한 내용이 어느 쪽에 있는지 찾는 것 자체가 번거롭습니다. "그냥 물어보는 게 빠르다"는 판단이 나옵니다. 질문을 받는 사람도 내심 그게 더 빠르다는 걸 알기 때문에 반복을 용인하게 됩니다. 매뉴얼이 있어도 실질적으로 활용되지 않는 악순환입니다.

이 세 가지 문제는 매뉴얼을 더 잘 만든다고 해결되지 않습니다. 찾는 방식 자체가 바뀌어야 합니다. 매뉴얼의 존재보다 접근성이 중요합니다. "있다"는 것과 "필요할 때 바로 꺼낼 수 있다"는 것은 다른 이야기입니다.

AI 답변 창구가 하는 일

사내 AI 답변 창구는 이 문제를 다른 방식으로 접근합니다. 직원이 메신저나 채팅창에서 자연어로 질문을 입력하면, AI가 사내 문서나 매뉴얼에서 관련 내용을 찾아 바로 답변하는 구조입니다.

"연차 신청 어떻게 해요?"라고 입력하면, AI가 인사 규정 문서에서 연차 신청 절차를 찾아 바로 알려줍니다. 파일 이름을 알 필요도, 폴더를 뒤질 필요도 없습니다. 질문한 사람이 문서가 어디 있는지 몰라도 됩니다. 문서가 업데이트되면 AI가 바뀐 내용을 바로 반영합니다.

이 방식의 기술적 기반은 RAG(검색 증강 생성)라고 불립니다. 비개발자 입장에서 알아야 할 부분만 설명하면 이렇습니다. 사내 문서들을 AI가 읽을 수 있는 형태로 저장해두면, 직원이 질문할 때 AI가 그 문서들 중에서 관련 내용을 찾아 답변을 만들어냅니다. AI의 일반 학습 데이터가 아니라 "우리 회사 문서"에서 답하는 구조입니다.

이 방식의 실용적 장점이 하나 있습니다. 문서가 바뀌면 바뀐 문서를 교체하기만 하면 됩니다. AI 모델을 다시 학습시킬 필요가 없습니다. 새로운 규정이 생기거나 기존 절차가 바뀌면 해당 문서만 업데이트하면 AI가 그 내용을 반영해 답변합니다. Botpress 공식 문서에서도 이 방식의 핵심 장점으로 "새로운 정보 추가 시 모델 재학습 불필요, 문서만 업데이트"를 제시하고 있습니다.

2025년 DARVIS 조사에 따르면 기업의 65%가 AI를 일상 업무에 활용하고 있으며, 이는 2023년의 33%에서 크게 증가한 수치입니다. 2026년 현재 기업용 AI 챗봇은 단순 FAQ 답변을 넘어 사내 지식 검색 기반의 업무 보조 도구로 빠르게 이동하고 있습니다. 사내 AI 답변 창구가 더 이상 대기업만의 영역이 아니게 된 시점입니다.

어떤 질문이 AI 답변에 잘 맞는가

모든 반복 질문이 AI에 맞는 것은 아닙니다. 먼저 AI가 잘 다루는 질문 유형을 구분해두면 시작점이 명확해집니다.

AI 답변 창구가 잘 맞는 질문은 "정해진 답이 문서에 있는" 것들입니다. 연차·휴가 신청 방법, 각종 서류 위치와 양식, 거래처 담당자 정보, 세금계산서 발행 절차, 사내 품의 기준, 경비 처리 방법, 제품 스펙이나 가격 기준 같은 것들입니다. 규정이 정해져 있고 그 규정이 문서로 존재한다면 AI가 잘 다룹니다.

반면 "상황에 따라 판단이 달라지는" 질문은 AI가 잘 처리하지 못합니다. "이 고객은 환불이 되나요?"처럼 구체적 상황을 보고 사람이 판단해야 하는 것, "이번 달에 예외적으로 어떻게 처리해도 될까요?"처럼 원칙의 예외를 다루는 것, 또는 회사 정치적 판단이 필요한 것들은 AI가 맞지 않습니다.

이 구분을 먼저 하면 "우리 회사에 AI 답변이 효과가 있을까?"라는 질문에 현실적인 답을 낼 수 있습니다. 반복 질문의 70% 이상이 "정해진 답이 있는 것"이라면 AI 도입 효과가 클 것입니다. 반복 질문 대부분이 "상황 판단"이라면 AI 이전에 기준 자체를 명문화하는 것이 먼저입니다.

세 가지 접근 방법

도구와 상황에 따라 접근 방식은 크게 세 가지로 나뉩니다.

첫 번째: Notion AI — 이미 Notion을 쓰는 팀

회사에서 이미 Notion을 업무 도구로 쓰고 있다면 가장 진입 장벽이 낮습니다. Notion AI는 워크스페이스에 있는 문서 내용을 바탕으로 질문에 답하는 기능이 포함되어 있습니다. 별도 시스템 없이, 기존 Notion 문서에 매뉴얼이나 규정을 정리해두면 AI에게 직접 물어보는 방식으로 활용할 수 있습니다.

"2026년 연차 규정이 어떻게 되지?"라고 질문하면 Notion 워크스페이스 내 인사 규정 문서에서 답을 찾아줍니다. 복잡한 설정 없이 기존 문서 정리만으로 시작할 수 있습니다. Notion AI는 현재 일정 횟수의 무료 답변을 제공하고 있어 먼저 테스트해보기 좋습니다. 제한이 있다면 Notion 안에 없는 정보는 답하지 못한다는 것, 그리고 Notion에 정보가 잘 정리되어 있어야 효과가 좋다는 것입니다.

두 번째: ChatGPT·Claude에 직접 파일 올리기

소규모 팀이거나 일단 당장 써보고 싶은 경우에 가장 빠른 방식입니다. ChatGPT 유료 플랜이나 Claude에서 PDF·워드·텍스트 문서를 직접 업로드하고, "이 문서를 참고해서 OO에 대해 알려줘"라고 질문합니다. 세팅이 따로 필요 없습니다. 오늘 당장 시작할 수 있습니다.

단점은 매번 파일을 올려야 한다는 것과, 대화 창이 새로 열릴 때마다 다시 올려야 한다는 것입니다. ChatGPT의 Project 기능이나 Claude의 Projects를 쓰면 파일을 프로젝트에 저장해두고 매번 다시 올리지 않아도 됩니다. 한 사람이 특정 문서를 자주 참고해야 할 때 특히 유용합니다. 팀 전체가 공유하는 답변 창구로는 적합하지 않습니다.

세 번째: 전용 사내 챗봇 구축

질문 빈도가 높거나, 팀 전체가 일상적으로 사용해야 하거나, 사내 시스템과 연동이 필요한 경우입니다. Slack·카카오워크 같은 팀 메신저와 연결해 채널 안에서 바로 질문하고 답변받는 구조를 만드는 방식입니다. Botpress나 국내 전용 솔루션을 쓰면 코딩 없이 기본 구조를 만들 수 있습니다.

초기 세팅에 시간과 비용이 들지만, 팀 전체가 동일한 창구를 쓰게 되어 운영 일관성이 높아집니다. 사내 시스템 — 인사 시스템, 회계 프로그램 — 과 연동하면 "이 직원 현재 연차 잔여 며칠?"처럼 실시간 데이터를 참고한 답변도 가능해집니다. 이 경우는 구축 경험이 있는 분과 함께 설계하는 것이 완성도가 높습니다.

방법별 비교

어느 쪽이 맞는지는 팀 규모와 현재 쓰는 도구, 그리고 질문이 얼마나 자주 반복되느냐에 따라 달라집니다. 하루에 3~5개의 반복 질문이라면 Notion AI나 ChatGPT 직접 활용으로 시작하는 것이 현실적입니다. 하루 수십 개의 반복 질문이 발생하고 팀 규모가 어느 정도 된다면 전용 챗봇 구축을 고려할 때입니다.

시작하기 전에 확인할 것들

어떤 방법으로 시작하든, 시작 전에 세 가지를 먼저 확인하면 시행착오를 줄일 수 있습니다.

어떤 문서를 AI에게 줄 것인가. AI는 받은 문서에서만 답합니다. 처음부터 모든 문서를 넣으려 하면 관리가 복잡해집니다. 가장 자주 받는 질문 유형 3~5가지를 정하고, 그 질문에 해당하는 문서부터 정리하는 것이 현실적입니다. 정리가 안 된 문서를 AI에게 주면 AI가 혼란스러운 답을 합니다. 사람이 읽어서 명확한 내용이어야 AI도 명확하게 답합니다. 이 문서 정리 작업 자체가 사내 지식 체계를 만드는 일이기도 합니다.

보안을 먼저 확인한다. 회사 내부 문서를 외부 AI 서비스에 올릴 때 보안 기준을 먼저 확인해야 합니다. ChatGPT Teams·Enterprise 플랜과 Claude for Work 이상의 플랜은 사용자 데이터를 AI 학습에 사용하지 않는 것을 약관으로 보장합니다. Notion AI도 엔터프라이즈 플랜에서 데이터 격리 옵션을 제공합니다. 고객 개인정보나 계약서 같은 민감한 내용은 처음부터 분리해 관리하는 것이 좋습니다. 업종이나 회사 규모에 따라 사내 서버에서 운영하는 방식이 필요한 경우도 있습니다.

답변의 한계를 팀에게 미리 알린다. AI는 문서에 없는 내용은 모르거나 "잘 모르겠다"고 합니다. 간혹 문서 내용을 잘못 해석해 틀린 답변을 하는 경우도 생깁니다. 팀원들에게 "AI 답변은 참고용이고, 중요한 판단은 직접 확인이 필요하다"는 것을 미리 알려두는 것이 운영상 중요합니다. 이 기대치 관리가 없으면 처음 한 번 잘못된 답변이 나왔을 때 "역시 안 되는구나"로 전체를 포기하는 일이 생깁니다.

AI 답변 창구가 잘 맞지 않는 경우

이 접근이 모든 회사, 모든 질문에 맞는 것은 아닙니다. 어떤 경우에 잘 맞지 않는지를 정직하게 정리합니다.

판단이 필요한 질문에는 맞지 않습니다. "이 경우에는 어떻게 처리해야 하나요?"처럼 상황에 따라 답이 달라지는 질문은 AI가 정확하게 처리하기 어렵습니다. 매뉴얼에 "상황에 따라 대표 판단"이라고 적힌 경우, AI는 "상황에 따라 다릅니다"라고만 답합니다. 이런 성격의 질문이 많은 회사라면 AI 창구 이전에 내부 의사결정 기준을 먼저 글로 정리해야 합니다.

문서화가 안 된 암묵적 규칙이 많은 조직에는 맞지 않습니다. "원래 이렇게 해왔는데"처럼 누가 정했는지도 모르고 어디에도 안 적혀 있는 규칙들이 있습니다. AI는 문서에 없는 것은 답할 수 없습니다. 이런 경우는 AI를 도입하기 전에 암묵적 규칙을 먼저 문서로 정리하는 작업이 선행되어야 합니다. 그 작업 자체가 회사에 이득이 됩니다. 사람이 바뀌어도 규칙이 남게 되기 때문입니다.

개인정보가 많이 포함된 업무에는 더 신중해야 합니다. 고객 개인정보, 직원 인사 정보, 계약서 같은 민감한 문서를 외부 AI 서비스로 올리는 것은 데이터 처리 방침을 꼼꼼히 확인한 뒤에 해야 합니다. 이 부분이 확실하지 않으면 사내 서버에서 운영하는 방식을 선택해야 하는데, 구축 비용과 운영 부담이 크게 올라갑니다.

팀 내 신뢰가 아직 형성되지 않은 경우입니다. AI 답변을 "그냥 한번 써볼게요"로 시작하면 처음 잘못된 답변 하나가 나왔을 때 전체에 대한 신뢰가 무너집니다. 처음부터 팀에게 "이런 것에는 잘 맞고, 이런 것에는 직접 확인이 필요하다"는 사용 범위를 알려두고 시작해야 지속적으로 쓸 수 있습니다. 작은 성공 경험이 쌓여야 팀이 자연스럽게 활용하게 됩니다.

어디까지 직접 할 수 있고, 어디서부터 도움이 필요한가

Notion AI 활용과 ChatGPT·Claude에 파일 직접 올려 활용하는 방법은 도구 계정만 있으면 혼자서 시작할 수 있습니다. Notion AI는 공식 도움말에 단계별 안내가 있고, ChatGPT 파일 업로드는 계정만 있으면 됩니다. 당장 오늘부터 해볼 수 있습니다. 이 방법들은 추가 비용 없이 현재 쓰는 구독 범위 안에서 가능한 경우가 많습니다.

Slack이나 팀 메신저와 연결된 전용 챗봇을 만들려면 초기 설정에 기술적 도움이 필요합니다. Botpress 같은 전문 도구를 쓰면 코딩 없이도 기본 구조를 만들 수 있지만, 사내 문서 연동·보안 설정·예외 처리를 제대로 갖추려면 경험이 있는 분과 함께 설계하는 편이 완성도가 높습니다. 혼자 시작했다가 보안 설정을 놓치거나, 질문 유형에 맞지 않는 구조를 만들어 다시 하는 경우가 많습니다.

사내 시스템 — 인사 시스템, 회계 프로그램, 주문 관리 시스템 — 과 연동이 필요한 경우는 전문가 도움 없이 진행하면 시행착오가 큽니다. "우리 회사 시스템에서 주문 상태를 바로 조회하는 챗봇"처럼 시스템 간 연결이 들어가는 경우가 여기에 해당합니다. 기존 스프레드시트에 AI를 연결해 업무 기록을 자동화한 방식이 궁금하시다면 업무 지시 자동화 사례에서 실제 진행 방식을 먼저 확인해보실 수 있습니다.

자주 묻는 질문

"직원들이 AI 답변을 신뢰하지 않으면 어떻게 하나요?"

처음에는 답변과 함께 출처 문서 이름을 함께 보여주는 방식이 신뢰를 높이는 데 도움이 됩니다. "이 내용은 인사 규정 2026년 버전 3항에 근거합니다"처럼 근거를 함께 제시하면 AI 답변을 맹목적으로 받아들이거나 의심하기보다 활용할 수 있게 됩니다. 답변이 틀렸을 때 수정하기도 쉬워집니다. 신뢰는 처음부터 생기는 것이 아니라, 정확한 답변이 쌓이면서 형성됩니다.

"직원 수가 5명 이하인 소규모 팀에도 효과가 있나요?"

팀이 작을수록 한 사람이 여러 역할을 맡아 반복 질문에 쏟는 시간이 상대적으로 더 크게 느껴집니다. 5명 이하라면 전용 챗봇보다 ChatGPT·Claude에 직접 파일 올려 쓰는 방식부터 시작하는 게 현실적입니다. 추가 비용 없이 바로 효과를 확인하고, 필요하면 다음 단계를 고려하는 순서가 맞습니다.

"카카오워크나 네이버웍스 같은 국내 메신저에도 연결할 수 있나요?"

카카오워크는 외부 API 연동 기능을 제공하고 있어 기술적으로 가능합니다. 네이버웍스도 챗봇 API 연동을 지원합니다. 단, 연동을 처음 설계하는 것은 기술 경험이 있어야 합니다. 사용 중인 메신저 공식 문서에서 챗봇 연동 방법을 먼저 확인하거나, 연동 경험이 있는 분과 상의하는 것이 시작점입니다.

"지금 매뉴얼이 전혀 없어도 시작할 수 있나요?"

매뉴얼이 없어도 시작할 수 있습니다. 오히려 그 경우에는 AI 도입을 준비하는 과정이 자연스럽게 문서 정리의 계기가 됩니다. 가장 자주 받는 질문 다섯 가지를 먼저 적고, 각 답변을 문서로 만드는 것부터 시작합니다. 그 다섯 개가 첫 번째 지식 베이스가 됩니다. 완벽하지 않아도 됩니다. 쓰면서 보완하는 것이 현실적인 방식입니다.

오늘 시작할 수 있는 것

정리하면 이렇습니다. 지금 가장 자주 반복되는 사내 질문 다섯 가지를 적습니다. 각 질문의 답이 적힌 문서가 있는지 확인합니다. 없다면 오늘 그 답을 적어서 문서로 만듭니다. Notion을 쓴다면 그 내용을 Notion에 올리고 Notion AI로 질문해봅니다. ChatGPT나 Claude가 있다면 파일로 저장해서 올리고 질문해봅니다. 첫 번째 답변을 받아보는 것 자체가 시작입니다.

예상과 다른 결과가 나왔다면 그것도 중요한 정보입니다. AI에게 어떤 문서가, 어떤 형태로 있어야 하는지를 알게 되는 과정입니다. 처음 결과가 완벽하지 않아도 됩니다. 문서를 보완하면서 점점 나아집니다.

팀 전체를 위한 창구가 필요하거나, 메신저 연동이 필요하거나, 사내 시스템과 연결이 필요하다면 먼저 어떤 방식이 현재 상황에 맞는지 확인하는 것이 우선입니다. 30분 무료 진단에서 반복 질문이 어떤 유형인지, 어떤 방식으로 자동화하면 효과가 있는지를 함께 확인합니다. 영업 전화는 없습니다.