직원들은 이미 쓰고 있다
업무를 빨리 처리하고 싶은 직원이 ChatGPT에 계약서를 붙여 넣고 요약을 받습니다. 누군가는 고객 민원 내용을 통째로 복사해 답변 초안을 받습니다. 또 다른 직원은 거래처와 주고받은 이메일 내용을 AI에 넣고 정리를 부탁합니다. 악의는 없습니다. 그냥 편해서 씁니다. 금지하지도 않았고, 누가 가르쳐 주지도 않았으니까요.
이것이 지금 많은 중소기업에서 조용히 벌어지고 있는 일입니다. 사장님은 모르고, 직원은 문제가 있는지도 모릅니다. 이를 보안 업계에서는 "섀도 AI"라고 부릅니다. 회사가 허락하거나 관리하지 않는 상태에서 직원이 개인 계정으로 업무에 AI를 쓰는 상황을 뜻합니다. 섀도 AI를 통한 데이터 유출은 탐지도 어렵습니다. 직원이 개인 계정으로 AI 서비스에 로그인해 회사 정보를 입력해도, 회사의 IT 시스템에는 흔적이 남지 않습니다. 사고가 났는지조차 모르고 지나가는 경우가 대부분입니다.
무료 진단 상담에서 가장 자주 받는 보안 관련 질문 중 하나가 이것입니다. "AI에 회사 자료 넣어도 되나요?" 짧게 답하기 어려운 질문입니다. 어떤 도구를, 어떤 계정으로, 어떤 종류의 데이터와 함께 쓰느냐에 따라 위험 수준이 완전히 달라지기 때문입니다. 이 글은 그 기준을 사장님이 직접 판단할 수 있도록 풀어 쓴 것입니다. 기술 지식이 없어도 읽을 수 있게 정리했고, 결론만 원하신다면 각 섹션의 첫 문단만 읽으셔도 됩니다.
대기업도 당했다 — 삼성전자 기밀 유출 사건
2023년 삼성전자에서 세 건의 ChatGPT 기밀 유출 사고가 짧은 기간 안에 연속으로 발생했습니다. 반도체 수율·불량 프로그램의 소스코드, 설비 계측 데이터가 담긴 내용을 직원들이 ChatGPT에 직접 입력한 것이 원인이었습니다. 업무 효율을 높이려는 목적이었지만, 입력된 데이터는 AI 서비스 서버에 저장되어 모델 학습에 활용될 수 있는 상태가 됐습니다. 삼성전자는 이 사건 이후 사내망과 업무 기기 전체에서 생성형 AI 사용을 전면 금지했고, 뒤이어 자체 사내 AI 시스템 구축에 나섰습니다.
중소기업에 반도체 설계 도면은 없습니다. 그러나 납품 단가표, 거래처 이름과 담당자 연락처, 직원 급여 내역, 고객 개인정보 — 이것들이 외부 서버에 올라가는 것도 같은 성격의 문제입니다. 규모는 다르지만 위험의 본질은 같습니다. 2026년 현재 한국 기업의 74%가 AI를 조직에서 가장 큰 데이터 보안 위험 요인으로 지목하고 있습니다. 섀도 AI를 통한 데이터 유출이 단순한 가능성이 아니라 실제로 일어나는 현상이라는 인식이 기업 전반에 확산되고 있습니다. 지난 1년간 조사에 참여한 기업의 86%가 AI 관련 보안 사고를 경험했다고 응답했고, 침해를 겪은 기업 다섯 곳 중 하나가 섀도 AI를 사고 경로로 지목했습니다. 직원이 악의를 가지고 유출하는 것보다, 그냥 편하게 쓰다가 생기는 사고가 오히려 더 자주 발생합니다.
AI 서비스는 내 데이터를 어떻게 다루나
AI 서비스에 무언가를 입력할 때, 그 내용은 크게 세 가지 경로로 처리될 수 있습니다.
첫 번째는 저장 후 학습 활용입니다. 입력한 대화가 서버에 저장되고, 추후 AI 모델을 개선하는 학습 데이터로 쓰입니다. ChatGPT나 Claude의 무료 개인 계정이 기본적으로 이 방식에 해당하며, 사용자가 설정에서 직접 학습 비활성화를 선택하지 않으면 이렇게 처리됩니다. 무료 계정을 쓰는 직원이 회사 계약서를 넣었다면, 그 내용이 향후 모델 개선에 반영될 수 있는 구조입니다.
두 번째는 저장되지만 학습에는 쓰이지 않는 방식입니다. 대화 기록을 일정 기간 보관하지만, 모델 학습에는 사용하지 않겠다는 정책을 가진 요금제입니다. ChatGPT Business(2025년 8월 "Team"에서 개명된 기업용 요금제)나 Claude 기업용 계정이 여기 해당합니다. 보안 사고에 대비해 로그를 남기는 것이 목적이며, 모델 개선에는 쓰지 않습니다. OpenAI는 ChatGPT Business 계약에서 비즈니스 데이터를 모델 훈련 목적으로 사용하지 않는다는 조항을 명시하고 있습니다.
세 번째는 API 방식 직접 연결입니다. 서비스 웹 인터페이스를 쓰지 않고 API로 직접 요청을 보내면, 대화가 웹 대화창에 저장되지 않습니다. 개발자가 구축한 자동화 시스템에서 AI를 쓸 때 이 방식이 사용됩니다. 데이터가 AI 회사 서버를 거치기는 하지만, 웹 인터페이스 저장·학습과는 별도로 처리되며 API 이용 약관상 학습에 사용되지 않습니다. 옥수의 자동화 구축에서 문서 처리나 데이터 추출을 AI로 연결할 때 대부분 이 방식을 씁니다.
이 세 가지를 구분하는 것이 AI 보안의 출발점입니다. 요금제를 확인하지 않고 쓰는 것은 어떤 경로로 데이터가 흐르는지 모르는 채로 쓰는 것과 같습니다.
요금제와 계정 유형에 따른 데이터 처리 차이
| 계정 유형 | 학습 활용 여부 | 기업 사용 권장 |
|---|---|---|
| ChatGPT 무료 | 기본적으로 학습 활용 가능 | 회사 기밀 입력 비권장 |
| ChatGPT Plus(개인) | 설정에 따라 다름 | 회사 기밀 입력 주의 |
| ChatGPT Business | 학습 미사용 보장 | 업무용 가능 |
| Claude 무료·Pro(개인) | 일부 활용 가능 | 회사 기밀 입력 주의 |
| Claude API·기업 계정 | 학습 미사용 | 기업 구축 적합 |
ChatGPT Business는 직원 계정을 중앙에서 관리할 수 있는 기능도 포함합니다. 직원이 퇴사했을 때 해당 계정의 접근 권한을 즉시 차단할 수 있고, 관리자 화면에서 사용 현황을 확인할 수 있습니다. 개인 계정으로 쓸 때와 비교해 관리 측면에서 훨씬 안전합니다. Claude 기업용 계정이나 API를 쓸 때도 같은 원칙이 적용됩니다.
중요한 것은, 기업용 요금제를 써도 입력 내용 자체가 "안전해지는" 것은 아닙니다. 데이터가 학습에 쓰이지 않는다는 것이지, 입력한 회사 기밀이 어딘가에 저장되지 않는다는 보장은 아닙니다. 민감한 데이터는 어떤 요금제를 쓰든 신중해야 한다는 원칙은 변하지 않습니다. 기업용 계정은 "더 안전한 환경"을 제공하는 것이지, "아무거나 넣어도 된다"는 의미가 아닙니다.
절대로 외부 AI에 넣으면 안 되는 정보
요금제나 도구에 관계없이, 아래 유형은 외부 AI 서비스에 입력하지 않는 것을 원칙으로 삼아야 합니다. 직원들에게도 이 목록을 명확히 알려주어야 합니다.
계약서·법무 서류 전문: 특히 금액 조건, 위약금 조항, 분쟁 관련 내용, 미공개 합의 내용이 포함된 문서. 이 정보는 협상 상황에서 상대방에게 유리하게 활용될 수 있고, 비밀유지 계약(NDA)을 체결한 경우에는 위반이 될 수도 있습니다. 계약서 요약이 필요하다면, 핵심 조항만 익명으로 추출해 다른 방식으로 정리하는 것이 더 안전합니다.
고객 개인정보: 이름, 전화번호, 주소, 이메일, 주민등록번호. 개인정보보호법상 고객 동의를 받지 않은 제3자 서비스에 이 정보를 입력하는 것은 법적 문제가 될 수 있습니다. 비식별화, 즉 이름을 A 고객, 번호를 XXX로 바꾸는 습관이 필요합니다. AI에게는 익명화된 정보만 있어도 요약·분류·초안 생성 같은 작업을 하는 데 충분합니다.
직원 급여·인사 자료: 연봉 정보, 성과 평가, 징계 기록, 채용 중인 포지션과 제시 연봉. 직원 개인정보이기도 하고, 회사 내부 인사 기준이기도 합니다. 급여 수준이나 채용 조건이 외부에 노출되면 인재 확보와 직원 관리에 영향을 줄 수 있습니다.
미공개 영업 정보: 납품 단가표, 원가 구조, 주요 거래처 리스트, 수익 구조, 마진율. 경쟁사가 같은 AI 도구를 쓴다면 간접적인 방식으로 이 정보가 노출될 가능성을 완전히 배제하기 어렵습니다. AI가 학습 과정에서 다른 사용자의 쿼리에 간접적으로 영향을 줄 수 있다는 가능성도 배제하기 어렵습니다.
내부 재무·투자 계획: 아직 공개되지 않은 분기 실적, 투자 유치 상황, 대출 협의 내용, 자금 부족 상황. 파트너나 투자자와의 신뢰 관계에 영향을 줄 수 있고, 주식회사라면 내부자 정보 이용 문제로도 이어질 수 있습니다.
반대로, 아래는 일반적으로 외부 AI 도구에서도 큰 위험 없이 쓸 수 있습니다. 회사명·고객명 없이 처리한 메일 응대 초안 작성, 공개된 정보를 기반으로 하는 마케팅 문구 교정, 사내 공지·안내문 글쓰기, 공개 데이터를 활용한 시장 조사 요약, 사내 FAQ 초안 작성처럼 내부 기밀이 포함되지 않는 업무들입니다. 이 구분을 직원들에게 명확히 알려주는 것 자체가, 중소기업에서 할 수 있는 가장 현실적인 AI 보안 조치입니다.
사용 규칙 없이는 기업용 계정도 의미가 없다
많은 회사가 "기업용 요금제로 바꾸면 되겠네"라고 결론 내립니다. 그러나 삼성전자처럼 사내 정책이 있어도 유출이 생겼습니다. 도구 설정만으로는 부족합니다. 현실적으로 작동하는 수칙을 정리합니다.
개인 계정과 업무 계정을 구분합니다. 직원들이 개인 Gmail로 만든 ChatGPT 계정을 업무에 쓰고 있다면, 회사 이메일로 만든 기업용 계정으로 전환하도록 합니다. 이것만으로도 관리자가 접근 내역을 확인하고, 퇴사 시 계정을 즉시 정리할 수 있게 됩니다. 개인 계정으로 쓰는 직원이 퇴사한 뒤에도 그 계정에 회사 자료가 남아 있는 상황을 방지합니다.
입력 금지 목록을 한 장으로 만듭니다. 계약서·고객 개인정보·급여 자료는 넣지 않는다는 원칙을 A4 한 장짜리로 만들어 공유합니다. 복잡한 규정집이나 법률 문서가 아니어도 됩니다. "이 세 가지는 AI에 넣지 않는다"는 간단한 기준이 먼저입니다. 규정집에 넣기 전에라도, 먼저 공유하는 것이 시작입니다.
AI 쓰는 업무와 안 쓰는 업무를 나눕니다. 마케팅 문구, 공지문, 메일 초안 작성은 AI 사용 가능. 계약서 검토, 고객 정보 처리, 급여 계산은 외부 AI 서비스 사용 금지. 이 구분이 명확하게 있으면 직원들이 매번 판단하지 않아도 됩니다. 업무 유형별로 한 줄씩 정리한 목록 하나가 있으면 됩니다.
새 직원 온보딩에 AI 사용 규칙을 포함합니다. 보안 안내의 한 꼭지로 AI 도구 사용 원칙을 넣으면, 신규 입사자가 처음부터 올바른 습관을 갖게 됩니다. 입사 첫날 받는 서류에 "AI 사용 원칙"이 한 페이지 들어있는 것만으로도 회사가 이 문제를 진지하게 생각한다는 신호가 됩니다. 한 번 만든 설명 자료는 계속 재사용할 수 있습니다.
회사 차원의 AI 구독을 지원합니다. 직원들이 개인 돈으로 AI 도구 요금을 내고 개인 계정으로 업무에 쓰고 있다면, 이것은 비용 문제가 아니라 보안 문제입니다. 회사에서 기업용 계정을 지원하고 관리하는 구조로 전환하는 것을 검토해 보세요. 직원이 개인 계정을 쓰지 않아도 되는 환경을 만드는 것이 가장 효과적인 보안입니다. 기업용 요금제 비용보다 보안 사고로 인한 손실이 훨씬 크다는 것이 이미 사례들을 통해 입증되고 있습니다.
더 민감한 데이터를 AI로 처리해야 한다면
법무, 금융, 의료, 제조 공정처럼 더 민감한 데이터를 AI로 처리해야 하는 업종이라면, 외부 서비스 직접 사용 대신 별도 경로를 검토해야 합니다.
API 기반 직접 구축이 현실적인 첫 번째 선택입니다. ChatGPT나 Claude의 API를 사용해 자체 시스템을 만들면, 데이터가 웹 인터페이스를 거치지 않고 처리됩니다. API 사용 시 입력 데이터는 모델 학습에 사용되지 않으며, 회사가 직접 어떤 데이터를 어떻게 처리할지 설계할 수 있습니다. 보험사 PDF를 AI로 처리하더라도 웹 대화창을 통하지 않고 내부 시스템 안에서만 흐르게 만드는 구조가 가능합니다. 보험사 PDF 자동 입력 사례에서 이 방식이 어떻게 적용됐는지 확인할 수 있습니다.
로컬 모델 실행은 인터넷을 완전히 차단한 환경에서 AI를 쓰는 방법입니다. 회사 컴퓨터에 AI 모델을 설치하고 오프라인으로 실행합니다. 보안 수준이 가장 높지만, 모델 성능이 상용 서비스보다 낮고 초기 구축 비용과 유지 관리가 필요합니다. 일반 중소기업보다는 의료·법무·방산처럼 특수 보안 요건이 있는 업종에 적합한 옵션입니다.
온프레미스 엔터프라이즈 솔루션도 있습니다. 대형 클라우드 사업자가 제공하는 기업용 AI 서비스를 고객사 전용 환경에 배포하는 방식으로, 완전한 격리와 컴플라이언스를 모두 원하는 경우 선택할 수 있습니다. 비용이 크기 때문에 수십 명 이상의 조직이나 높은 보안 요건이 있는 업종에서 주로 검토합니다.
중소기업 현실에서는 대부분 API 기반 구축이 비용과 보안을 함께 잡을 수 있는 균형점입니다. 처리하는 데이터 민감도, 처리 빈도, 예산을 함께 보면서 단계적으로 접근하는 것이 맞습니다.
개인정보보호위원회가 제시하는 기준
개인정보보호위원회는 생성형 AI 개발·활용에 관한 안내서를 공개하면서, 외부 AI 서비스에 고객 개인정보를 입력하는 행위를 "처리 위탁"으로 볼 수 있다는 해석을 제시했습니다. 즉, 고객 이름·연락처가 포함된 내용을 외부 AI에 넣는다면, 그 AI 서비스가 고객 개인정보의 수탁자가 되고, 이에 대한 동의나 위탁 계약이 필요할 수 있다는 것입니다. 아직 법 해석이 확정된 단계는 아니지만, 방향은 분명합니다. 고객 개인정보를 AI에 입력할 때는 사전에 비식별화를 거치거나, 관련 정책과 계약 구조를 갖추는 것이 안전합니다.
개인정보보호위원회는 기업이 AI를 서비스형으로 활용하는 경우(SaaS·API)와 자체 개발하는 경우로 나눠 각 유형에 따른 법적 기준과 안전조치 의무를 제시하고 있습니다. 특히 비정형 데이터인 상담 내역, 사내 문서 등을 AI 학습이나 처리에 활용할 때의 비식별화 기준이 강화되고 있습니다. 중소기업도 이 흐름에서 예외가 아닙니다. 당장 완벽한 체계를 갖추기 어렵더라도, "고객 이름과 연락처는 AI에 넣지 않는다"는 단 하나의 원칙만 지켜도 가장 빈번한 위반 유형을 예방할 수 있습니다.
비식별화는 어렵지 않습니다. 고객 이름을 "A 고객", 전화번호를 "010-XXXX-XXXX"로 바꿔 입력하는 것입니다. 번거롭지만 습관이 되면 크게 어렵지 않고, 법적 위험을 상당 부분 줄여줍니다.
현실적으로 어떻게 시작할까
모든 회사에 기업용 AI 계정과 전사 보안 정책을 갖추라고 권하기 어렵습니다. 직원이 2~3명인 회사에서는 실행 비용 대비 효과가 맞지 않을 수 있습니다. 현실적인 수준에서 판단 기준을 정리하면 이렇습니다.
직원이 많지 않고, 쓰는 용도가 공개 정보 기반 글쓰기 도움이라면 — 무료 계정이어도 실제 위험은 낮습니다. 단, "고객 이름·연락처는 넣지 않는다"는 약속이 있어야 합니다.
직원이 10명 이상이고, AI를 여러 업무에 쓰고 있다면 — 기업용 계정 통합과 입력 금지 목록 공유가 우선입니다. 여기서부터 시작하면 됩니다.
고객 정보나 계약서를 포함한 문서를 AI로 처리해야 한다면 — API 기반 구축을 검토해야 합니다. 어떤 방식이 맞는지는 처리 빈도와 데이터 민감도에 따라 다릅니다. 이 경우 30분 무료 진단에서 현재 사용 방식을 같이 살펴보고 방향을 잡을 수 있습니다. 영업 전화 없이 진행됩니다.
업종 특성상 계약·법무·의료 정보를 다룬다면 — AI 활용 전에 법무 검토 또는 로컬 모델 방향을 먼저 검토하는 것이 순서입니다.
보안 기준을 잡은 뒤 활용하기
보안 기준을 이해했다면, 실제로 어떤 업무에 AI를 어떻게 쓸 수 있는지도 함께 알아두면 도움이 됩니다. 사장님이 직접 해보는 ChatGPT 업무 활용 가이드에서는 중소기업에서 AI가 실제로 도움이 되는 업무와 그렇지 않은 업무의 기준을 구체적으로 정리했습니다. AI 도구를 쓰지 말라는 이야기가 아닙니다. 어디에 어떻게 쓰는지를 점검한 뒤에, 안전하게 활용 범위를 넓혀가는 것이 장기적으로 더 좋은 선택입니다.
안전하게 쓰는 방법을 알고 나서, 도움이 되는 일부터 하나씩 시도해보는 순서가 가장 좋습니다. 처음에는 고객 정보가 전혀 들어가지 않는 업무 하나를 골라 AI로 처리해보고, 그 경험을 바탕으로 범위를 넓혀가는 것을 권합니다.