심층 연구자료 · 무료
AI가 개인정보 유출을 막을 수 있을까? 도울 수 있는 일과 맡길 수 없는 일
AI는 이상 징후를 빨리 눈에 띄게 하고 방대한 로그를 훑는 보조 역할에서는 쓸모가 있지만, 자산 파악과 권한 설계와 책임 결정까지 대신하지는 못합니다. 성능 수치를 단정하지 않고 가능성과 한계를 나눕니다.
- 확인일
- 2026-10-21
- 읽는 시간
- 13분
AI와 사람의 균형을 정리한 그림: 탐지 보조는 AI가, 판단과 책임은 사람이 맡는 구조
원작 그래픽
30초 핵심
AI는 탐지와 분석의 보조자로 쓰면 도움이 될 수 있으나, 유출 방지 자체를 보장하지 않습니다. 무엇을 가졌는지 아는 일과 누가 책임지는지는 여전히 사람과 절차의 몫입니다.
- 사실: 실제 유출 사건의 공식 결정들이 지적한 실패는 패치와 인증, 권한과 로그 확인 같은 기본 관리의 빈틈이었습니다.
- 분석: AI가 도울 수 있는 영역은 패턴이 반복되고 자료가 많은 탐지 보조이며, 한계는 학습 자료의 편향과 잘못된 경고와 놓침, 그리고 공격자도 같은 기술을 쓴다는 데 있습니다.
- 권고: AI를 들이더라도 자산 목록과 최소 권한, 다중인증, 사람의 최종 판단 절차를 먼저 갖추시기 바랍니다.
목차
1. 질문을 나누어 보기: 막는다는 말의 세 가지 뜻
[사실] AI가 유출을 막을 수 있는가라는 질문에는 세 가지 질문이 섞여 있습니다. 침입 시도를 더 빨리 알아차릴 수 있는가, 사람의 확인 작업을 줄여 줄 수 있는가, 그리고 사고 자체를 보장처럼 예방할 수 있는가입니다. 앞의 두 질문과 마지막 질문은 답이 다릅니다. 이 글은 이 셋을 나누어 살피며 특정 제품의 성능 수치는 제시하지 않습니다.
[분석] 공식 결정문에 나타난 실제 실패를 떠올리면 구분이 분명해집니다. 패치 미전달과 다중인증 부재, 보호 없는 보관 같은 문제는 탐지 속도의 문제가 아니라 기본 통제가 비어 있던 문제였습니다. 탐지를 돕는 기술이 있어도 비어 있는 통제 자체를 채워 주지는 않습니다. 도입을 검토할 때는 어떤 일을 맡길 것인지를 한 문장으로 적어 보시기 바랍니다.
[권고] 도입 회의에서는 막을 수 있다는 말보다 어떤 일을 줄여 주는지를 먼저 물으시기 바랍니다. 줄여 주는 일이 분명하면 효과를 확인할 방법도 분명해집니다. 반대로 맡길 일이 모호한 도입은 운영 단계에서 방치되기 쉽습니다.
[분석] 질문을 나누면 도입 논의가 달라집니다. 탐지 보조가 필요한 조직과 절차 정비가 먼저인 조직은 할 일이 다르기 때문입니다. 우리 조직의 빈 곳이 어디인지를 아는 것이 도입보다 먼저입니다.
- 막는다는 말은 탐지와 보조, 보장으로 나누어 보시기 바랍니다.
- 실제 실패는 기본 통제의 빈틈에서 시작됐습니다.
- 맡길 일을 한 문장으로 정하는 것이 출발점입니다.
2. 도울 수 있는 일 하나: 이상 징후를 눈에 띄게 하기
[사실] 평소와 다른 접속 시간, 낯선 장소에서의 관리자 로그인, 짧은 시간의 대량 조회처럼 평소 패턴에서 벗어난 행동은 사람이 일일이 보기 어려운 신호입니다. 방대한 기록 속에서 이런 신호를 추려 먼저 볼 순서를 매기는 일은 기계적인 분석이 도울 수 있는 영역으로 소개됩니다. 이 글에서는 특정 도구가 얼마나 정확하다는 수치를 제시하지 않습니다.
[분석] 탐지 보조의 가치는 완벽한 판정이 아니라 순서 정하기에 있습니다. 담당자가 하루에 볼 수 있는 경고는 한정되어 있으므로 중요한 신호가 먼저 눈에 띄면 대응이 빨라질 수 있습니다. 반대로 신호가 너무 많거나 정작 중요한 신호가 묻히면 보조는 오히려 방해가 됩니다. 그래서 탐지 보조는 경고 뒤에 사람이 판단하는 절차와 함께 설계해야 합니다.
[권고] 경고를 시험할 때는 실제와 비슷한 상황을 만들어 보는 것이 좋습니다. 평소와 다른 시간에 관리자 계정으로 접속해 보고, 그 경고가 정한 사람에게 정한 시간 안에 닿는지를 확인하시기 바랍니다. 닿지 않으면 탐지가 아니라 기록일 뿐입니다.
[분석] 경고의 순서를 매기는 일은 결국 사람의 시간을 배분하는 일입니다. 한정된 시간을 어디에 쓸지를 돕는 것이 보조의 본래 자리이며, 그 자리를 벗어난 약속은 의심해 볼 필요가 있습니다.
- 이상 징후를 추려 순서를 매기는 일이 보조의 영역입니다.
- 가치는 완벽한 판정이 아니라 대응 속도입니다.
- 경고를 받을 사람과 차단 권한을 먼저 정하시기 바랍니다.
3. 도울 수 있는 일 둘: 방대한 로그를 읽을 수 있게 하기
[사실] 큰 조직의 시스템은 사람이 전부 읽기 어려운 양의 접속 기록을 매일 만듭니다. 호텔 사건은 데이터베이스 감시 도구의 경고가 발견의 계기가 됐고, 이동통신 사건에서는 침입탐지 기록을 확인하지 않았다는 점이 지적됐습니다. 기록이 있어도 읽히지 않으면 없는 것과 비슷하다는 것이 두 사건이 함께 보여 주는 사실입니다.
[분석] 로그 분석 보조는 기록을 요약하고 관련 사건끼리 묶어 보여 주는 방식으로 사람의 부담을 줄일 수 있습니다. 다만 요약은 원본을 대신하지 않습니다. 사고가 확정된 뒤의 조사와 통지에는 원본 기록이 필요하므로 보관 기간을 지키는 일이 여전히 기본입니다. 보조 도구가 무엇을 근거로 묶었는지 사람이 되짚을 수 있어야 조사에 쓸 수 있습니다.
[권고] 로그 요약 결과를 쓸 때는 원본으로 되돌아갈 수 있는지를 확인하시기 바랍니다. 요약 화면에서 원본 기록을 바로 열 수 있어야 조사와 통지에 쓸 수 있습니다. 되돌아갈 수 없는 요약은 참고 자료로만 두시기 바랍니다.
[분석] 요약이 좋아질수록 원본을 보지 않게 되는 부작용도 생깁니다. 그래서 요약과 원본을 함께 보는 점검일을 따로 두는 것이 좋습니다. 기술이 좋아질수록 사람의 확인 지점을 정하는 일이 중요해집니다.
- 기록은 읽힐 때만 탐지가 됩니다.
- 요약은 원본을 대신하지 못합니다.
- 보관 기간과 제공 방법을 먼저 확인하시기 바랍니다.
4. 도울 수 있는 일 셋: 사칭 연락의 1차 선별 돕기
[사실] 문자와 메일, 메신저로 오는 사칭 연락을 미리 걸러내려는 시도는 오래전부터 있어 왔고, 최근에는 문장의 패턴을 분석하는 방식도 함께 소개됩니다. 그러나 어떤 선별도 모든 사칭을 걸러 준다고 단정할 수는 없습니다. 공식 기관들이 공통으로 안내하는 것은 특정 도구의 이름보다 링크를 누르지 않고 공식 채널에서 직접 확인하는 절차입니다.
[분석] 선별 보조는 직원의 받은편지함에서는 도움이 될 수 있지만, 정상으로 분류됐다는 이유만으로 링크를 누르는 습관이 생기면 선별이 오히려 방심을 만듭니다. 조직 안에서도 선별을 통과한 연락이 마지막 방어선인 사람의 확인 절차를 만나야 합니다. 의심 연락의 신고 창구를 하나로 정해 구성원이 바로 알릴 수 있게 하는 것도 함께 필요합니다.
[권고] 직원 교육에서는 선별 도구가 있다는 사실보다, 통과한 연락도 확인 절차를 거친다는 규칙을 알려 주시기 바랍니다. 규칙이 분명하면 선별 결과가 어떻든 행동은 같아집니다. 그 일관성이 조직을 지키는 방어입니다.
[분석] 사칭 연락의 선별은 받는 사람을 돕는 일이지, 보내는 사람을 믿게 만드는 일이 아닙니다. 선별을 통과했다는 표시가 신뢰의 근거가 되지 않도록 화면과 교육에서 분명히 하시기 바랍니다.
- 선별은 도움이 되지만 전부를 걸러 주지는 않습니다.
- 정상 분류가 방심을 만들지 않게 절차를 유지하시기 바랍니다.
- 의심 연락 신고 창구를 하나로 정하시기 바랍니다.
5. 한계 하나: 배우는 자료가 곧 판단의 경계
[분석] 패턴을 배워 판단하는 방식은 배운 자료의 범위 안에서 강합니다. 조직마다 쓰는 시스템과 업무 방식이 다르고 정상 업무의 모습도 다르므로, 다른 곳에서 잘 동작한 판단이 우리 조직에서도 그대로 맞는다고 볼 수 없습니다. 처음 들였을 때 평소 업무를 이상으로 오해하거나 반대로 낯선 패턴을 놓치는 일이 생길 수 있는 이유입니다.
[권고] 들이기 전에 우리 조직의 기록으로 일정 기간 시험하며 잘못된 경고와 누락을 사람이 확인하는 단계를 계약과 일정에 포함하시기 바랍니다. 결과를 점검할 사람과 조정 주기를 정해 두시기 바랍니다. 공격의 방식도 고정되어 있지 않아서, 탐지 보조는 한 번 설치하면 끝나는 장비가 아니라 사람이 계속 확인하고 조정하는 운영의 대상입니다.
[분석] 시험 기간에 확인할 것은 잘못된 경고의 수만이 아닙니다. 경고를 본 사람이 실제로 어떤 행동을 했는지까지 기록해야 운영 품질을 알 수 있습니다. 경고가 행동으로 이어지지 않았다면, 그것은 탐지의 문제가 아니라 절차의 문제일 수 있습니다.
[권고] 시험 결과는 좋은 소식만 모아 두지 마시기 바랍니다. 놓친 사례와 잘못 알린 사례를 함께 적어야 다음 조정의 기준이 됩니다. 실패 기록이 없는 시험은 아직 끝나지 않은 시험입니다.
- 판단의 강함은 배운 자료의 범위 안에 머뭅니다.
- 새로운 방식 앞에서는 운영과 조정이 필요합니다.
- 시험 기간과 점검할 사람을 미리 정하시기 바랍니다.
6. 한계 둘: 잘못된 경고와 놓침, 그리고 제시할 수 없는 수치
[사실] 어떤 탐지든 잘못 알리는 경우와 놓치는 경우가 함께 존재합니다. 잘못된 경고가 너무 잦으면 담당자는 경고를 무시하게 되고, 놓침이 있으면 탐지가 있다는 사실 자체가 안심으로 바뀝니다. 이 글은 어떤 도구나 방식에 대해서도 탐지율 같은 성능 수치를 제시하지 않습니다. 조건이 다른 환경에서 측정된 숫자를 그대로 옮기는 것은 잘못된 확신을 줄 수 있기 때문입니다.
[권고] 판매 과정에서 성능 수치를 제시받더라도 그 숫자가 어떤 자료와 기간, 어떤 기준으로 측정됐는지를 문서로 요청하시기 바랍니다. 특히 개인정보 유출처럼 발생 빈도가 낮고 피해가 큰 사건에서는 평균적인 정확도가 사고 순간의 동작을 보장하지 않습니다. 수치보다 중요한 것은 우리 환경에서의 시험 결과와 실패했을 때의 예비 절차입니다.
[권고] 계약서에는 성능 약속 대신 조정 절차를 적는 편이 실용적입니다. 잘못된 경고가 늘면 기준을 어떻게 바꾸는지, 놓침이 확인되면 무엇을 보완하는지를 정해 두면 도입 뒤의 다툼이 줄어듭니다. 중단 조건까지 적어 두면 결정이 쉬워집니다.
[분석] 성능 수치를 둘러싼 다툼은 대개 측정 조건이 적히지 않은 데서 시작됩니다. 조건이 적힌 수치는 비교할 수 있고, 조건이 없는 수치는 비교할 수 없습니다. 문서를 요구하는 태도가 조직을 지킵니다.
- 잘못된 경고와 놓침은 어떤 탐지에도 함께 있습니다.
- 이 글은 어떤 탐지율 수치도 제시하지 않습니다.
- 측정 조건을 묻고 수동 절차를 유지하시기 바랍니다.
7. 한계 셋: 공격자도 같은 기술을 쓴다
[분석] 문장을 만들고 목소리와 영상을 흉내 내는 기술은 방어자만이 아니라 공격자도 쓸 수 있습니다. 사칭 연락이 더 그럴듯해질수록 개별 연락의 진위를 기술로 가리는 경쟁은 어려워집니다. 이 글은 공격에 쓰이는 실행 방법을 다루지 않으며, 예방의 관점에서는 그 경쟁에 조직의 안전을 걸지 않는 편이 낫다는 점을 짚습니다.
[권고] 조직의 중요한 절차가 특정 탐지 도구의 판정에 기대고 있지 않은지 확인하시기 바랍니다. 돈을 보내기 전 공식 번호로 확인하기, 관리자 작업은 두 번째 확인 거치기, 대량 정보 내려받기는 승인 절차 두기처럼 연락이 진짜든 가짜든 지켜지는 절차는 기술 경쟁의 바깥에 있습니다. 송금과 권한 변경에는 사람의 확인 단계를 남겨 두시기 바랍니다.
[분석] 절차 중심의 방어는 새로운 기술이 나와도 낡지 않습니다. 확인 전화를 거는 번호 목록과 승인 절차, 대량 조회 제한은 도구가 바뀌어도 그대로 남습니다. 기술을 절차 안에 넣는 순서가, 기술을 절차 바깥에 두는 것보다 안전합니다.
[권고] 절차를 만들 때는 도구 화면이 아니라 업무 순서대로 적으시기 바랍니다. 도구가 바뀌면 화면은 바뀌지만, 업무 순서는 그대로 남기 때문입니다.
- 진위 판정 경쟁에만 안전을 걸지 마시기 바랍니다.
- 연락의 진위와 무관하게 지켜지는 절차가 방어입니다.
- 중요한 작업에는 사람의 확인 단계를 남기시기 바랍니다.
8. 사람과 절차가 중심이어야 하는 이유
[사실] 유출 사고가 났을 때 법이 요구하는 통지와 신고의 주체는 기술이 아니라 조직과 그 책임자입니다. 통지할 것인지, 무엇을 알릴 것인지, 협력업체에 무엇을 요구할 것인지는 책임이 따르는 판단이며 자동으로 대신할 수 없습니다. 공식 결정들이 반복해서 묻는 것도 장비의 유무가 아니라 누가 무엇을 확인했는가였습니다.
[권고] 사고 대응표에 통지와 신고의 판단자와 대행자를 사람 이름으로 적어 두시기 바랍니다. AI 관련 도구를 들일 때도 그 판단 절차를 바꾸는지를 먼저 확인하시기 바랍니다. 보조가 만드는 시간은 사람이 판단에 쓰는 시간으로 돌릴 때 가치가 생깁니다. 최종 결정을 사람이 확인한다는 원칙을 문서로 남기시기 바랍니다.
[분석] 판단 절차가 준비된 조직에서는 작은 탐지 개선도 대응 전체를 앞당깁니다. 반대로 판단할 사람과 권한이 없으면 빠른 경고도 빠른 대응으로 이어지지 않습니다. 기술 도입의 순서는 그래서 언제나 절차 다음이어야 합니다.
[권고] 최종 확인을 사람이 한다는 원칙은 책임을 분명히 하지만, 확인하는 사람에게 필요한 정보가 함께 가야 합니다. 판단 재료 없는 확인은 서명만 남는 절차가 될 수 있습니다.
- 통지와 신고의 책임은 조직과 사람에게 있습니다.
- 보조가 만든 시간은 판단에 쓸 때 가치가 됩니다.
- 판단자와 대행자를 이름으로 정해 두시기 바랍니다.
9. 도입 전에 던질 질문 목록
[권고] 첫째, 이 도구가 맡는 일은 알아차리기인지 결정하기인지 나누어져 있는가입니다. 둘째, 우리 조직의 자료로 시험했고 그 결과를 사람이 확인했는가입니다. 셋째, 잘못된 경고와 놓침이 생겼을 때 누가 어떻게 조정하는가입니다. 넷째, 도구가 멈추거나 사라져도 남는 수동 절차가 있는가입니다. 다섯째, 학습과 분석에 우리 고객정보가 쓰인다면 그 처리가 계약과 법에 맞게 정해져 있는가입니다.
[분석] 이 질문들은 특정 기술을 거부하기 위한 것이 아닙니다. 도구의 자리와 한계를 계약 전에 분명히 하기 위한 것입니다. 답을 문서로 받을 수 있는 공급자는 운영 단계에서도 조정 요청에 응할 가능성이 높습니다. 반대로 성능 약속만 크고 질문에 답하지 않는 제안은 실제 사건의 교훈과 거리가 멉니다. 질문과 답변을 제안 평가표에 적어 보관하시기 바랍니다.
[분석] 질문에 대한 답을 비교할 때는 말의 크기보다 문서의 유무를 보시기 바랍니다. 측정 조건과 시험 결과, 조정 이력을 문서로 제시하는 제안이 운영 단계에서도 믿을 수 있습니다. 문서가 없는 약속은 사고가 난 뒤에 확인할 방법이 없습니다.
[권고] 평가표는 도입 뒤에도 같은 항목으로 다시 채워 보시기 바랍니다. 약속과 실제가 어디서 어긋났는지를 아는 것이 다음 계약의 기준이 됩니다.
- 맡는 일과 시험, 조정과 수동 절차를 묻는 것이 좋습니다.
- 답은 문서로 받아 평가표에 남기시기 바랍니다.
- 들인 뒤에도 효과를 표본으로 확인하시기 바랍니다.
10. 결론: 보조자로 쓰되 방패로 믿지 않기
[분석] 정리하면 AI는 이상 징후를 눈에 띄게 하고, 방대한 기록을 사람이 읽을 수 있게 돕고, 사칭 연락의 1차 선별을 거드는 보조자로는 쓸모가 있을 수 있습니다. 그러나 자산 목록과 최소 권한, 다중인증, 패치 확인, 로그 보관, 사고 대응 절차라는 기본이 비어 있으면 보조자는 빈 곳을 메우지 못합니다. 여섯 사건의 결정문이 보여 준 실패는 모두 그 기본의 자리에서 일어났습니다.
[전망] 탐지와 분석을 돕는 기술은 계속 나아질 것이고, 사칭을 만드는 기술도 함께 나아갈 것입니다. 그 경쟁 속에서 조직이 오래 지킬 수 있는 것은 특정 도구가 아니라 확인 절차와 책임 구조입니다. 오늘 조직의 기본 여섯 가지가 문서로 존재하는지부터 확인하시고, 그 위에 필요한 탐지 보조를 작은 범위에서 시험해 붙이시기 바랍니다.
[권고] 기본 여섯 가지를 확인할 때는 있는지를 묻는 것에서 그치지 말고, 마지막으로 점검한 날짜까지 적어 보시기 바랍니다. 날짜가 없는 통제는 지금도 작동하는지 알 수 없습니다. 날짜를 적는 습관이 기본을 살아 있게 만듭니다.
[전망] 도구는 계속 바뀌겠지만, 무엇을 가졌는지 알고 누가 들어올 수 있는지를 정하는 일은 남습니다. 그 기본 위에 도구를 얹는 조직이 변화에도 흔들리지 않습니다.
- AI는 보조자이지 방패가 아닙니다.
- 기본 여섯 가지가 먼저이고 도구는 그다음입니다.
- 우리 환경의 확인 기록을 기준으로 판단하시기 바랍니다.
피해 시 즉시 행동
- 자산 목록과 최소 권한, 다중인증 같은 기본 통제가 먼저 갖춰졌는지 확인합니다.
- 도입 제안에는 성능 수치의 측정 조건을 문서로 요청합니다.
- 우리 자료로 시험하며 잘못된 경고와 누락을 사람이 확인하는 기간을 둡니다.
- 경고를 받을 사람과 차단 권한, 통지 판단자를 이름으로 정해 둡니다.
- 도구가 멈춰도 남는 수동 확인 절차를 별도로 유지합니다.
한계와 주의
- 이 글은 특정 제품이나 방식의 탐지율 같은 성능 수치를 제시하지 않으며 도입 효과를 보장하지 않습니다.
- 소개한 활용 가능성은 일반적 설명이며 개별 조직 환경에서의 동작은 시험으로 확인해야 합니다.
- 공격에 쓰이는 도구의 실행 방법은 다루지 않습니다.
출처와 기준일
확인일 2026-10-21
- British Airways Penalty Notice 2020 · UK ICO
checked 2026-10-21
- Marriott Penalty Notice 2020 · UK ICO
checked 2026-10-21
- PIPC SK Telecom Decision 2025-08-27 · PIPC
Official decision checked on 2026-10-21.
- Korea Internet and Security Agency · KISA
Official site checked on 2026-10-21.
- Personal Information Protection Commission · PIPC
Official site checked on 2026-10-21.