보안 인사이트
엔키화이트햇
2025. 7. 10.
AI 시대와 침해사고
오늘날 많은 기업들이 인공지능(AI) 도입을 통해 혁신을 꿈꾸고 있습니다. 생산성 향상, 새로운 비즈니스 모델 창출 등 AI가 가져올 긍정적인 변화에 대한 기대가 큰 것은 당연합니다. 하지만 AI 도입이 곧 새로운 보안 위험을 초래한다는 점은 간과되는 경우가 많습니다.
최근 대기업 침해 사고에서 드러났듯이, 기존 보안 체계로는 대응하기 어려운 패러다임의 변화가 이미 시작됐습니다. 특히 지난 7월 4일, 과학기술정보통신부가 발표한 S사 침해사고 최종 조사 결과는 이러한 변화를 여실히 보여줍니다.
민관합동조사단 조사에 따르면 이번 사고로 유심 식별정보 등 총 25종의 정보, 약 9.82GB 분량, 2,696만 건의 데이터가 유출됐습니다. 이는 단순한 개인정보 유출을 넘어, 국민 통신망 기반 서비스 전반의 신뢰를 뒤흔드는 중대한 사건으로 평가됩니다. 더욱 심각한 점은 이 사건이 규모뿐만 아니라 침해 방식의 정교함과 은밀성에서 기존의 점검 체계만으로는 대응하기 어렵다는 현실을 드러냈다는 것입니다.
이처럼 사이버 공격은 더욱 치밀해져 앞으로도 막대한 비용을 초래할 위험이 있을 것으로 예상됩니다. 데이터 유출 비용(CODB) 보고서에 따르면, 2023년 데이터 유출 복구에 드는 전 세계 평균 비용은 445만 달러로, 지난 3년간 15%나 증가했습니다. 이는 기업들이 새로운 보안 위협에 대한 대비를 서둘러야 할 필요성을 시사합니다.
AI 시대에 따른 공격 발전
AI 공격 사례
생성형 AI의 등장은 기업 업무 환경에 혁신을 가져왔지만, 동시에 기존의 IT 인프라보다 훨씬 더 많은 자산과 연결 지점(API, 모델, 학습 데이터 등) 을 외부에 노출시킵니다.
가장 빈번한 경우로, 임직원들이 생성형 AI를 업무에 활용하는 과정에서 영업 기밀 유출이나 고객 정보 침해와 같은 민감한 데이터 유출 사고가 발생할 수 있습니다. 민감한 프로젝트 보고서를 요약하거나 고객 데이터를 분석하는 과정에서 무심코 AI 모델에 정보를 입력함으로써 해당 정보가 외부로 유출되거나 AI 모델 학습에 사용될 위험이 있는 거죠.
심지어 기업의 AI 보안 시스템 자체도 새로운 공격 대상이 되고 있습니다. 공격자들은 AI 시스템 간의 수준 차이를 악용하여 AI 간 통신을 조작하거나, 보안 시스템의 AI를 혼란에 빠뜨려 정상적인 방어 기능을 마비시킬 수 있습니다. 이는 AI가 가진 학습 능력과 자율성이 역으로 보안 침해의 정도를 극대화하는 수단으로 악용될 수 있음을 의미합니다.
결국, AI는 기업에 강력한 도구이자 동시에 매우 위험한 양날의 검이 되고 있는 셈입니다.이처럼 AI 환경에서는 사소한 노출이 치명적인 결과를 초래할 수 있으므로, 기업은 AI 도입과 함께 확장된 공격 표면에 대한 인식을 해야합니다.
AI 환경이 보안을 어렵게 만드는 이유 3가지
AI 환경이 기존 보안 체계에 비해 훨씬 복잡하고 취약해지는 데에는 다음과 같은 구조적인 원인들이 있습니다.
① 복잡한 자산 간 연결구조
AI 모델, API, 클라우드 환경, 다양한 스토리지, 그리고 이들을 연결하는 수많은 접점 등 관리해야 할 범위가 과거보다 훨씬 광범위해졌습니다. 이러한 복잡성은 보안팀이 전체적인 시스템의 취약점을 파악하고 관리하는 것을 어렵게 만듭니다.
② 누락되는 보안 점검
많은 기업이 AI 기술의 빠른 발전에 맞춰 경쟁적으로 AI를 도입하려 합니다. 때문에 PoC(Proof of Concept) 단계에서 빠르게 기능을 구현하고 운영 환경으로 전환하는 과정에서, 충분한 보안 점검이 생략되거나 우선순위에서 밀리는 경우가 비일비재합니다. 빠르게 기능을 붙이다 보니 기본적인 인증 및 접근 권한 설정이 미흡하거나, 보안 패치가 제대로 이루어지지 않는 등 기본적인 보안 원칙이 지켜지지 않아 심각한 취약점을 내포하게 됩니다.
③ 보안 사각지대 증가
AI 시스템은 전통적인 IT 인프라보다 훨씬 더 많은 구성 요소를 포함하며, AI 도입으로 추가된 자산들은 보안 시스템의 탐지 대상에서 누락될 가능성이 높습니다. 운영 환경만을 중심으로 한 기존 점검 방식으로는 외부 노출 자산의 일부만을 포착할 뿐이며, 사각지대에 있는 개발 환경이나 스테이징 시스템, 자동화된 생성 파일 등은 방치되기 쉽습니다. 더군다나 AI 업무 특성상 부서별로 외부 API나 오픈소스를 빠르게 테스트하는 일이 많아 누가 무엇을 쓰고 있는지조차 파악이 어려운 경우도 흔합니다.
이처럼 AI 환경은 유연성과 확장성은 뛰어나지만, 자산의 파편화와 임시성으로 인해 보안 통제가 어려워지며, 그 틈을 노리는 공격자에게는 오히려 기회가 됩니다. 단순히 시스템을 지키는 것을 넘어, 현재 우리 회사가 어떤 자산을 가지고 있는지, 어디에 노출되어 있는지를 정확히 파악하고 관리하는 것이 AI 보안의 첫걸음입니다.
AI 해킹 보안을 위한 기본 전략
침해사고 사전 예방을 위해 공격자 관점 유지하기
많은 기업이 연 1~2회 정기 점검, SIEM, EDR 등 다양한 보안 솔루션 도입으로 보안을 유지하고 있다고 생각하지만, 공격자는 365일 기업의 빈틈을 노리고 있습니다. 악성코드 감염부터 권한 상승, 내부 침투, 데이터 유출까지, 이 모든 과정이 수개월에서 수년간 잠복하며 진행되는 경우도 많습니다.
결국 중요한 것은 취약점이 실제로 악용되기 전에 선제적으로 대응할 수 있느냐입니다. 이를 실무에서 가능하게 하려면 단순히 똑똑한 기술이 아니라 끈질기게 대응하는 과정이 필요합니다. 즉, 공격자의 관점에서 지속적으로 시스템을 분석하고 직접 침투하여 사각지대를 해결하면서 보안을 강화하는 전략이 필요합니다.
AI 해킹 방지를 위한 핵심 대응 포인트
치밀한 엔드포인트 및 자산 탐지
지속적인 보안 강화를 위해서는 현재 보유하고 있는 자산을 통합적으로 점검해야 합니다. 내부 자산들이 어떤 구조를 갖추고 있고, 어떤 위협에 노출될 수 있는지를 정확히 아는 것이 중요합니다.
정확한 자산 식별: AI 도입에 따라 자산이 많아질수록 보안팀은 '어디를 먼저 볼 것인가'를 결정해야 합니다. 따라서 IP/도메인 기반 자산 식별 후, 정교한 자산 신뢰도 평가를 기반으로 실제 위협만 필터링하여 대응 리소스를 줄이고, 진짜 위협에 집중해야 합니다.
취약 자산 맵 구성: 자산 간 연결을 시각적으로 매핑해 취약 자산의 위험 확장성을 예측합니다.
초기 위협 모델링: 배포 전 AI 시스템의 구조와 흐름을 분석하고, 예상 가능한 위협 시나리오를 도출해야 합니다. 이는 단순히 시스템을 이해하는 것을 넘어, 어디서 어떤 침투가 가능한지를 예측하며 대응하는 기반이 됩니다.
취약점 및 이슈 대응 가시화
기업 내에서 취약점이 발견되었을 때, 모든 보안 담당자가 이를 동시에 인지하지 못하면 대응 속도가 늦어지고, 위협이 누적될 수 있습니다. 기술적 대응도 중요하지만, 실제로는 ‘누가 언제 어떤 조치를 취했는지’에 대한 명확한 공유 체계가 없을 경우, 동일한 문제가 반복되거나 놓치는 경우가 많습니다.
AI 특화 취약점 식별: 인증 우회, 세션 탈취, 모델에 악성 데이터 주입 등 실제 발생 가능한 위협에 대해 점검하며 숨겨진 고위험 취약점까지 식별하는 과정을 거쳐야 합니다. 발견된 취약점은 위험도(치명·높음·보통·낮음)로 분류하여 우선순위를 설정하고, 이에 따른 대응 전략을 수립해야 합니다.
현황 공유 리포트: 취약 자산 랭킹, 자주 발견되는 유형 등을 리포트로 공유해 우선순위 판단과 대응해야합니다.
내부 소통 체계 구축: 보안 이슈에 대해 관련 담당자들은 실시간으로 현황을 공유하고, 히스토리를 누적하며 침해사고를 방지하기 위해 하나의 커뮤니케이션 채널을 운영해야합니다.
공격자 시점에서의 침투 테스트 수행
자동화된 취약점 스캐닝이나 내부 감사만으로는 복합적인 공격 시나리오를 놓치기 쉽습니다. 특히 사회공학 기반 공격, 내부자 위협, 다단계 우회 공격 등은 단편적인 점검 방식으로는 대응이 어렵습니다. 지금 필요한 것은 실제 해커처럼 시스템을 바라보고, 취약한 경로를 그대로 시뮬레이션해보는 것입니다.
화이트해커 기반 레드팀 테스트: 공격자가 실제로 시스템을 침투할 때 사용하는 기법을 그대로 재현하는 모의 해킹을 수행합니다. 외부 침투 → 권한 상승 → 내부 확산 → 데이터 탈취까지의 전 과정을 실전처럼 테스트해야합니다.
시나리오 중심 점검: MITRE ATT&CK 프레임워크를 기반으로, AI 시스템과 연관된 공격 기술·전술을 시각화하고, 기업 환경에 맞는 맞춤 시나리오를 설계해야합니다.
사고 대응 전략 수립: 테스트 결과를 토대로 취약점 조치뿐 아니라, 재발 방지와 대응 체계까지 개선해야 합니다.
AI로 더 발전되는 우리 IT 환경을 위해, 그에 대한 보안은 더욱 스마트해져야 합니다.
추가적인 침해 사고를 예방하기 위해선 공격자의 시선으로 시스템을 들여다보고, 지속적으로 점검하고 개선하는 체계가 필요합니다.
AI 시대에 걸맞은 선제적 보안, 이제는 시작할 때입니다.
