인공 지능은 의료, 금융, 물류 등 다양한 산업을 혁신적으로 변화시키는 핵심 동력이 되고 있습니다. 그러나 AI의 혁신적인 잠재력과 내재된 위험이 가장 뚜렷하게 드러나는 분야는 단연 사이버 보안입니다. 끊임없이 진화하는 사이버 공격에 맞서 싸우는 보이지 않는 전쟁터에서 AI는 방패이자 검으로 등장했습니다.
그러나 많은 조직이 서둘러 AI를 사이버 보안 전략의 중심에 두면서 한 가지 중요한 질문이 제기되고 있습니다. 우리는 AI의 힘을 효과적으로 활용할 준비가 되어 있을까요? 아니면 취약점을 막아내는 동시에 새로운 취약점을 만들어 내고 있는 것일까요?
방어자의 새로운 무기
AI는 속도와 정확성 측면에서 혁신적인 기능을 갖추고 있습니다. 인간과 유사한 텍스트를 생성하는 능력으로 주목받았던 생성형 AI(GenAI) 모델은 이제 방대한 데이터를 신속하게 분석하여 의심스러운 행동을 탐지하는 핵심 기술이 되었습니다.1 패턴 인식에 강한 예측형 AI는 환경 전반을 스캔하여 잠재적 취약점을 사전에 발견하는 한편, 인과형 AI는 위협의 신호가 될 수 있는 요소들 간의 상호 작용을 분석합니다.
Palo Alto Networks는 다양한 형태의 GenAI, 머신 러닝, 딥 러닝을 결합하여 Precision AI라는 정교한 독자 시스템을 개발했습니다. Precision AI는 실시간으로 공격을 예측하고 차단하며, 위협으로부터 학습하여 지속적으로 진화합니다. 단순 방어를 넘어 위협에 대한 선제적 대응을 지원하는 솔루션으로써 위협의 속도와 다양성이 끊임없이 증가하는 보안 환경에서 필수적인 역할을 수행합니다.
CISO와 사이버 보안팀에게 이러한 도구는 생명줄과도 같습니다. 공격 표면이 계속해서 증가하며 리소스는 제한적인 상황에서 AI는 보안 범위를 확장하고, 반복 작업을 자동화하며, 보다 중요한 위협에 집중할 수 있도록 지원합니다. 특히 과중한 업무에 시달리는 보안팀의 역량을 몇 배로 강화하는 도구로써 알림 피로 문제를 완화하고 더 광범위한 사이버 보안 플랫폼에 원활하게 통합할 수 있습니다.
그러나 방어 측에서 AI의 발전을 활용하는 동안 공격자들 역시 가만히 있지 않습니다. 그들 또한 AI를 적극적으로 활용하고 있으며, 그 비용은 놀라울 정도로 저렴합니다.
공격자가 활용하는 AI
다크웹에서는 AI의 보편화가 사이버 범죄자들에게 새로운 무기를 제공했습니다. 공격자들은 이제 AI를 이용하여 방어 체계를 탐색하고, 취약점을 악용하고, 몇 주 동안 탐지를 피할 수 있는 정교한 공격을 감행하고 있습니다. 과거에는 선도적인 혁신 기업이나 자금력이 풍부한 국가만이 AI를 활용할 수 있었지만, 이제는 초보 범죄자들까지 GenAI를 이용하여 설득력 있는 피싱 캠페인을 제작하고 기업 임원을 흉내내는 딥페이크를 생성하는 수준에 이르렀습니다.
그 숫자는 충격적인 수준입니다. Gartner에 따르면, AI 기반 악성 공격은 2024년 세 개 분기 연속으로 가장 큰 리스크로 꼽혔습니다.2 또한 사이버 보안 전문가의 57%는 공격자들이 이미 AI를 적극적으로 활용하여 이점을 얻고 있다고 평가했습니다.3
이처럼 냉혹한 현실은 불편한 진실을 드러냅니다. 방어를 강화하는 기술은 공격의 속도를 높입니다. 이제 경쟁의 초점은 누가 더 강력한 방화벽을 구축할 수 있는지에 있지 않습니다. 점점 더 치열해지는 디지털 체스 게임에서 누가 더 빠르게 상대를 예측하고 앞지를 수 있는지가 경쟁의 관건이 되었습니다.
조직의 전략적 시사점
조직에 대한 시사점은 분명합니다. AI는 더 이상 고립된 도구나 독립적 보안 솔루션이 아니라 사이버 보안 전략의 핵심 요소로 자리 잡아야 합니다. 보안 전략 역시 기존의 대응 중심 방식에서 선제적 방식으로 전환되어야 하며, 이를 위해서는 방법론의 변화뿐 아니라 사고방식 자체의 변화가 필요합니다.
이러한 목표를 달성하고자 하는 조직은 몇 가지 과제를 해결해야 합니다.
- 무분별한 지출보다는 표적 투자
해결책은 단순히 AI 도구에 예산을 쏟아붓는 것이 아니라, 제로 트러스트 모델을 도입하고, 인프라를 강화하며, 클라우드 제공 보안 서비스로 보안을 강화하는 등 공격자의 전술에 직접 대응할 수 있는 투자에 집중해야 합니다. - 격리가 아닌 통합
AI의 진정한 잠재력은 방어 체계를 간소화하고 통합하는 광범위한 사이버 보안 플랫폼에 결합할 때 극대화됩니다. 사이버 보안의 복잡성이 점점 더 커져가는 상황에서 리스크를 줄이고 효율성을 개선하며 보다 강력한 보안 성과를 달성하기 위해서는 플랫폼화가 필수적입니다. - 실시간 복원력을 위한 AI 운영화
AI는 이론적 가능성을 넘어 일상적 사이버 보안 워크플로를 운영하는 체계의 구성 요소로 자리 잡아야 합니다. 위협 탐지와 대응, 개선을 자동화하는 것, AI 기반 인사이트를 비즈니스 연속성 계획과 조율하는 것도 이에 포함됩니다.
승리의 방식
결국, 미래의 사이버 보안에서 승리하는 것은 단순히 AI를 도입하는 조직이 아니라 이를 핵심 전략으로 내재화하는 조직이 될 것입니다. 그리고 이를 실행해야 할 시급성은 그 어느 때보다 커졌습니다. 공격이 혁신적인 속도로 진화하는 세상에서 안일한 태도로는 살아남을 수 없습니다.
AI의 가장 큰 장점은 바로 그 이중성에 있습니다. AI는 전례 없는 정확도로 취약점을 찾아내는 동시에 위협을 선제적으로 차단하는 능력을 갖추고 있습니다. 방어자들이 AI를 전략에 통합하기 위해 주력하는 동안, 공격자들 또한 AI를 효과적으로 활용하고 있습니다. 이 디지털 무기 경쟁에서 성공하는 조직은 AI를 단순한 도구가 아닌, 보안 플랫폼과 비즈니스 관행, 리더십 우선순위를 아우르는 통합적 요소로 인식하는 조직이 될 것입니다.
이를 위해서는 단순한 기술 투자가 아닌 과감하고 도전적인 비전이 필요합니다. 기업의 이사회와 경영진은 AI를 사이버 보안 전략의 근본적인 요소로 삼고 조직의 구조와 운영에 원활하게 통합될 수 있도록 지원해야 합니다. 목표는 단순히 리스크를 줄이는 것이 아닙니다. 궁극적으로 변화하는 위협 환경에 대응하기 위해 유연한 방어 체계를 구축하는 것입니다.
Anand의 다른 의견이 궁금하다면 여기에서 그의 다른 글도 확인해 보세요.
Footnotes
- “Generative AI in Cybersecurity: An Optimistic but Uncertain Future,” Enterprise Strategy Group, 2024년 4월.
- “Gartner Survey Shows AI-Enhanced Malicious Attacks as Top Emerging Risk for Enterprises for Third Consecutive Quarter,” Gartner, 2024년 11월.
- “The Life and Times of Cybersecurity Professionals, Volume VII,” Enterprise Strategy Group, 2024년 11월.
