2025. 3. 7. 20:16ㆍ정보보호
AI의 발전은 새로운 가능성을 열어주지만, 동시에 그만큼 위험도 수반합니다. 보다 효율적이고 창의적인 해결책을 제공하는 동시에 악용될 가능성도 커지고 있습니다. 이처럼 AI의 발전이 양날의 검이 되는 상황에서, 보안의 중요성은 그 어느 때보다도 커졌다고 할 수 있습니다.
AI가 가져오는 위협에는 어떤 것들이 있을까요? 지금부터 SK쉴더스에서 공표한 5대 사이버 보안 위협과 함께 살펴보겠습니다.
1. AX 시대를 파고드는 AI 보안 위협
디지털 전환(DX, Digital Transformation)을 넘어 이제는 AI 전환(AX, AI Transformation)의 시대가 도래했습니다. 많은 기업이 AI 기술을 활용한 서비스를 제공하고 있으며, AI는 일상생활에서도 자연스럽게 녹아들고 있습니다. 하지만 AI기술의 발전이 가져온 혁신 뒤에는 새로운 보안 위협이 도사리고 있습니다.
특히 딥페이크와 딥보이스 기술은 이미 사이버 범죄에 악용되며 심각한 피해를 초래하고 있습니다. 기존의 피싱과 스미싱 공격이 텍스트 기반이었다면, 실제로 고도화된 AI가 실제 음성 및 영상 데이터를 변조하여 더욱 정교한 공격을 시도하고 있습니다.
2. 다면적인 공격 기법과 협박 전략을 사용하는 랜섬웨어
과거 랜섬웨어 공격은 단순히 파일을 암호화한 뒤 복구 대가로 금전을 요구하는 방식이었습니다. 그러나 최근 랜섬웨어는 단순한 데이터 암호화 공격에서 벗어나 다각적인 협박 전략을 결합한 다중 협박 랜섬웨어 형태로 진화하고 있습니다. 다중 협박 랜섬웨어의 대표적인 방법은 다음과 같습니다.
- 데이터 유출 및 협박: 공격자는 단순히 데이터를 암호화하는 것에 그치지 않고, 탈취한 데이터를 유출하겠다고 협박합니다. 기업이 협상을 거부하면 내부 기밀 정보를 딥웹에 공개하거나, 경쟁사에 판매하는 사례가 늘고 있습니다.
- 연쇄 협박: 랜섬웨어 조직은 피해 기업뿐만 아니라 협력사 및 고객사까지 위협하고있습니다. 예를 들어, 특정 기업이 값을 지불하지 않으면 해당 기업의 고객 정보를 유출하겠다고 협박하는 방식입니다.
- DDoS 공격 병행: DDoS 공격을 추가로 실행하여 기업의 핵심 시스템을 마비시키고, 빠른 협상을 유도하기도 합니다.
방식뿐 아니라 공격 방식도 날로 정교해지고 있습니다. 대표적인 공격 방식은 다음과 같습니다.
- BYOVD 기법: 공격자는 취약한 드라이버를 활용해 보안 솔루션을 무력화하는 전략을 사용합니다. 이를 통해 백신 프로그램을 비활성화하거나, 시스템 방어 기능을 제거한 후 공격을 실행할 수 있습니다.
- LOLBASB 기법: 별도의 악성코드를 삽입하지 않고, 운영체제의 기본도구(PowerShell, WMI 등)를 악용하여 탐지를 우회하는 방식입니다. 기존 보안 솔루션이 정상 프로세스로 인식하는 점을 노려 위협을 감지하기 어렵게 만듭니다.
- 1-Day 취약점 활용: 기존에는 패치되지 않은 0-Day 취약점을 이용한 공격이 주를 이루었지만, 이제는 공개된 취약점(1-Day)을 악용하는 공격이 증가하고 있습니다. 패치가 배포되더라도 기업의 적용 속도가 느린 점을 악용해, 패치가 적용되지 않은 시스템을 집중적으로 공격하는 방식입니다.
3. 망분리 규제 완화에 따른 IAM 위협 증가
2024년 8월, 금융위원회는 망분리 규제를 완화하는 로드맵을 발표했습니다. 이는 금융권이 하이브리드 클라우드 및 외부 AI 서비스를 보다 자유롭게 활용할 수 있도록 하기 위한 조치로, 금융업계의 디지털 전환을 가속화할 것으로 기대됩니다. 이제 금융사는 가명처리된 고객 정보를 클라우드에서 처리하거나, AI 기술을 활용한 데이터 분석 및 자동화 서비스를 도입할 수 있게 되었습니다.
하지만 이러한 변화는 새로운 보안 위협을 동반하고있습니다. 금융사 내부에서 관리되던 민감한 데이터가 외부 클라우드 환경으로 이동하면서, IAM 보안이 금융의 핵심 과제로 떠오르고있습니다.
4. 협력사의 보안사고에 따른 연쇄 피해 위협
대기업들은 내부 보안을 강화하고 정보보호 인증을 통해 사이버 위협에 대비하고 있습니다. 하지만 협력사 보안은 여전히 취약한 상태이며, 특히 2~3차 협력사들은 보안 담당 인력과 예산이 부족한 경우가 많습니다. 이러한 보안의 사각지대는 공격자들에게 원청사를 우회 공격할 수 있는 최적의 경로를 제공하게 됩니다.
공격자들은 공급망 공격을 활용해 상대적으로 보안이 취약한 협력사를 먼저 침투한 후, 이를 발판 삼아 원청사로 접근합니다. 단순히 한 기업이 공격당하는 것이 아니라, 연쇄적으로 다른 협력사와 원청사까지 피해를 입히는 공급망 위협이 커지고 있는 상황입니다.
5. 암호화폐 거래소해킹 공격 위협 증가
암호화폐의 가치 상승과 규제 완화는 거래소와 개인 투자자를 대상으로 한 해킹 공격을 더욱 증가시키고 있습니다. 특히 암호화폐 거래소는 대규모 자산을 관리하는 특성상, 해커들에게 가장 매력적인 공격 타겟이 되고 있습니다.
실제로 2024년에 일본의 DMM 비트코인 거래소에서 4,500억원 상당의 암호화폐가 유출되는 대형 사건이 발생했습니다. 이처럼 대형 거래소를 노린 공격은 꾸준히 이어지고 잇으며, 보안이 미흡한 중고 거래소의 경우 더욱 취약한 상태입니다. 거래소뿐만 아니라, 개인 투자자를 대상으로 한 암호화폐 탈취 공격도 빠르게 확산되고 있습니다.
다음으로는 최근에 일어난 AI 관련 이슈에 대해 살펴보겠습니다.
딥시크 사태가 보여준 AI 보안의 중요성
여러분 모두 딥시크에 대해서 한번쯤은 들어보셨을겁니다. 최근 화제가 된 딥시크 사태는 AI 기술의 발전 속도와 이에 따른 보안 취약점, 개인정보 보호, 국가 안보 등의 문제를 한 번에 드러낸 사례로 주목받고 있습니다.
2024년 1월 20일, 딥시크가 발표한 DeepSeek-R1 모델은 오픈AI의 최신 모델과 비슷한 성능을 보였고, 이는 글로벌 AI 커뮤니티와 시장에 큰 충격을 주었습니다. 딥시크는 훨씬 적은 비용으로 고성능 AI 모델을 개발하면서 스푸트니크 모멘트(Sputnik Moment)로 평가되었고, 엔비디아 주가를 18% 하락시키는 등 AI 기술 혁신의 새로운 이정표를 세웠습니다.
그러나 같은 해 1월 28일, 딥시크의 앱이 구글 플레이스토어에서 1위를 기록한 직후, 대규모 사이버 공격이 발생했습니다. 이로 인해 신규 등록 서비스를 중단해야 했고, 보안 취약점이 드러나는 계기가 되었습니다. 딥시크는 자사 데이터 관리 시스템인 ClickHouse의 보안을 소홀히 하여 인증 절차 없이 누구나 접근 가능한 상태로 데이터를 방치했습니다. 이로 인해 100만건 이상의 채팅 기록, API 키, 서버 내부 파일이 유출되는 심각한 사건이 발생했습니다. WIZ 연구팀은 포트 8123/9000을 통해 SQL 쿼리로 민감 정보를 추출할 수 있었으며, 딥시크가 빠른 성장에 비해 보안 인프라에 충분한 투자를 하지 않았음을 증명하였습니다.
또한, 딥시크가 중국의 국가정보법에 따라 수집한 해외 사용자 데이터를 중국 정부가 접근할 수 있다는 우려도 제기되었습니다. 이에 따라 이탈리아, 일본, 대만, 네덜란드, 대한민국 등 여러 국가들은 공공기관에서 딥시크 사용을 금지했으며, 이탈리아와 아일랜드는 딥시크의 데이터 처리 방식에 대해 조사를 시작했습니다. 미국 시스코(CISCO)의 연구에 따르면, 딥시크는 유해 프롬프트 공격에 100% 취약하며, 악성 코드 생성 시도에도 쉽게 뚫렸습니다. 이로인해 주요 기업들이 딥시크 접근을 차단하게 되었으며, 윤리적 검증 없이 기술 개발에 집중한 결과로 평가받게 되었습니다.
국가 안보 차원에서의 우려도 커졌는데요. 딥시크가 차이나모바일과 연계되었다는 의혹이 제기되었고, 미국 FCC가 차이나모바일을 국가 안보 위협으로 지정한 상황에서, 딥시크 로그인 페이지에서 해당 기업의 코드가 발견되어 논란이 일었습니다. 이러한 상황은 AI 기술이 사이버 지대의 지정학적 무기로 활용될 수 있음을 시사하고 있습니다.
딥시크 사태는 AI 기술의 혁신 속도에 비해 보안 체계와 제도적 장치가 부족한 상황을 여실히 보여줍니다. 이는 개인정보 보호, 데이터 주권, 국가 안보 등 다층적인 위험을 드러내며, AI 기술의 발전에 대한 국제적인 규제와 협력의 필요성을 가종하고 있습니다. EU는 COMPL-AI 프레임워크를 통해 AI 모델의 해킹 위험과 편향성을 평가하는 기술적 규제를 제시하고 있으며, 2025년 4월부터는 EU AI Act의 공식 감사 도구로 활용될 예정입니다. 또한, 크로스보더 데이터 흐름 관리의 중요성도 부각되고 있으며, 각국의 데이터 보호 정책이 충돌하면서 국제적 협력과 조정이 시급한 과제로 떠오르고 있습니다.
이 사건은 AI 기술이 제공하는 혁신적인 기회뿐만 아니라, 보안성과 윤리적 책임의 중요성을 다시 한 번 일깨워 주고 있습니다. 글로벌 경제와 사회에 긍정적인 영향을 미치기 위해서는 각국의 규제 기관과 기술 기업들이 협력하여, 보다 안전하고 신뢰할 수 있는 AI 생태계를 구축해야 할 필요성이 커지고 있습니다. AI 모델의 투명성 확보와 보안 취약점의 예방을 위한 국제 표준 정립이 중요한 과제가 될 것으로 전망됩니다.
참고문헌
- 2025 보안 위협 전망 보고서(SK 쉴더스)
- 딥시크 사태로 드러난 AI 시대의 보안 딜레마(zdnet)