AI 공격을 논할 때 대부분은 '기계 대 기계'의 전쟁을 떠올린다—DDoS, 취약점 악용, RCE. 그런데 가트너가 어제(9/22) 발표한, 시니어 보안 리더 297명을 대상으로 한 설문은 전장을 정면으로 인간의 오감 쪽으로 밀어붙인다: 조직의 41%가 지난 12개월간 '딥페이크 음성 통화 사기' 사건을 겪었고, 36%는 '딥페이크 영상 통화 사기' 피해를 겪었다. 더 이상 SF가 아니다—중견 이상 기업의 현실이 된 것이다.
같은 설문에서, 79%의 조직이 지난 1년간 피싱, 스피어 피싱 또는 BEC(비즈니스 이메일 위장) 피해를, 58%가 vishing(음성 사기) 또는 smishing(문자 사기) 피해를 겪었다. 가트너 애널리스트 Craig Porter는 명확히 지적한다: 공격자는 이미 피싱, BEC, 합성 미디어, 그리고 여러 채널에서 모은 개인정보를 한 번의 공격으로 엮어낸다—'대부분의 공격은 여전히 사용자, 도난 자격 증명, 취약한 복구 프로세스에 계속 의존한다'.
더 잔인한 현실은 '내가 알아채면 된다'는 방패의 붕괴다. Malwarebytes 설문에 따르면 성인의 약 9할이 '본물과 AI 생성물을 더 이상 구분할 수 없다'고 답했고, Jumio 설문에서는 69%가 'AI 기반 사기가 전통적 신분 도용보다 개인에게 더 큰 위험'이라고 답했다. 가장 많이 인용되는 사례는 2024년 사건으로, 재무 담당자가 영상 회의에서 CFO와 여러 임원의 '얼굴'을 확인하고 15차례 송금을 실행, 총 2,500만 달러 이상이 사기범 계좌로 흘러들어갔다—발각된 것은 수일 후였다.
Vector Institute의 연구가 더 차가운 냉수를 붓는다: 딥페이크 탐지를 독립적인 기술 역량으로 방패 위에 올린다면, 이미 열세이며 앞으로도 계속 열세일 것—생성형 모델은 계속 강해지기 때문이다. '진짜와 가짜를 가리는' 것은 우리가 아마 영원히 지게 될 경쟁이므로, 거기에 방패를 세울 수 없다.
인간의 눈으로는 더 이상 진위를 가릴 수 없기에, 가트너의 CISO 권고는 놀라울 정도로 실용적이다.
세 번째가 가장 중요하고, 가장 놓치기 쉽다: 어떤 신호를 개별적으로 봐도 '설득력 있다'. 이어봐야만 사기의 형태가 보인다. '상사'가 영상 회의에서 결제를 요구하는 것은 개별적으로 보면 완전히 정상—하지만 같은 시각에 자격 증명 재설정, 신규 디바이스 로그인, 권한 변경이 겹친다면, 그것은 우연이 아니라 공격이다.
운영의 관점에서 결론은 명확하다: '인간'은 방패로서 공식적으로 '우회 가능'으로 강등되었다. 공격자가 AI로 권한을 가진 누구든—CFO에서 DevOps 리드까지—위장할 수 있다면, '신뢰에 기반한 사람의 조작'은 모두 잠재적 구멍이 된다.
그래서 우리는 계속 세 가지를 강조해왔다: 첫째, 쉬지 않는 자동 엣지 방어—WAF, DDoS 스크러빙, 봇 필터링이 기계 속도로 트래픽 계층 공격을 차단하고, 누가 경보를 보기를 기다리지 않는다; 둘째, 신호를 가로지르는 이상 탐지—API 호출 패턴, 권한 변경, 로그인 원, 결제 관련 작업은 개별적으로는 모두 정상, 이어봐야 비로소 '이 사람은 지금 평소의 사람이 아니다'가 보인다; 셋째, MTTR을 분 단위로 압축—피해자가 인지하기까지의 몇 분간이 바로 공격자의 최대 창. 자동적인 지혈과 롤백이야말로 정말 출혈을 멈추는 동작이다.
AI는 당신의 서버뿐 아니라, '서버를 돌리는 사람'에게도 공격을 한다. 방어 역시 양쪽에 동시에 세워야 한다.
41%의 기업이 이미 전화로 AI에 속한 이상, '사람이 조심한다'는 것은 그저 자기 위안일 뿐. Lafa System의 접근은 단순하다: 탐지, 차단, 검증을 전부 기계 계층으로 옮겨, 사람이 망설이기 전에 공격을 멈추게 하는 것—사람은 망설이지만, 기계는 망설이지 않는다.