가트너, “2026년 전세계 기업 30%, AI 딥페이크로 인해 신원 확인 및 인증 솔루션 신뢰 못할 것”
글/반도체네트워크 편집부 2024.02.05
실행 가능한 객관적인 인사이트를 제공하는 가트너(Gartner)의 예측에 따르면, 2026년에는 얼굴 생체 인식 솔루션을 겨냥한 AI 딥페이크(Deepfake) 공격으로 인해 기업의 30%가 신원 확인 및 인증 솔루션을 더 이상 단독으로 신뢰할 수 없게 될 전망이다.
가트너의 VP 애널리스트인 아키프 칸(Akif Khan)은 “지난 10년 동안 AI 분야는 수많은 변곡점을 거치면서 합성 이미지 생성이 기능해졌다. 이렇게 인공적으로 생성된 실존 인물의 얼굴 이미지는 ‘딥페이크’로 잘 알려져 있으며, 악의적인 공격자가 생체 인증을 약화시키거나 비효율적으로 만드는 데 사용될 수 있다”고 말하며, “결과적으로 조직은 인증 대상자의 얼굴이 실제 사람인지 딥페이크인지 구분할 수 없기 때문에 신원 확인 및 인증 솔루션의 신뢰도에 의문을 제기하기 시작할 것”이라고 설명했다.
오늘날 얼굴 생체 인식을 이용한 신원 확인 및 인증 프로세스는 사용자의 진위 여부 평가를 위해 PAD(Presentation attack detection) 기술을 활용하고 있다. 이에, 칸은 "PAD 메커니즘을 정의하고 평가하는 현재의 기준 및 테스트 프로세스는 최신 AI 생성 딥페이크를 이용한 디지털 인젝션 공격을 구분해내지 못한다"고 지적했다.
가트너의 연구 결과에 따르면, 가장 일반적인 공격 벡터는 프레젠테이션 공격이지만 2023년에는 인젝션 공격이 200%나 증가한 것으로 나타났다. 이러한 공격을 막아내기 위해서는 PAD, IAD(Injection attack detection) 및 이미지 검사 기술을 함께 사용해야 한다.
IAD와 이미지 검사 툴을 결합하여 딥페이크 위협 완화
얼굴 생체 인식을 넘어선 AI 딥페이크로부터 기업을 보호하기 위해서는 최고정보보안책임자(CISO)와 위험 관리 리더들이 어떤 공급업체를 선택하는지가 중요하다. 현재의 표준을 뛰어넘는 역량 및 계획을 갖췄으며 새로운 유형의 공격을 모니터링, 분류, 정량화 할 수 있는 공급업체를 선택해야 할 것이다. 칸 애널리스트는 "조직들은 공급업체들 중 이미지 검사와 결합된 IAD를 사용하여 최신 딥페이크 기반 위협을 완화하는 데 특별히 투자해 온 업체와 협력하여, 최소한의 제어 기준을 정의하기 시작해야 할 것"이라고 전했다.
전략을 정의하고 기준을 설정한 후에는 디바이스 식별 및 행동 분석과 같은 추가적인 리스크 및 인식 신호를 포함시켜 신원 확인 프로세스의 공격 탐지 확률을 높여야 한다. 특히 ID 및 액세스 관리를 담당하는 보안 및 위험 관리 리더들은 실제 사람의 존재 여부를 증명할 수 있는 기술을 도입하고 계정 탈취를 방지하는 추가적인 단계를 구축하는 등 AI 기반 딥페이크 공격 위험을 완화할 수 있는 조치를 취해야 한다.
가트너 전망, “올해 전 세계 AI PC와 생성형 AI 스마트폰이 전체 출하량...
조회수 210회 / Gartner
가트너, “2026년 전세계 기업 30%, AI 딥페이크로 인해 신원 확인 및 인...
조회수 184회 / Gartner
가트너, “2024년 세계 IT 지출 전년 대비 6.8% 성장 전망 …
조회수 204회 / Gartner
Gartner, “2023년 4분기 전 세계 PC 출하량 0.3% 증가, 연간 총 14.8% ...
조회수 190회 / Gartner
가트너, 소프트웨어 엔지니어링 하이프 사이클 발표
조회수 258회 / 가트너
가트너, 10대 전략 기술 트렌드 발표, 불확실성 속 전략적 기술 투자 ...
조회수 508회 / 가트너
가트너 전망, 전세계 2023년 전기자동차 출하량 1500만 대 이를 것
조회수 667회 / Gartner
가트너, 2023년 이머징 테크놀로지 하이프 사이클 발표…”생성형 AI 기대...
조회수 714회 / Gartner
가트너, 불확실한 글로벌 경제 상황 속에서도 전 세계 모든 지역에서 IT...
조회수 523회 / Gartner
PDF 다운로드
회원 정보 수정