딥 페이크는 더욱 눈에 띄는 공격 벡터가 될 것으로 예상됩니다. 이를 식별하는 방법은 다음과 같습니다.
딥 페이크란 무엇입니까?
딥페이크는 실제 이미지와 영상을 조작된 것으로 악의적으로 교체해 정보를 조작하는 행위다. 딥페이크에 사용될 만큼 고품질의 이미지, 동영상, 오디오를 만들기 위해서는 AI와 ML이 필요하다. 이러한 AI, ML 및 이미지 교체의 사용은 정보의 허위 진술, 정보의 일부 분리 또는 기만적인 방식으로 정보 편집과 같은 덜 극단적인 조작 기술을 사용하는 다른 유형의 정보 조작과 다릅니다. Cato Networks의 보안 전략 수석 이사인 Etay Maor는 “복잡함을 더하기 위해 GPT3와 같은 AI 생성 텍스트에 대한 최근의 발전과 접근성은 이미 딥페이크(개념 증명)와 함께 사용되어 대화형, 사람처럼 생긴 대화 봇”
딥 페이크는 어떻게 생겼습니까?
딥 페이크는 모든 모양과 크기로 제공됩니다. 일부는 더 간단하고 일부는 더 고급입니다. 딥 페이크의 가장 인기 있는 예는 다음과 같습니다.
얼굴 바꾸기
얼굴 바꾸기는 비디오 또는 이미지에서 한 사람의 얼굴을 다른 사람으로 바꾸는 행위입니다. 얼굴 바꾸기에는 전용 소프트웨어가 필요하지만 고급 기술을 기반으로 할 필요는 없습니다. 오늘날에는 얼굴 바꾸기를 지원하는 모바일 앱도 찾을 수 있습니다. 모바일 앱에서 사용할 수 있는 얼굴 교환은 일반적으로 영화 장면에서 사용자의 사진과 배우의 얼굴을 교환하는 것과 같은 간단한 사용 사례로 제한됩니다.
더 발전된 얼굴 스와핑이 존재하지만 더 많은 모델 교육과 코드가 필요하고 결과적으로 비용이 많이 들고 리소스를 많이 사용하는 GPU가 필요합니다. 더 발전된 얼굴 교환 딥 페이크의 예는 Tom Cruise가 발표자의 얼굴과 교환되는 이 비디오에서 볼 수 있습니다.
이 Tom Cruise 얼굴 교체에는 GPU에 대한 2시간의 교육과 며칠 간의 전문 비디오 편집 후 처리가 필요했습니다. 많은 것처럼 들릴 수도 있지만 발표자가 Cruise와 비슷한 머리 모양을 가지고 있고 그의 목소리를 가장할 수 있기 때문에 다른 것보다 간단한 스왑으로 간주되었습니다. 즉, 훈련과 후처리가 덜 필요했습니다.
꼭두각시 마스터(립싱크)
‘인형의 달인’ 딥페이크는 사람의 입 움직임을 이미지로 조작해 실제 말하지 않은 말을 하는 것처럼 보이게 만드는 기술이다. 새로 교체된 얼굴로 모델을 훈련시키는 얼굴 교체와 비교하여 ‘Puppet Master’는 원본 이미지의 얼굴, 특히 입 움직임에 대해 모델을 훈련시킵니다.
다음과 같습니다.
[warning – explicit language]
‘퍼펫 마스터’의 기술은 마스크, 즉 원본 이미지를 합성하고 이를 가장하는 사람의 모델 위에 배치하고 이를 립싱크하는 것입니다.
오디오
딥 페이크의 세 번째 눈에 띄는 유형은 오디오 기반입니다. 오디오 딥 페이크는 실제 사람의 목소리를 가져와 한 번도 말하지 않은 것을 말하는 것처럼 들리게 만드는 오디오 파일입니다. 오디오 딥 페이크는 오디오 파일을 가져와서 소리에 주석을 할당하고 주석을 기반으로 ML 모델을 교육하여 소리를 텍스트와 연결한 다음 새 오디오 파일을 생성하여 생성됩니다.
소리는 다음과 같습니다.
딥 페이크 대 저렴한 수정
수정된 이미지나 오디오가 모두 딥 페이크인 것은 아닙니다. 딥 페이크는 AI를 사용하여 미디어를 합성하거나 수정하는 반면, 저렴한 수정은 미디어를 쉽게 발견할 수 있는 저기술 방법을 사용하여 합성하거나 수정합니다. 그들은 종종 왜곡이 있고 명확하게 조작되었습니다. 저렴한 수리 방법은 다음과 같습니다.
딥 페이크의 사이버 위험
딥 페이크는 더욱 현실적이고 접근 가능해졌으며 그 어느 때보다 빠르게 생성할 수 있습니다. 이것은 그것들을 무기화를 위한 강력한 도구로 만듭니다. 결과적으로 그들은 기업과 국가에 위험을 초래합니다. 사이버 범죄, 사회 공학, 사기, 외국 작전에 영향을 미치기 위한 위협 행위자 국가 등에 의해 사용될 수 있습니다.
예를 들어 딥 페이크는 CEO의 목소리를 흉내내고 경영진이 사기 계좌에 243,000달러를 송금하도록 설득하는 데 사용되었습니다. Cato Networks의 Etay Maor는 “비즈니스 이메일 구성 및 피싱 공격은 사용된 언어에 대한 간단한 분석을 기반으로 탐지하기가 점점 더 어려워지고 있습니다. 단일 공급업체 SASE 솔루션에서 제공하는 것과 같은 전체적인 접근 방식이 필요합니다. 서로 다른 여러 초크 포인트에서 공격을 탐지할 수 있으며 실패할 운명인 격리된 포인트 제품에 의존하지 않습니다.” 또 다른 경우에는 자녀 양육권 사건에서 딥 페이크가 증거로 제시되었습니다.
딥 페이크는 잘못된 정보를 퍼뜨리는 데도 사용할 수 있습니다. 예를 들어 딥 페이크는 세계 지도자를 사칭하고 공격을 촉발하거나 CEO를 사칭하고 회사의 주가를 조작하는 데 사용될 수 있습니다. 다른 경우, 딥 페이크는 사람들이 딥 페이크라고 주장함으로써 모든 미디어 소스를 거부할 수 있는 그럴듯한 거부 가능성을 가능하게 하여 사회적 신뢰를 깨뜨립니다.
마지막으로 딥 페이크는 명예 훼손, 즉 누군가의 좋은 평판을 손상시키는 데 사용될 수 있습니다. 예를 들어, 리벤지 포르노를 만드는 것입니다.
딥 페이크를 감지하는 방법
딥 페이크를 정확하게 감지하는 방법에는 두 가지 주요 유형이 있습니다.
- 낮은 수준의 탐지 방법
- 높은 수준의 탐지 방법
낮은 수준의 탐지 방법
낮은 수준의 탐지 방법은 딥 페이크 생성 프로세스를 통해 도입된 아티팩트 또는 픽셀화를 식별하도록 훈련된 ML 모델에 의존합니다. 이러한 아티팩트는 인간의 눈으로는 인지할 수 없지만 실제 이미지와 딥 페이크 이미지에 대해 훈련된 모델은 이를 감지할 수 있습니다.
높은 수준의 탐지 방법
높은 수준의 감지 방법은 의미적으로 의미 있는 기능을 식별할 수 있는 모델을 사용합니다. 여기에는 깜박임, 머리 자세 또는 독특한 버릇, 음소-비짐 불일치와 같은 부자연스러운 움직임이 포함됩니다.
오늘날 이러한 탐지 방법은 정확한 것으로 간주됩니다. 그러나 딥 페이크 기술이 개선되고 정교해짐에 따라 효율성이 떨어질 것으로 예상되며 업데이트 및 개선이 필요합니다. 이러한 기술 외에도 우리 각자는 수신한 비디오 및 이미지의 미디어 소스를 확인하여 딥 페이크를 탐지하는 데 도움을 줄 수 있습니다.
다양한 유형의 사이버 보안 공격과 이를 방지하는 방법에 대해 자세히 알아보려면 Cato Networks의 사이버 보안 마스터클래스 시리즈를 시청할 수 있습니다.