딥페이크는 인공지능(AI)을 이용하여 진짜와 같은 생성 이미지나 영상을 만드는 기술로, 딥러닝(Deep learning)과 페이크(Fake)의 합성어입니다. 따라서 얼굴 이미지, 목소리 등을 합성하여 실제와 같은 가짜 이미지를 만들 수 있습니다.
딥페이크란?
딥페이크란 실제 이미지와 사람들의 목소리를 다른 사람으로 바꾸고 다른 이미지를 만드는 데 사용할 수 있는 인공지능(AI) 기술입니다. 이러한 AI 기술을 활용하여 영상이나 영화, 이미지 등의 특수효과를 만들 수 있습니다.
결국 이미지 합성, 음성 합성, 영상 합성 등을 통해 진짜처럼 보이도록 만들수 있는 인공지능(AI) 기술의 한 종류입니다.
딥페이크 활용분야
원격 교육
- 가상의 이미지, 영상을 활용하여 가상교사를 만들어냄으로써 원격 거리에서도 맞춤형 교육을 할 수 있습니다.
고객 서비스
- 가상의 상담원, 영업사원을 만들어 냄으로써 원격임에도 불구하고 고객과의 신뢰를 쌓을 수 있는 기술이 될 것으로 보고 있습니다.
의료 분야
- 가상의 의사를 활용하여, 원격임에도 불구하고 환자들과의 관계를 유지시키며 집중형 치료 서비스를 제공할 수 있습니다.
엔터테인먼트 분야
- 가장 대표적인 분야로 영화나 TV에서 가상의 인물을 만들어 브랜드화시킬 수 있습니다.
보안
- 얼굴 인식 시스템 보안 강화 등에 활용할 수 있습니다.
이러한 활용분야를 가진 딥페이크 기술 원리는 결국 인공지능(AI)의 일부 분야입니다.
딥페이크 기술 원리
딥페이크 기술은 AI의 딥러닝(Deep Learning)을 기반으로 하며, 생성 모델과 판별모델의 두 가지 신경망을 강화 학습을 통해 가상의 이미지를 연출할 수 있습니다.
생성모델이란?
대량의 원본 이미지 혹은 유사한 이미지, 영상 데이터 등을 학습하고 그 데이터를 기반으로 새로운 영상, 이미지 등을 합성할 수 있도록 학습하는 모델입니다.
판별모델이란?
대량의 진짜 영상, 이미지 데이터와 가짜 영상, 이미지 데이터를 학습함으로써 그 이미지가 진짜인지 가짜인지 구별할 수 있도록 학습하는 모델입니다.
이러한 딥페이크 AI 학습과정은 생성모델과 판별모델을 서로 경쟁시켜 완벽에 가까운 가짜 이미지를 만들 수 있는 과정이 거칩니다. 이 기술이 GAN(생성적 적대 신경망)로 불리는 기계 학습 기술입니다.
- 생성모델은 판별모델을 속일수 있게 가짜 이미지를 진짜 이미지처럼 만들도록 학습합니다.
- 판별모델은 진짜 이미지와 가짜 이미지를 판별해낼 수 있도록 학습합니다.
일반적인 딥페이크 이미지 생성 과정
- 원본 이미지 준비 : 딥페이크를 사용할 원본 이미지를 준비합니다.
- 목표하는 이미지 준비 : 딥페이크에 적용될 이미지를 준비합니다.
- AI 학습 : 생성모델은 목표 이미지를 기반으로 학습하고 판별 모델은 진짜와 가짜영상을 구분할 수 있도록 학습합니다.
- 합성 : 생성 모델이 원본 이미지에 목표 이미지의 특징을 합성합니다.
- 판별 : 진짜 이미지 혹은 가짜 이미지를 판별합니다.
최근에는 생성모델과 판별모델을 서로 경쟁시키는 GAN(생성적 적대 신경망) 기술 발전이 더욱 사실적 이미지를 만드는데 큰 역할을 하였습니다.
하지만 너무나 사실적인 딥페이크 기술에 대한 우려도 분명히 존재합니다.
딥페이크 범죄 노출, 위험성
완성도 높은 생성 이미지나 영상이 악용될 경우 가짜 뉴스, 사기 범죄 등에 노출될 수 있기 때문에 딥페이크 개발 기업들은 분명히 도의적, 윤리적인 부분에 있어서 책임감을 갖추어야 합니다.
- 가짜 정보 확산 : 사실적인 영상과 이미지가 만들어지면 사실적 진위를 떠나 개인 혹은 사회적으로 혼란, 분열, 문제를 조장할 수 있습니다.
- 명예 훼손 : 특정한 목적을 이용하여 개인의 이미지를 합성한다면, 개인의 명예를 심각하게 훼손할 수 있습니다.
- 사기범죄 : 사람들의 이미지와 목소리를 합성하여 누군가에게 특정 목적으로 다가간다면, 나도 모르게 사기범죄의 피해자가 될 수 있습니다.
딥페이크 윤리적 문제
딥페이크 기술이 가짜 영상, 이미지, 뉴스, 정보 등을 무작위로 생산한다면 일반 대중들은 모든 시각적 이미지를 믿을 수 없게 될 것이며, 그로 인해 사람들의 공동체 분열, 사회적 불신이 쌓여 모든 정보에 대해서 신뢰를 하지 않게 될 것입니다.
이러한 윤리적, 위험성을 알리기 위해 한국에서는 기업 자발적으로 2020년에 딥페이크 탐지 AI 경진대회가 개최되기도 하였습니다.
따라서 딥페이크 기술이 악용되는 현상을 각종 규제를 통해 차단해야 혁신적인 기술로 남을 것입니다.
딥페이크 위험성 해결방안
딥페이크 기술은 이미지와 영상을 자유롭게 합성하여 새로운 이미지를 만들 수 있기 때문에 특정 분야에 혁신적으로 활용될 수 있지만 반대로 심각한 사회적 문제를 만들어 낼 수 도 있습니다.
따라서, 도의적인 책임 이전에 충분한 해결책 마련이 필요한 시점입니다.
1. 딥페이크 감지기술 개발 : 딥페이크 영상과 이미지를 감지할 수 있는 기술 개발이 진행되고 있으며, 그로 인해 가짜 정보를 차단할 수 있습니다.
딥페이크 탐지 기술 확보 기업
| 기업 | 국가 | 딥페이크 기술 | 분야 |
| Sensity | 미국 | Deepfake Detection API | 엔터테인먼트, 미디어 |
| Deeptrace | 영국 | Deepfake Hunter | 사이버 보안 |
| Cybernews | 리투아니아 | Deepfake Detertor | 뉴스, 웹사이트 |
| Balckbird.ai | 싱가포르 | Deepfake Studio | 엔터테인먼트, 교육, 의료 |
| Witness | 미국 | Deepfake Lab(비영리 단체) | 인권 문제 해결 |
2. 윤리적 교육 : 대중들에게 딥페이크 기술이 위험하다고 알릴 수 있는 인식 교육이 필요합니다.
3. 법적 규제 : 딥페이크 기술을 활용하여 가짜 정보로 인해 피해자가 확산된다면 법적 제재를 통해 강제적으로 제한해야 합니다.