인공지능을 통해 유명여배우의 얼굴을 학습시킨 뒤 기존 포르노와 합성한 페이크 포르노(fake porno)가 2017년말에 화제가 되었다.
이 방법이 인터넷에 공개 된 뒤 바이럴을 일으키며 인터넷 사용자들에게 퍼지게 되고, 쉽게 합성영상을 제작할 수 있는 앱이 등장 후 유명 여배우를 합성한 합성영상이 급증하고 있다.
영화 원더우먼 여주인공 갤 가돗의 얼굴이 합성 된 근친상간 포르노가 외국 웹사이트인 reddit에 등장해 화제가 되었다.
이것은 TensorFlow와 같은 기계학습 툴을 사용해서 작성된 것이다. AI나 기계학습에 관한 다양한 툴이 개발되는 것으로, 지금이야말로 연구자가 아니고, 일반 프로그래머가 이러한 영상을 만들 수 있게 된 셈이다. 갤 가돗의 합성 포르노를 제작한 reddit의 유저 deepfakes는 갤 가돗 이외에도, 메이지 윌리암스나 테일러 스위프트 페이크 포르노도 공개하였다.
그 후, deepfakes는 누구나 쉽게 합성 영상을 만들 수 있도록 하는 앱 FakeApp을 개발. 이 때부터 deepfakes는 유저 이름이 아닌 AI를 사용한 영상합성을 가리키게 되었다. FakeApp은 deepfakes와 같은 알고리즘을 사용하고 있는 것으로, "프로그래밍 경험이나 기술적인 백그라운드가 없더라도 사람들이 deepfakes를 이용 가능하게 되는 것"을 목표로 한다고 deepfakes는 전하였다.
FakeApp은 데스크탑 앱이며, 고사양의 3D게임을 플레이 할 수 있는 GPU가 탑재된 PC로 사용할 수 있다. 이러한 GPU가 없을 경우는 Google Cloud Platform 같은 클라우드 GPU가 필요하며, 합성영상을 완성까지는 8∼12시간정도 필요로한다.
한국의 경우에도 태연, 설현 등 수많은 아이돌들의 합성 영상이 제작되었으며 구글 검색등을 통해 쉽게 합성영상을 접할 수 있어서 강력한 제제가 필요한 상황이다.
펌글
글쓰기