경찰, 제작·유포자 대거 적발···잡아 보니 대부분 10대?

[그래픽=뉴시스]
[그래픽=뉴시스]

[일요서울 | 조택영 기자] 인공지능 기술을 이용, 사람 이미지를 합성하는 기술을 뜻하는 일명 ‘딥페이크(Deepfake)’가 불법 콘텐츠 제작 및 유통으로 번지고 있어 피해를 호소하는 사람이 늘어나고 있다. 주로 연예인 등 유명 인사를 대상으로 저지르던 딥페이크 범죄가 일반인들에게까지 급속도로 번지는 모양새다. 특히 정보통신(IT) 기술에 익숙한 10대 청소년들이 딥페이크 범죄에 연루되는 사례가 늘고 있어 문제가 심각하다는 지적이 잇따르고 있다. 일요서울은 딥페이크의 실체를 추적해 봤다.

딥페이크 기술의 발전(?)···불법 합성물 제작 손쉬워

최근 경찰은 딥페이크 기술을 이용한 불법합성물 집중 단속에 나섰다. 5개월 사이 94명을 붙잡았는데, 피의자의 대다수가 IT 기술에 익숙한 10대와 20대였다.

10대가 65명으로 69.1%를 차지했으며 20대는 17명으로 18.1%였다. 10대와 20대를 합치면 90%에 육박하는 수준이다.

피해자 또한 대부분 젊은 층인 것으로 나타났다. 피해자 114명 중 66명(57.9%)은 19세 미만이었고, 46명(40.3%)은 20대였다. 성별로 보면 피해자 대부분은 여성이었고, 남성은 5명에 그쳤다.

구체적인 사례를 살펴보면, 지난해 9월부터 12월까지 A씨는 얼굴 합성프로그램을 이용해 대학교 동기 등 13명의 얼굴과 타인의 신체 사진을 합성한 것으로 나타났다. A씨는 이러한 합성물을 사회관계망서비스(이하 SNS)에 유포한 혐의로 구속됐다.

지난해 12월부터 3월까지 지인과 연예인의 얼굴을 타인의 신체를 합성한 B씨는 텔레그램을 통해 무려 727개의 불법합성물을 제작하고 유포해 관련 혐의로 구속됐다.

주로 연예인 등 유명 인사를 대상으로 저지르던 딥페이크 범죄가 일반인에게까지 급속도로 퍼지는 상황이다.

- 해외 사이트 중심 성적 콘텐츠 판 쳐

연예인, 특히 아이돌 가수의 얼굴을 복제한 딥페이크 영상은 아직까지도 무분별하게 양산되고 있다.

해외 사이트를 중심으로 한국 아이돌 얼굴 등 신체와 성적 콘텐츠를 합성하는 딥페이크 영상이 제작·유포되고 있는 것.

수사당국의 대대적인 수사에도 불구, 해외 유명 포털사이트에 간단한 키워드만 검색해도 한국 연예인들의 딥페이크 영상을 쉽게 찾아볼 수 있는 실정이다.

앞서 블랙핑크 제니, 모모랜드 낸시 등 아이돌그룹 멤버들은 성적 관계를 연상시키는 딥페이크 합성물로 여러 피해를 입었다.

금년 초 모모랜드 소속사 MLD엔터테인먼트는 온라인상에서 유포되고 있던 낸시의 딥페이크 합성물을 언급하면서 법적 대응을 예고하기도 했다. MLD 엔터테인먼트는 “낸시는 불법 촬영과 합성사진의 피해자”라며 경찰과 해외 사법기관의 수사 공조로 불법 촬영자와 최초 유포자를 비롯해 이를 유포하는 모든 이에게 강력한 법적 대응에 나설 것이라는 입장을 밝혔다.

문제는 이러한 딥페이크 합성물이 해외 사이트나 SNS를 통할 경우 수사가 쉽지 않다는 점이다.

모모랜드 소속사는 아직까지도 최초 유포자를 특정하지 못한 상태다. 모모랜드 소속사인 MLD엔터테인먼트 핵심 관계자는 지난 4일 일요서울에 “최초 유포자를 아직 특정하지 못했다. 아직 계속 찾고 있다. 사실 이게 찾기가 쉽지 않다”면서 “법적 대응과 검찰 조사가 계속 진행 중이고, 경·검 등에 수사 협조를 끊임없이 하고 있다”고 말했다.

소속사는 법적 대응 시사 이후 피해가 확산하진 않았지만 잔존한 합성물이 아직까지 있다고 토로했다. 이 관계자는 “큰 유포는 줄어들었지만 남아 있는 것(딥페이크 합성물)들에 대해서는 끊임없이 채증하고 있다”고 밝혔다.

아이돌의 딥페이크 피해 문제는 여기서 그치지 않는다. 성적 콘텐츠 문제에 이어, 해외에서 한국 아이돌 가수의 얼굴을 기괴하게 일그러뜨리는 영상이 마치 트렌드처럼 퍼지고 있기 때문이다.

해당 영상들은 국내 아이돌 사진을 이용, 인물의 입이 귀까지 찢어지거나 합성된 눈동자가 기이하게 움직이다 없어진다. 피를 흘리거나 얼굴 전체를 뭉개는 영상도 있다. 유행처럼 퍼지는 이 같은 영상에 대해 아이돌 팬들과 누리꾼의 우려가 커지고 있다.

- 경찰 “명백한 불법행위, 촉법소년도 수사 대상”

딥페이크 관련 기술이 발전하면서 프로그램 사용법이 손쉬워진 탓에 딥페이크 영상은 무분별하게 제작·유통되고 있다. 최근 덜미를 잡힌 딥페이크 범죄 피의자 가운데 청소년이 많은 것도 이 때문인 것으로 분석된다. 휴대전화 애플리케이션(이하 앱) 등으로도 딥페이크 영상을 쉽게 만들 수 있는 실정이다. 새로운 기술에 익숙한 청소년들이 영상을 직접 만들거나 제작을 의뢰할 가능성이 높은 것.

SNS에 딥페이크를 검색하면 “앱으로 딥페이크를 쉽게 제작할 수 있고, 이를 판매하고 있으니 따로 연락을 달라”, “아이돌 딥페이크 영상을 따로 만들어 준다” 등의 게시물을 어렵지 않게 찾아볼 수 있다. 누구나 딥페이크 합성물을 제작할 수 있고, 이를 사고파는 거래까지 할 수 있음을 보여 주는 대목이다.

딥페이크 기술을 악용, 성착취물 등을 만드는 것은 엄연한 범죄다. 지난해 국회는 ‘n번방’ 사건이 논란이 되자 성폭력처벌특별법에 허위영상물 조항을 추가하는 법 조항을 신설, 딥페이크 제작·유포자를 처벌하고 있다.

경찰도 딥페이크 범죄를 엄격하게 제재한다는 방침을 밝히고 있다. 경찰 관계자는 “아직도 청소년들이 불법합성물 범죄를 장난으로 생각하거나 처벌 받지 않는다고 잘못 인식해 범행으로 이어지는 것으로 보인다”면서 “불법합성물은 명백한 불법행위로 촉법소년이라도 경찰 수사 대상이며, 소년부 송치를 통해 보호처분 대상이 될 수 있다”고 강조했다.

저작권자 © 일요서울i 무단전재 및 재배포 금지