[2024.9.4.BBC] 한국 학교를 휩쓸고 있는 딥페이크 포르노(deepfake porn) 위기

Inside the deepfake porn crisis engulfing Korean schools. Last Saturday, a Telegram message popped up on Heejin’s phone from an anonymous sender. “Your pictures and personal information have been leaked. Let’s discuss.” 

한국 학교를 휩쓸고 있는 딥페이크 포르노(deepfake porn) 위기

 

딥페이크 포르노(deepfake porn) 위기가 한국 학교(Korean school)를 휩쓸고 있다. 지난 토요일, 익명의 발신자로부터 희진(가명)의 휴대전화에 "당신의 사진과 개인 정보가 유출되었습니다. 논의해 봅시다."라는 텔레그램 메시지가 떴다.  

대학생이 채팅방에 들어가 메시지를 읽으려고 하자, 그녀는 몇 년 전 학교에 다닐 때 찍은 자신의 사진을 받았다. 그 다음에는 같은 사진을 사용한 두 번째 이미지가 나왔는데, 이 사진만 성적으로 노골적이고 가짜였다. 

겁에 질린 희진은 답장을 하지 않았지만, 이미지는 계속 나왔다. 모든 이미지에서 그녀의 얼굴은 정교한 딥페이크 기술을 사용하여 성행위를 하는 신체에 붙어 있었다.  

대부분의 딥페이크는 실제 사람의 얼굴을 성적으로 노골적인 가짜 신체에 결합하는데, 인공지능을 사용하여 점점 더 많이 생성되고 있다. 희진은 BBC에 "나는 겁에 질려 있었고, 너무 외로웠다."라고 말했다. 하지만 그녀는 혼자가 아니었다. 

이틀 전, 남한(South Korean) 언론인 고나린은 그녀의 경력에서 가장 큰 특종이 될 기사를 발표했다. 경찰이 두 주요 대학에서 딥페이크 포르노 조직을 수사하고 있다는 사실이 최근에 밝혀졌다. 고나린은 더 많은 조직이 있을 것이라고 확신했다. 

고나린은 소셜 미디어를 검색하기 시작했고, 메시징 앱(messaging app) 텔레그램(Telegram)에서 수십 개의 채팅 그룹을 발견했는데, 사용자들은 아는 여성들의 사진을 공유하고 AI(인공지능) 소프트웨어를 사용하여 몇 초 만에 가짜 포르노 이미지로 변환했다. 

고나린은 우리에게 "사람들은 매분 아는 소녀들의 사진을 업로드하고 딥페이크로 바꿔 달라고 요청했다."고 폭로했다. 그녀는 이러한 그룹이 대학생만을 대상으로 하지 않는다는 것을 발견했다. 특정 고등학교와 중학교에 전담된 방이 있었다. 특정 학생의 이미지를 사용하여 많은 콘텐츠를 만든 경우, 그녀는 자신의 방을 가질 수도 있었다. "굴욕 방" 또는 "친구의 친구 방"이라는 광범위한 라벨이 붙은 이러한 방은 종종 엄격한 입장 조건이 있다. 

한겨레 신문에 실린 고나린의 보도는 남한에 충격을 주었다. 월요일에 경찰은 최근 텔레그램의 러시아 창립자를 앱과 관련된 범죄 혐의로 기소한 프랑스 당국의 선례에 따라 텔레그램에 대한 수사를 시작할 것을 고려하고 있다고 발표했다. 정부는 관련자들에게 더 엄격한 처벌을 내리겠다고 다짐했고, 젊은이들에게 더 나은 교육을 요구했다. 

텔레그램은 BBC에 제공한 성명에서 "불법 포르노를 포함한 플랫폼의 유해한 콘텐츠에 적극적으로 대처하고 있다."라고 말했다. BBC는 이러한 채팅방에 대한 설명을 여러 개 살펴보았다. 한 설명에서는 멤버에게 이름, 나이, 거주 지역과 함께 누군가의 사진을 4장 이상 게시하라고 요구했다. 

고나린은 "그 프로세스가 얼마나 체계적이고 조직적인지에 충격을 받았다. 내가 발견한 가장 끔찍한 것은 한 학교의 미성년 학생을 위한 그룹이 2,000명 이상의 멤버를 보유하고 있었다."고 말했다.  

고나린의 기사가 게재된 후 며칠 동안 여성 권리 운동가들도 텔레그램을 수색하기 시작했고, 단서를 추적했다. 그 주말까지 500개가 넘는 학교와 대학이 표적으로 지정되었다. 실제 영향을 받은 사람의 수는 아직 확인되지 않았지만, 많은 사람이 남한의 동의 연령(Consent Age)인 16세 미만인 것으로 추정된다. 의심되는 가해자의 상당수는 10대 청소년이다. 

희진은 위기의 규모에 대해 알게 되면서 불안이 더 심해졌고, 지금은 얼마나 많은 사람이 자신의 딥페이크 영상을 봤을지 걱정된다고 말했다. 처음에는 자신을 비난했다. 그녀는 "내 사진을 소셜 미디어에 올렸기 때문에 이런 일이 일어났을까, 더 조심했어야 할까?"라는 생각을 멈출 수 없었다. 

그 이후로 전국의 수많은 여성과 10대 청소년들이 소셜 미디어에서 자신의 사진을 삭제하거나 계정을 완전히 비활성화했다. 다음에 착취당할까봐 두려웠기 때문이다. 

동료가 표적으로 지정된 대학생 아은은 "아무 잘못도 없는데 우리의 행동과 소셜 미디어 사용을 검열해야 한다는 사실에 좌절하고 화가 난다."고 말했다. 아은은 대학의 한 피해자가 경찰로부터 가해자를 잡기가 너무 어려울 것이라며 굳이 자신의 사건을 추적하지 말라는 말을 들었고, "사진이 가짜였기 때문에 사실상 범죄가 아니다"라고 말했다는 것이다.   

딥페이크 스캔들이 밝혀진 후 충격과 분노를 표출하는 한국인들

 

이 스캔들의 핵심은 메시지 앱 텔레그램이다. 당국이 쉽게 접근하여 이미지를 삭제하도록 요청할 수 있는 공개 웹사이트와 달리 텔레그램은 비공개 암호화 메시지 앱이다. 

사용자는 종종 익명이고, 채팅방은 "비밀" 모드로 설정할 수 있으며, 해당 콘텐츠는 흔적 없이 빠르게 삭제된다. 이로 인해 텔레그램은 범죄 행위가 번성하기 좋은 공간이 되었다. 

지난주 정치인과 경찰은 강력하게 대응하여 이러한 범죄를 수사하고 가해자를 법의 심판대에 세우겠다고 약속했다. 일요일에 서울경찰청은 어린이의 가짜 음란물 이미지가 배포되도록 한 텔레그램의 역할에 대해 수사를 진행할 것이라고 발표했다. 

이 앱의 설립자인 파벨 두로프(Pavel Durov)는 지난주 프랑스에서 앱과 관련된 여러 범죄에 공모한 혐의로 기소되었는데, 여기에는 아동 포르노 공유를 허용한 것도 포함된다. 

하지만 여성권리운동가들은 남한 당국이 텔레그램에서 성적 학대를 너무 오랫동안 방치했다고 비난한다. 남한은 이전에도 이런 위기에 직면했기 때문이다. 2019년에 성매매 조직이 텔레그램을 이용해 여성과 어린이들에게 성적으로 노골적인 이미지를 만들어 공유하도록 강요했다는 사실이 밝혀졌다. 

당시 경찰은 텔레그램에 수사를 도와달라고 요청했지만, 앱은 7건의 요청을 모두 무시했다. 조직 우두머리는 결국 40년 이상의 징역형을 선고받았지만, 검열에 대한 우려 때문에 플랫폼에 대한 조치는 취해지지 않았다. 

고나린은 "그들은 주요 인물들에게는 형을 선고했지만 그 외에는 상황을 소홀히 했고, 이로 인해 상황이 악화되었다고 생각한다."라면서 당국을 비판했다. 

딥페이크 이미지를 만들 것을 제안하고 있는 한 채팅 그룹

 

2019년 젊은 학생 기자로서 N번방 섹스 조직을 폭로한 박지현은 그 이후로 디지털 성범죄 피해자들을 위한 정치적 옹호자가 되었다. 그녀는 딥페이크 스캔들이 터진 이후로 학생들과 학부모들이 하루에 여러 번 그녀에게 전화를 걸어 울었다고 말했다.  

박지현은 "그들은 소셜 미디어에 공유된 목록에 있는 학교를 보고 무서워하고 있다."고 말했다. 박지현은 남한 정부가 앱을 규제하거나 금지할 것을 촉구했다. 그녀는 "이러한 기술 회사들이 법 집행 기관과 협력하지 않는다면 국가는 시민을 보호하기 위해 그들을 규제해야 한다."라고 힘주어 말했다.  

이 최근의 위기가 터지기 전에 남한의 온라인 성적 학대 피해자 옹호 센터(ACOSAV)는 이미 딥페이크 포르노의 미성년 피해자 수가 급격히 증가하고 있음을 알아차렸다. 

2023년에 그들은 86명의 10대 피해자에게 상담을 제공했다. 올해 첫 8개월 동안 그 수는 238명으로 늘어났다. 지난주에만 64명의 10대 피해자가 더 나타났다. 

센터의 한 리더인 박성혜는 지난주에 직원들이 전화로 넘쳐났고 24시간 내내 일하고 있다고 말했다. 그녀는 "전시 상황과 같이 우리에게는 전면적인 비상 상황이다. 최신 딥페이크 기술로 인해 예전보다 훨씬 많은 영상이 있고, 이것이 증가할 뿐이라는 점이 걱정이다."라고 말했다.   

피해자 상담 외에도 센터는 유해한 콘텐츠를 추적하고 온라인 플랫폼과 협력하여 이를 삭제하고 있다. 박성혜는 텔레그램이 요청에 따라 콘텐츠를 삭제한 사례가 몇 건 있었다고 말했다. 그녀는 "그러니 불가능한 일은 아니다."라고 지적했다. 

텔레그램은 BBC에 보낸 성명에서 "관리자들은 앱의 공개 부분을 적극적으로 모니터링하고 AI 도구를 사용하며 사용자 신고를 받아 매일 텔레그램 서비스 약관을 위반하는 수백만 개의 콘텐츠를 삭제한다."라고 말했다. 

여성 권리 단체는 새로운 AI 기술로 인해 피해자를 착취하기가 더 쉬워졌다는 것을 인정하지만, 이는 남한 온라인에서 행해지는 최신 형태의 여성 혐오일 뿐이라고 주장한다. 

처음에는 여성들이 온라인에서 언어적 학대의 물결을 겪었다. 그런 다음 스파이캠(spy cam) 유행이 왔고, 그들은 공공 화장실과 탈의실을 사용하여 비밀리에 촬영되었다. 

84개 여성 단체가 서명한 성명서에는 "이것의 근본 원인은 구조적 성차별이며 해결책은 성평등이다."라고 적혀 있다. 이것은 구조적 성차별의 존재를 부인하고 피해자 지원 단체에 대한 기금을 삭감하며 정부의 성평등부를 폐지한 윤석열 정권에 대한 직접적인 비판이다. 

 

청소년 성범죄자를 치료하는 이명화는 딥페이크 학대의 폭발이 갑작스럽게 보일 수 있지만 오랫동안 표면 아래에 숨어 있었다는 데 동의했다. 아하 서울 청소년 문화 센터를 운영하는 상담사는 "십 대들에게 딥페이크는 문화의 일부가 되었고 게임이나 장난으로 여겨진다."라고 말했다. 

이명화는 청소년 남성을 교육하는 것이 가장 중요하다고 말하며, 가해자에게 정확히 무엇을 잘못했는지 말하면 성적 학대로 간주되는 것을 더 잘 알게 되어 재범을 막는다는 연구 결과를 인용했다. 

한편 남한 정부는 딥페이크를 만들고 공유하는 사람들의 형량을 늘릴 것이며, 이미지와 포르노를 보는 사람들도 처벌할 것이라고 밝혔다. 가해자가 응분의 처벌을 받지 않는다는 비판이 뒤따른다. 문제 중 하나는 대부분의 가해자가 청소년이라는 것이다. 이들은 일반적으로 청소년 법원에서 재판을 받으며, 그곳에서 더 관대한 형을 받는다. 

채팅방이 폭로된 이후 많은 채팅방이 폐쇄되었지만, 새로운 채팅방이 거의 확실히 그 자리를 대신할 것이다. 이 기사를 다루는 기자들을 표적으로 삼기 위해 이미 '굴욕의 방'이 만들어졌다. 이 소식을 전한 고나린은 이로 인해 잠을 못 이루고 밤을 보냈다고 말했다. 그녀는 "내 사진이 업로드되었는지 확인하기 위해 계속 채팅방을 확인한다."라고 말했다. 

이러한 불안은 남한의 거의 모든 10대 소녀와 젊은 여성에게 퍼졌다. 대학생인 아은은 이로 인해 남성 지인들을 의심하게 되었다고 말했다. 그녀는 "이제 사람들이 내가 모르는 사이에 내 등 뒤에서 이런 범죄를 저지르지 않을지 확신할 수 없다. 나는 사람들과의 모든 상호작용에서 지나치게 경계하게 되었는데, 이건 좋을 수 없다."고 말했다.  

 

*딥페이크(deepfake)는 딥 러닝(deep learning, deep structured learning, hierarchical learning)과 가짜(fake)의 혼성어로 인공 지능을 기반으로 한 인간 이미지 합성 기술이다. 생성적 적대 신경망(生成的敵對神經網, generative adversarial network; GAN)이라는 기계 학습 기술을 사용하여 기존의 사진이나 영상을 원본이 되는 사진이나 영상에 겹쳐서 만들어낸다.

 

#딥페이크 #포르노 #deepfake #porn #윤석열