“지난 8월 31일 익명의 발신자로부터 희진이의 전화에 텔레그램 메시지가 떴다. 당신의 사진과 개인 정보가 유출되었다. 논의해 보자.”

그 대학생이 채팅방에 들어가 메시지를 읽으려고 하자, 그녀는 몇 년 전 학교에 다닐 때 찍은 자신의 사진을 받았다. 그 다음에는 같은 사진을 사용한 두 번째 이미지가 나왔는데, 이 사진은 성적으로 노골적이고 가짜였다.

겁에 질린 희진(가명)이는 대답하지 않았지만, 이미지는 계속 나왔다. 모든 이미지에서 그녀의 얼굴은 정교한 딥페이크 기술을 사용하여 성행위를 하는 몸에 붙어 있었다.

실제 사람의 얼굴과 가짜의 성적으로 노골적인 신체를 결합한 것이 대부분인 딥페이크는 인공지능을 이용해 만들어지는 경우가 점점 더 늘고 있다. “저는 겁에 질려 있었고, 너무 외로웠다” 희진씨는 BBC에 말했다.

영국 BBC는 3일 이같이 보도하고, “하지만 희진이는 혼자가 아니었다며, 한국 학교 사회에서는 이미 딥페이크로 엄청난 파문을 일으키면서 위기를 맞고 있다”고 BBC는 전했다.

BBC는 한 언론인은 한국에서 메시징 앱 텔레그램에서 수십 개의 채팅 그룹을 발견해 특종의 기사를 보도했다고 전하면서 “두 주요 대학에서 딥페이크 포르노 조직(deepfake porn rings)을 수사하고 있다는 사실이 최근에 밝혀졌고, 그 언론인은 더 많은 조직이 있을 것이라고 확신했다.”고 전했다.

그 언론인은 “소셜 미디어를 검색하여 메시징 앱 텔레그램에서 수십 개의 채팅 그룹을 발견했는데, 그 그룹에는 사용자들이 아는 여성들의 사진을 공유하고 AI 소프트웨어를 사용하여 몇 초 만에 가짜 포르노 이미지로 변환하는 내용이 있었다”면서 “사람들이 아는 소녀들의 사진을 매 순간 업로드하고 이를 딥페이크로 만들어 달라고 요청하고 있었다”고 말했다.

딥페이크는 대학생만을 대상으로 하지 않는다. 특정 고등학교와 중학교에 전용된 방이 있고, 특정 학생의 이미지를 사용하여 많은 콘텐츠를 만든 경우, 자신의 방을 받을 수도 있었다. "굴욕 방" 또는 "친구의 친구 방"이라는 넓은 라벨이 붙은 이 방들은 종종 엄격한 입장 조건이 붙어있었다는 것이다.

한겨레 신문에 실린 이 특종 보도는 한국에 충격을 주었다. 2일 한국 경찰은 프랑스 당국의 주도하에 텔레그램에 대한 수사를 시작할 것을 고려하고 있다고 발표했다. 프랑스 당국은 최근 텔레그램의 러시아 창립자를 앱과 관련된 범죄 혐의로 기소했다. 정부는 관련자들에게 더 엄격한 처벌을 내리겠다고 다짐했고, 대통령은 젊은이들에게 더 나은 교육을 시키라고 촉구했다.

텔레그램은 BBC에 제공한 성명에서 “불법 포르노를 포함한 플랫폼의 유해한 콘텐츠에 적극적으로 맞서고 있다”고 밝혔다.

“텔레그램의 관리자는 앱의 공개 부분을 적극적으로 모니터링하고, AI(인공지능) 도구를 사용하며 사용자 신고를 접수해 매일 텔레그램 서비스 약관을 위반하는 수백만 개의 콘텐츠를 제거한다”고 덧붙였다.

소셜 미디어 플랫폼은 8월에만 전 세계적으로 45,000개 그룹에 대해 공개되지 않은 조치를 취했다고 이전에 밝힌 적이 있다.

* '체계적이고 조직적인 과정’

BBC는 이러한 채팅방에 대한 설명을 여러 개 살펴보았다면서, 한 설명에서는 멤버들에게 이름, 나이, 거주 지역과 함께 누군가의 사진을 4장 이상 게시하라고 요구하기도 한다고 전했다.

그 과정은 매우 체계적이고 조직적이어서 충격적인 것이라는 보도이다. 발견한 가장 끔찍한 것은 한 학교에서 미성년 학생을 위한 단체였는데, 그 단체에는 2,000명 이상의 회원이 있었다는 것이다.

한겨레 신문 보도가 나간 후, 여성 권리 운동가들도 텔레그램을 수색하기 시작했고, 단서를 추적했다. 그 주말까지 500개가 넘는 학교와 대학이 표적으로 지정됐다. 실제 영향을 받은 사람의 수는 아직 확인되지 않았지만, 많은 사람이 16세 미만인 것으로 추정되며. 의심되는 가해자의 상당수는 10대 청소년들이다.

사건이 일파만파로 번지자, 전국의 수많은 여성과 10대 청소년이 소셜 미디어에서 사진을 삭제하거나 계정을 완전히 비활성화했다. 다음에 자신이 착취당할 것이 두려워했기 때문이다.

이 스캔들의 핵심은 메시징 앱 텔레그램이다. 당국이 쉽게 접근하여 이미지를 삭제하도록 요청할 수 있는 공개 웹사이트와 달리 텔레그램은 비공개 암호화 메시징 앱이라는 점이다.

사용자는 종종 익명이며, 방은 "비밀" 모드로 설정될 수 있으며, 그 내용은 흔적 없이 빠르게 삭제된다. 이로 인해 범죄 행위가 번성할 수 있는 주요 공간이 됐다. 범죄의 온상인 셈이다.

지난주 한국 정치인과 경찰은 이러한 범죄를 조사하고 가해자들을 법의 심판대에 세우겠다고 강력히 대응했다. 1일 서울경찰청은 아동 가짜 음란물 배포에 관여한 텔레그램에 대한 수사를 검토하겠다고 발표했다.

이 앱의 창립자인 파벨 두로프(Pavel Durov)는 지난주 프랑스에서 아동 포르노 공유를 허용한 혐의를 포함해 앱과 관련된 여러 범죄에 공모한 혐의로 기소됐다.

하지만 여성 권리 운동가들은 한국 당국이 텔레그램에서 성적 학대를 너무 오랫동안 방치했다고 비난했다. 한국은 이전에도 이런 위기에 직면했기 때문이다. 지난 2019년에 성매매 조직이 텔레그램을 이용해 여성과 어린이들에게 성적으로 노골적인 이미지를 만들고 공유하도록 강요했다는 사실이 밝혀졌다.

당시 경찰은 텔레그램에 수사에 도움을 요청했지만, 앱은 그들의 7가지 요청을 모두 무시했다. 주모자는 결국 40년 이상의 징역형을 선고받았지만, 검열에 대한 우려 때문에 플랫폼에 대한 조치는 취해지지 않았다.

한겨레 보도 기자는 “그들은 주요 인물들에게는 형을 선고했지만 그 외에는 상황을 방치했고, 이것이 상황을 악화시켰다고 생각한다”고 말했다.

이번 위기가 터지기 전부터, 한국의 온라인 성적 학대 피해자 지원 센터(ACOSAV)는 이미 딥페이크 포르노의 미성년자 피해자 수가 급격히 증가하고 있다는 사실을 발견하고 있었다.

2023년에 그들은 86명의 청소년 피해자에게 상담을 했다. 올해 첫 8개월 동안만 해도 238명으로 늘어났다. 지난주에만 64명의 청소년 피해자가 더 나왔다. 센터의 리더 중 한 명인 박성혜 씨는 지난주에 직원들이 전화로 넘쳐났고 24시간 내내 일하고 있다고 말했다. 그녀는 “우리에게는 전쟁 상황처럼 전면적인 비상 상황”이라고 말했다.

“최신 딥페이크 기술 덕분에 예전보다 영상이 훨씬 더 많아졌고, 앞으로도 계속 늘어날까 봐 걱정”이라는 게 센터 측의 우려이다.

피해자 상담과 더불어, 이 센터는 유해 한 콘텐츠를 추적하고 온라인 플랫폼과 협력하여 이를 삭제한다. 텔레그램이 요청에 따라 콘텐츠를 삭제한 사례가 몇 건 있었다고 말했다. 그러므로 불가능한 일은 아니라는 견해이다.

여성 권리단체들은 새로운 AI 기술로 인해 피해자를 착취하기가 더 쉬워지고 있다는 사실을 인정하지만, 이는 한국에서 온라인 상으로 표출되는 최신 형태의 여성혐오일 뿐이라고 주장한다.

처음에는 여성들이 온라인에서 언어적 학대의 물결을 겪었다. 그런 다음 스파이 캠 유행이 왔고, 그들은 공공 화장실과 탈의실을 사용하여 비밀리에 촬영됐다. “이것의 근본 원인은 구조적 성차별이며 해결책은 성평등”이라고 84개 여성 단체가 서명한 성명서에 적혀 있다.

이는 구조적 성차별의 존재를 부인하고, 피해자 지원 단체에 대한 예산을 삭감하고, 정부의 성평등부를 폐지하려는 윤석열 대통령에 대한 직접적인 비판이 아닐 수 없다.

청소년 성범죄자를 치료하는 이명화 씨는 딥페이크 학대의 폭발이 갑작스럽게 보일지 몰라도 오랫동안 표면 아래에 숨어 있었다는 데 동의했다. 서울 청소년 문화 센터를 운영하는 상담사 는 “십대들에게 딥페이크는 문화의 일부가 되었고, 게임이나 장난으로 여겨지고 있다”고 강조했다.

이 여사는 “젊은이들을 교육하는 것이 무엇보다 중요하다”면서 “가해자에게 정확히 무엇을 잘못했는지 알려주면 성적 학대로 간주 되는 것을 더 잘 알게 되어 재범을 막는다는 연구 결과”를 인용했다.

한편, 한국 정부는 딥페이크 영상을 제작하고 공유하는 사람들에 대한 형사 처벌을 강화하고, 음란물을 보는 사람들도 처벌할 것이라고 밝혔다.

가해자가 충분히 처벌받지 않았다는 비판이 뒤따르고 있다. 문제 중 하나는 대부분의 가해자가 청소년이라는 점인데, 이들은 일반적으로 청소년 법원에서 재판을 받고, 그곳에서 더 관대한 형을 선고받곤 한다.

채팅방이 폭로된 이후 많은 채팅방이 폐쇄되었지만, 새로운 채팅방이 그 자리를 대체할 가능성이 매우 높다. 한 예로 이 기사를 취재하는 기자들을 겨냥한 ‘굴욕의 방’이 이미 만들어졌다.