'친구 얼굴로 음란물 제작' .. 청소년 파고드는 딥페이크(Deepfake) 성범죄를 예방하기 위한 5가지 방법

 

 

 

인공지능(AI) 기술을 활용해 이미지 합성으로 손쉽게 음란물을 만드는 '딥페이크' 성범죄가 성인들을 넘어 10대들 사이에서도 확산하고 있다.

 

올해 들어 7월까지 해당 범죄로 경찰에 붙잡힌 10대 청소년이 서울에서만 10명에 달하는 것으로 확인됐다. 특히 이 같은 딥페이크 음란물 다수가 주변인의 이미지를 토대로 만들어진다는 점에서 '지인 능욕물'이라고 불리며 텔레그램 등 사회관계망서비스(SNS)에서 은밀하게 유포되고 있는데, 누구나 피해자가될 수 있어 범죄의 불안이 일상 속으로 스며드는 모양새다.

 

학교서 확산하는 '딥페이크 성범죄'…SNS로 손쉽게 접근

 

최근 인하대의 한 동아리 여학생들을 집중적으로 노린 불법 합성물 제작·유포 대화방의 운영자 등이 검거되면서 딥페이크 성범죄의 심각성이 재부각된 가운데, SNS에선 실제 피해 여부가 확인되진 않았지만 전국 중·고교, 대학교 이름이 언급된 '딥페이크 피해자 명단'이라는 글까지 나돌면서 파장이 커지고 있다.

 

실제로 텔레그램의 채팅방 검색을 지원하는 '텔레메트리오'에서 '겹지인', '지역명'등 키워드를 활용해 검색한 결과, 7천여 명이 구독 중인 '전국 지역별 겹지인' 텔레그램 대화방에는 피해자의 소속 학교, 출생 연도, 이름 등 개인 정보가 적힌 게시글들이 다수 발견됐다. 해당 방에 들어가면 다시 전국 중·고교, 대학교 이름 등이 달린 딥페이크 불법합성물 공유방으로 연결되는 식이다.

 

한 대화방당 많게는 수천 명이 참여 중인 곳도 있는 것으로 알려졌다. '겹지인'이란 겹치는 지인의 줄임말이다. 가해자들은 이른바 '겹지인방'이라는 이름으로 텔레그램 대화방을 만들어 인스타그램, 카카오톡, 페이스북 등 SNS에 있는 여성 지인의 얼굴 사진을 나체에 합성해 딥페이크물을 제작, 공유하거나 제작을 요청받아 만들어주기도 한 것으로 전해졌다.

 

각종 SNS에서는 미성년자들의 딥페이크 성범죄 관련 글도 어렵지 않게 접할 수 있었다. 엑스(X, 옛 트위터)에는 지역의 한 고등학교에서 남학생이 여자 동급생을 상대로 딥페이크 범죄를 저질러 학교가 입 단속에 나섰다는 내용의 글이 올라왔다.

또 다른 지역 고등학교 재학생이라고 밝힌 엑스 이용자 B씨는 "우리 학교에서도 (딥페이크) 터져서 지금난리 났다"며 "4~5월부터 경찰 조사 진행하고 있었고 강력히 처벌하라는 이사장 말씀대로 하나하나 퇴학처리 중"이라는 게시글을 올리기도 했다.

 

이러한 사회문제가 앞으로 더 커질것으로 예상되는 딥페이크 범죄.. 예방을 위한 5가지 방법

 

무슨 일이 일어나고 있는지 이해할 수 있도록 스스로 교육하세요.

 

온라인에서 개인 정보를 공유하는 것은 잠재적으로 대중과 정보를 공유하는 것이라는 것을 알아야 합니다. "온라인에서 콘텐츠를 공유하는 것이 무엇인지에 대한 일종의 재구성이나 재이해가 필요합니다. 언제 물건을 공유하는 것이 적절한지, 언제 공유하지 않는지 말입니다. 또한 부모가 자녀에게 반 친구들의 딥페이크 포르노를 만드는 것이 왜 옳지 않은지에 대해 이야기하는 것도 중요합니다."

 

언론을 활용하고 지원하세요.

 

"언론이 하는 역할을 아는 것이 중요합니다. 때로는 그것이 회사의 정말 문제가 있는 행동이나 회사가 가능하게 하는 문제가 있는 행동에 대한 유일한 균형추와 같기 때문입니다."  

"왜냐하면 주식에 영향을 미치는 나쁜 언론이 있을 때, 주주들의 생각에 영향을 미치고, 벤처 캐피털리스트들의 생각과 그들이 얼마나 많은 돈을 얻을 수 있는지에 영향을 미치기 때문입니다. 이것이 우리가 변화를 만드는 방법입니다.

우리는 저널리스트들이 그것에 대해 쓰게 해야합니다. 회사들은 그것에 주의를 기울입니다. 그것은 시장 전체에 반향을 일으킵니다."

 

디지털 방관자가 되세요.

 

누군가가 당신과 합의하지 않은 포르노를 만들거나 공유한다면 - 딥페이크든 아니든 - 그것을 보지 말고, 관여하지 말고, 공유하지 말고, 심지어 온라인에서 검색하지도 마세요. 왜냐하면 알고리즘이 더 많은 사람들에게 더 많이 제공하도록 훈련되기 때문입니다.

 

온라인에서 이미지와 정보에 대한 디지털 인벤토리를 만드세요.

 

얼굴이나 신체 이미지를 게시하는 사이트를 적극적으로 확인하세요. 각 사이트나 앱에서 제공하는 안전 기능을 사용하세요. 여기에는 아는 사람만 Facebook에서 사진을 볼 수 있도록 하는 것과 같은 기본적인 모든 사항이 포함됩니다. 무슨 일이 발생하면 즉시 사이트에 보고해야합니다. 어떤 사이트는 사이트에서 원하지 않는 콘텐츠를 삭제하는 방법에 대한 가이드 와 콘텐츠 제작자를 위한 디지털 성폭력 방지 가이드가 있고 이러한 원칙은 누구나 사용할 수 있습니다. 

 

이미지를 변경하거나 보호하는 도구와 앱을 찾으세요.

 

아직 새로운 분야이지만 개발자들은 Nightshade 와 같은 도구를 포함하여 온라인에 게시된 이미지를 보호하고 "오염"시키는 기술을 개발하고 있습니다. 최근 들어 필요성이 커짐에 따라 이러한 문제를 해결하기 위한 더 많고 더 나은 도구가 개발될 것입니다.