내 아이가 위험하다, 딥페이크 성범죄

[이석원*성교육전문가]

 

AI 시대의 딥페이크 성범죄

요즘 딥페이크 성범죄로 사회가 떠들썩합니다. 굉장히 여기저기에서 난리인데요. 너무나 안타까웠던 건 딥페이크 성범죄는 예견된 참사였다는 것입니다. 단순히 AI 기술을 넘어서서 인성에 대한 교육이 정말 중요하고 필요한 시대입니다.

 

우리는 성교육이 매우 필요하고 중요한 시대에 살고 있습니다. 과거에 성인 비디오를 봤던 시대와 너무 다르죠. 1초도 안 돼서 음란물 같은 잘못된 것에 노출이 돼 있습니다. 정말 빨라졌어요.

예전에 5세짜리 남자아이가 어떤 SNS상에서 숏폼으로 동물과 성관계하는 영상을 봤다고 합니다. 너무나 끔찍하죠. 그런데 아이가 아무것도 몰랐다가 같은 반에 있는 유치원 한두 명을 모아놓고 잘못 봤던 것들을 따라 한 거예요. 그래서 그 어린이집이 발칵 뒤집혔었습니다.

여러분 생각해 보세요. 무조건 그 아이만의 잘못일까요? 그 아이가 왜 따라 했죠? 그 나이에 맞지 않는 잘못된 콘텐츠들을 봤잖아요. 요즘 이런 일들이 여러분 정말 많이 일어나고 있습니다.

 

AI 시대에는 우리가 모두 ‘디지털 인간’입니다. 지하철이나 버스를 타보세요. 사람들이 다 뭐 하고 있죠? 핸드폰만 보고 있죠. 그러니까 우리 몸은 여기에 있는데 정신은 바로 디지털에 있습니다. 우리는 지금 스마트폰에 길들여져 있어요. 그래서 이 성폭력과 성범죄의 양상도 오프라인뿐만이 아니라 온라인상에서 마구잡이로 이뤄지고 있다는 겁니다. 그러니까 성폭력에 대한 경계가 없어졌다는 것입니다.

지금의 시대는 현실과 디지털은 하나입니다. AI 시대라고 하고 있잖아요. 잘만 쓰면 비서가 되기도 하고 여러 도움을 줄 수도 있겠지만, 아직 미숙하거나 잘 모르는 아이들이 쓰게 된다면 어떻게 될까요? 굉장히 사회적인 파장이 올 수 있다고 합니다. 이게 왜 무섭냐면요? AI를 통해 인간이 단순히 머릿속에 상상하는 것을 넘어서서 그 모든 것들을 일순간에 만들 수 있다고 합니다. 촬영자도, 편집자도, 유통업자도 없이 그냥 바로 영상으로 구현해서 만들어 줄 수 있다고 합니다. 그래서 바로 그 안타까운 결과가 바로 딥페이크 성범죄입니다. 지금 사회적으로 굉장히 파장되고 있고 끔찍한 사건이죠. 특히 이 기술은 사람의 얼굴을 성적인 이미지나 영상에 합성해서 마치 실제로 그런 행동을 한 것처럼 구현해 냅니다. 지금 이 사건 때문에 수많은 피해자가 생겨나고 있잖아요.

올바르게 사용하는 법은 가르치지 않았다

딥페이크 기술이 왜 문제가 되었고 10대들이 많았을까요? 딥페이크 기술은 이제 누구나 쉽게 접근할 수 있는 만큼 대중화가 되었습니다. 사진이나 영상 앱을 보시면 얼굴도 다 뽀샵(사진 보정)처리하고 바꿀 수 있잖아요. 어떤 앱은 얼굴 주변에 여러 이미지도 만들어주고…. 이런 기술들이 정말 많이 발전했어요. 소프트웨어라 스마트폰 앱만 있으면 누구나 딥페이크 영상 제작이 가능합니다.

과거에는 단순히 비디오나 책, 인터넷 같은 거로 보기만 했는데, 이제 아이들이 직접 제작까지 하게 되었다는 것입니다. 단순히 친구나 선생님이 아니라 엄마, 누나, 여동생 사촌 등 가족까지 성 착취 합성물이 곳곳에서 만들어지고 있습니다. 어떤 텔**램 단체 채팅방에서는요, 2,000여 명이 가족사진을 공유하며 불법 학습물을 만들었다고 합니다. 그 내용을 보면 정말 이게 인간이 만든 것인가 생각할 정도로 끔찍합니다. ‘엄마 사진 공유 하니까 영웅이 된 것 같다.’ 이런 내용이 너무 많아요. 정말 경악스럽습니다.

 

우리가 AI나 챗GPT 기술에 관해서만 얘기했지 언제 아이들한테 인성교육, 인권교육, 디지털 윤리교육을 한 적 있나요? 기껏해야 하는 교육이 ‘안돼요, 싫어요’ 같이 조심하라는 교육밖에 못 받았어요. 정말 우리가 반성해야 합니다. AI의 기술을 넘어서서 올바르고 분별력 있게 사용하는 방법을 누군가 알려줘야 해요. 어른이 알려줘야 합니다.

물놀이라고 생각해 보세요. 아이들을 그냥 물에 들여보내나요? 준비운동 하죠. 왜? 위험할 수 있으니까. 그리고 깊은 물에 들어갈 때는 구명조끼를 입힙니다. 그건 누구의 역할이에요. 어른들의 역할이잖아요. 어른들이 안전에 대한 교육을 한 번도 해주지 않고 챙겨주지 않고서는 사건 터지면 누구 잘못이래요? ‘저 아이가 잘못한 거야. 부모의 문제야.’ 다 개인 탓을 합니다. 여러분 딥페이크 성범죄는 절대 개인 간의 문제도 아닙니다. 사회적인 문제고요. 구조적인 문제라는 걸 꼭 아셨으면 좋겠습니다.

딥페이크 성범죄에 대처하는 법

그럼 어떻게 대처할 수 있을까요? 만약에 그 피해 촬영물이 발견된 즉시 경찰서에 신고해야 합니다. 그리고 피해자의 개인 SNS 등의 내용들을 지우고 보호할 수 있도록 조치해야 합니다. 그다음 가장 중요한 건 신고 후에 ‘디지털 성범죄 피해자 지원센터(02-735-8994 / 365일 24시간 상담 가능)’가 있습니다. 반드시 전화하셔서 삭제를 요청하셔야 합니다.

디지털성범죄피해자지원센터(이미지 누르면 사이트로 연결됩니다)

 

딥페이크 성범죄는 시작에 불과합니다. 이건 반드시 양육자, 부모, 어른들이 알아야 한다고 생각합니다. 성범죄자가 여러분의 목소리와 얼굴을 따라 할 수 있습니다. 인터넷에 찾아보세요. *튜브에 보면 프레드 머큐리, 김광석 씨 등 고인이 되신 사람의 목소리까지 따라 합니다. 이게 발달을 하면요 전화로 여러분 목소리를 흉내 낼 수 있습니다. 그러면 아이들이 뭔지도 모른 채 그루밍(성을 착취 혹은 유린하기 위해 사전에 친밀, 신뢰, 지배 관계를 설정하는 행위) 당하고 성폭력을 당할 수 있다는 것이죠.

 

제가 운영하는 센터에서 성범죄에 관련된 성폭력 대응 상담을 진행하고 있어요. 대부분 관련된 상담이나 교육을 언제 들으러 오는지 아십니까? 네, 예방 차원이 아니라 꼭 사건이 터진 뒤에 오세요. 그럴 때가 가장 마음이 아픕니다.

 

이제 우리 어른부터 다가오는 AI 시대에 맞춰서 공부를 미리 하고 현명하게 준비해야 합니다. 아이들에게 어떻게 교육해야 할지 세 가지 알려드리도록 하겠습니다.

 

첫 번째는 공부도 중요한데 공부보다 인성교육부터 하자. 성교육을 정말 중요하게 생각하자는 말씀을 드리고 싶어요. 다른 사람을 존중하는 방법 성교육으로 알려주는 거죠. 공감 능력이 올라가야 이런 범죄들도 하지 않게 될 것이고요. 미리 방지할 수 있다는 것입니다.

두 번째는, 민감성. 바로 감수성을 키우라는 것입니다. 여러분 ‘경계 존중’ 아시죠? 사람마다 경계가 있잖아요. 그 경계를 존중하고 특히 인권, 인간 대 인간으로서 차마 이런 것들은 하면 안 된다는 인식을 교육으로 알려줘야 됩니다. 어떤 경우에라도 인간을 성적 대상화, 상품화해서는 안 된다고 말해줘야 합니다. 바로 우리가 소중한 존재라고요.

세 번째는 나만 잘살고 나만 소중히 여기면 될까요? 주변도 소중하죠. 가해자, 피해자가 있을 때 피해자 편에 서야 하죠. 내가 거기에 있지 않더라도 피해자가 생겼으면 도와줄 수 있도록 어른이 안내해야 합니다. 근데 지금의 실정이 어떤지 아십니까? 학교에서 힘센 애가 약한 애를 괴롭히면 애들이 낄낄낄 웃어요. 그게 과연 올바른 학교생활일까요? 올바른 문화일까요? 우리 아이가 이 문제에 대해 정색하고 어른에게 도움을 요청해서 그 문제가 해결될 수 있도록 나뿐만이 아니라 남도 도울 수 있도록 교육을 통해서 안내해야 합니다. 나만 잘사는 게 아니라 다른 친구들을 보호할 수 있도록요.

 

관련된 사례가 있어요. 딥페이크 예방 교육을 받은 중학생 아이가 있었습니다. 이 아이가 강의를 듣고 ‘나를 사랑해야겠다, 나를 존중해야겠다’라고 후기를 남겼는데요. 딥페이크 성범죄가 터지기 얼마 전에 이 학생한테 연락이 왔습니다. SNS로 “선생님. 제 친구 중 일진이 있는데 단톡방에 지금 너무 나쁜 것들을 계속 올리고 있어요. 저는 거기서 조용히 있는데요. 제가 만약에 그 방에 나가면 저를 왕따시키겠대요. 어떻게 해야 하죠?” 그래서 제가 조언을 했어요. “너의 힘으론 힘들 수 있겠지만 정말로 용기 있다. 엄마, 아빠, 선생님에게 꼭 도움 요청해.” 그래서 그 아이는 사전에 그 방을 나갔고요. 그 얼마 있다가 그 범죄가 터지게 되었습니다. 난리가 났죠.

보세요. 이렇게 교육을 받고 분별력이 있는 아이들은 그런 문제가 발생했을 때 도움을 요청할 수 있습니다. 언제 어디서든지 너를 도와줄 수 있다고 사회가 그런 교육과 제도를 만들어가야 합니다.

 

앞으로 이 딥페이크 성범죄를 비롯한 AI의 범죄들이 더 많이 벌어질 것입니다. 단순히 법으로 때려잡는 게 아니라 이제부터 모두가 각성해서 가정, 학교에서부터 국가가 모두 성교육은 인성교육이자 인권교육으로서 필수로 해야 합니다. 아이들을 누가 보호해줘야 해요? 우리 어른들이 힘을 써서 보호해줘야 합니다. 더 이상 문제가 터지고 나서 오는 게 아니라 사전에 방지하는 교육과 제도가 마련돼야 합니다.

아이가 불법 영상물이나 성폭력에 노출되었는지 아는 방법

우리 아이가 불법 영상물 또는 성폭력에 노출됐을 때 어떻게 알 수 있냐? 그거는 굉장히 쉽지 않습니다.

 

그런데 얼마 전 저희 기관에 왔었던 좋은 사례 알려드릴게요. 강의도 들으시고 성교육 책도 읽으신 양육자님이셨는데요, 4명의 자녀를 키우신다고 합니다. 어느 날 아이 방에 그냥 노크 없이 들어갔대요. 아이가 초등학생이었거든요. 양육자님이 들어갔더니 깜짝 놀라 핸드폰을 던진 거예요. 양육자 입장에서 뭔가 약간 찝찝한 촉이 왔대요. 알고 봤더니 자신의 아이가 카톡을 통해서 불법 영상을 올리고 있었던 거예요. 업로드 상태가 96%였고 조금만 늦었어도 하마터면 큰일 날 뻔했습니다.

그런데 여기서 양육자님은 굉장히 현명하십니다. 보통은 어떻게 해결할까요? “조심해! 보지 마!” 이렇게 하겠죠. 이게 아니었습니다. 당장 성교육 기관에 전화해서 “대표님, 우리 아이가 뭔가 나쁜 영상을 올렸는데 이거 왠지 한 번이 아닌 것 같아요. 어떻게 해야 하죠? 교육 좀 빨리 잡아주세요.”라고 하면서 성교육 기관에 교육을 요청했어요.

상담을 받았는데 깜짝 놀랐어요. 아이가 예전부터 불법 합성물과 음란물 등 무려 1테라가 넘게 외장하드에 있었던 거예요. 상담해 보니까 왜 그런지 아십니까? 과거가 이 아이가 성폭력을 당한 경험이 있어요. 그때부터 잘못된 성 관념이 심어져서 이렇게 봤다고 합니다. 다행히 상담을 통해서 굉장히 많이 회복했고요. 지금은 건강하게 자라고 있어요.

일반적인 양육자라면 그런 상황 속에서 보통은 그냥 넘어가시죠. 그런데 이분은 성교육을 들으니까 뭔가 심상치 않다고 느낀 거예요. 그럴 때 가장 좋은 방법은 주변에 전문가에게 반드시 도움을 요청하셔야 합니다. 일반적인 입장에서 알기 어렵기 때문이죠.

그리고 아이들의 채팅방을 잘 보세요. 평소에 쓰는 언어들이 굉장히 거칠지 않은지, 뭐 섹스, 자위뿐만 아니라 매우 나쁜 언어들을 쓰고 있지 않은지 유심히 살펴봐야 해요. 앞선 사례의 양육자님은 교육을 통해서 그걸 아셨기 때문에 굉장히 현명하게 대처했던 겁니다.

 

제가 행위자(가해자) 아이들을 교육하고 있는데요. 그 가정이 행복하지 않아요. 우리 아이가 가해자라는 것을 알았을 때 그 충격은 말로 할 수 없습니다. 아이를 만날 때 그 한 아이를 바꾸면 하나의 세상이 바뀝니다. 챗GPT 시대에 중요한 건 기술이 아니라 한 사람을 정말 귀하게 여기는 마음이 중요합니다. 우리 아이들 손 잡고 꼭 도와주세요.

 

성교육은 나를 사랑하고 내가 사랑하는 사람을 가장 존중하고 사랑하는 방법입니다. 어른이 먼저 공부하고 변해야 우리 아이들이 변하고요. 어른이 안전한 울타리를 만들어야 아이들이 자라는 세상이 안전해집니다. 단순히 국·영·수 뿐만이 아니라 인성교육, 인권교육, 다른 사람을 존중하는 방법을 가정과 현장에서 실천하시길 바랍니다.