‘AI 얼굴 합성’ 앱 하나로 뚝딱… 철없는 10대들의 ‘범죄놀이’

피해자 10명 중 3명이 '미성년자'
가해자도 10대가 74%에 달해
쉬운 영상물 제작에 단체방 공유
기업 법적책임 등 대책마련 시급
"정부 전담기구·관련 인력 필요"

딥페이크(Deepfake) 기술을 악용한 범죄의 가해자와 피해자가 모두 10대 청소년인 사례가 지속 증가하면서 딥페이크 기술이 단순한 오락을 넘어 심각한 사회적 문제로 부각되고 있다.

28일 경찰청에 따르면 딥페이크 범죄에서 10대 청소년이 주요 가해자로 연루되는 비율은 지속 증가하고 있다. 2021년 전체 피의자 78명 중 10대가 65.4%(51명)를 차지했으나, 2023년에는 전체 120명 중 75.8%(91명)로 상승했다. 올해도 7월 기준 10대 피의자가 전체 178명 중 73.6%(131명)에 달했다.

미성년자 피해도 급증하고 있다. 여성가족부 산하 한국여성인권진흥원의 자료에 따르면 올해 1월부터 8월 25일까지 디지털성범죄피해자지원센터(디성센터)에 딥페이크 피해 지원을 요청한 781명 중 36.9%에 해당하는 288명이 10대 이하 미성년자로 집계됐다. 이는 2022년 64명에서 2024년 288명으로, 2년 사이 4.5배나 증가한 수치다.

딥페이크 피해는 청소년들 사이에서 급속히 확산되고 있다. 충북 충주에서는 지난 26일 한 고등학교 남학생이 또래 여학생의 얼굴에 음란물을 합성한 사진을 만들어 공유한 혐의로 경찰 조사를 받고 있다.

대전에서는 지난 27일 여고생 B양이 자신의 얼굴이 합성된 딥페이크 영상물이 유포된 사실을 발견하고 경찰과 교육청에 신고해 경찰이 수사 중이다.

지난 3월엔 경남 하동에서도 중학교 남학생 6명이 또래 여중생 12명을 상대로 딥페이크 성착취물을 제작해 돌려본 혐의로 경찰 조사를 받고 있다. 이들은 스마트폰 앱을 통해 딥페이크 영상을 만들어 텔레그램 단체방에 공유해 돌려본 것으로 전해졌다.

이처럼 손쉽게 불법 영상물을 제작할 수 있는 기술이 보급되면서 청소년들의 딥페이크 범죄를 부추긴다는 분석이다. 10대 청소년들은 스마트폰을 통해 딥페이크 앱을 손쉽게 확보할 수 있기 때문이다. 딥페이크 앱은 최근 구글 플레이스토어 등에서 '딥페이크' 'AI 얼굴 합성' 등의 키워드로 쉽게 다운로드 가능하며, 누구나 딥페이크 영상을 제작할 수 있다. 이 앱들은 적게는 50만부터 최대 5억회 이상 다운로드되며 인기를 끌고 있다.

전문가들은 이 같은 문제는 정부와 기업들이 딥페이크 기술이 초래할 사회적 문제에 미리 대비하지 않았기 때문이라고 분석했다. 이에 전담기구를 구축하고, 기업의 법적책임을 강조해야 한다고 조언했다.

신경아 한림대 사회학 교수는 "2018년부터 딥페이크 피해자가 발생했음에도 불구하고, 정부가 IT 산업 발전을 이유로 이러한 문제를 방치했다. 그 결과 특히 청소년들 사이에서 딥페이크가 악용되며 많은 피해자가 발생했다. 지금이라도 기술적 진화에 대응할 수 있는 전담기구와 인력을 양성하는 것이 시급하다"고 강조했다.

이수정 경기대 범죄심리학 교수는 "우리나라는 딥페이크와 같은 불법 콘텐츠를 삭제하는 작업이 공공기관의 예산으로 이뤄지고 있다"며 "AI 기술을 활용한 음란물 감지와 삭제 작업을 세금이 아닌 기업의 비용으로 처리하도록 법적 책임을 강화해야 한다"고 말했다. 외국에서는 이미 포털이나 애플리케이션 사업자가 피해자에게 손해배상을 하도록 입법하고 있는 만큼, 우리나라도 이 같은 방식을 도입해야 한다는 것이다.