“딥페이크 악용, 범정부적 차원서 대책·규제로 대응해야”

방통위·방심위·시청자미디어재단 '딥페이크 성범죄영상물 대응 전문가 토론회'

딥페이크 성범죄 영상물 대응 전문가 토론회. /연합

딥페이크 성범죄영상물 대응을 위한 학술토론회가 방송통신위원회와 방송통신심의위원회, 시청자미디어재단 주최로 12일 열렸다.

이날 토론회에는 신영규 방송통신위원회 정책국장, 류희림 방송통신심의위원회 위원장, 문현석 시청자미디어재단 경영기획본부장, 권헌영 고려대학교 정보보호대학원장, 최경진 가천대학교 법과대학 교수, 정필운 한국교원대학교 일반사회교육과 교수, 문기현 서울디지털성범죄 안심지원센터장, 김영규 한국인터넷기업협회 정책1실장, 김우석 방송통신위원회 디지털유해정보대응과장, 최순욱 너비의깊이(주) 이사, 이상룡 부산광역시교육청 장학과, 이은경 방송통신심의위원회 전문위원 등이 참석했다.

김태규 방송통신위원회 위원장 직무대행은 신영규 방송통신위원회 정책국장이 대독한 축사에서 "최근 정보통신 기술의 발전과 스마트폰 보급의 보편화는 다양한 정보의 습득과 여러 계층과의 커뮤니티 형성 등 우리 생활에 많은 변화를 가져다 주었다"며 "특히 인간의 지능과 유사한 학습추리 적응 논증 등의 기능을 갖춘 인공지능 기술은 학습을 통해 글을 쓰고, 그림을 그리고, 새로운 영상물을 제작하는 등 우리에게 새로운 정보통신 세계를 보여주고 있다"고 말했다.

이어 "그러나 이러한 기술의 발전은 사회에 해학이 되는 불법 정보에 생산 및 유통 등 역기능 등을 또한 동반하고 있다"며 "최근 서울대 및 인하대 사건 등 음란물의 지인 얼굴을 합성한 성적 허위 영상물과 해당 피해자의 개인정보를 텔레그램 대화방을 통해 유통하고 피해자를 고통스럽게 하는 사건들이 발생하고 있다"고 지적했다.

그러면서 "이러한 성적 허위 영상물 제작 유포 행위는 성폭력 처벌법 및 전기통신 사업법에 따른 불법촬영물에 해당하며 피해자에게 회복하기 어려운 피해를 주는 디지털 성범죄"라며 "금전적 이익, 기타 여러 가지 이유로, 학생 교사 군인등 불특정 다수의 피해자에게 디지털성범죄를 행하고 있다. 이에 방송통신위원회와 방송통신심의위원회, 시청자미디어재단은 급속도로 발전하는 인공지능 역기능에 현명하게 대처하고 정보통신 이용자의 피해를 최소화하기 위해 전문가 및 관계부처 여러분을 모시고 토론회를 개최하게 되었다"고 밝혔다.

아울러 "이번 토론회가 급변하는 정보통신 환경에 능동적으로 대처하고 건전한 정보통신 환경 조성 및 이용자를 보호할 수 있는 기회의 장이 되기를 바란다"고 덧붙였다.

류희림 방송통신심의위원회 위원장은 환영사에서 "최근 딥페이크 기술을 악용한 성범죄 영상물은 우리 사회에 심각한 위협이 되고 있다. 이런 디지털 성범죄 영상물이 성인뿐만 아니라 초등생까지 확산함에 따라 국가 재난상황이라는 말이 나올 정도로 범국민적 관심이 되고 있다"고 평가하며 "방송통신심의위원회는 지난달 28일 딥페이크 성범죄 영상물 대응을 위한 10대 종합대책을 발표한 바 있다"고 말했다.

류 위원장은 "이번 딥페이크 성범죄 영상물이 가장 많이 유포된 플랫폼인 텔레그램 측의 사과 및 긴급 핫라인 개설 등 상호 협력 방안을 이끌어 냈다"며 앞으로도 딥페이크 성범죄 영상물 확산을 막기 위해 노력하겠다고 밝혔다.

최철호 시청자미디어재단 이사장은 문현석 시청자미디어재단 경영기획본부장이 대독한 축사에서 "딥페이크 기술을 이용한 영상물은 개인과 가정, 사회 전체에 심대한 피해를 안겨주며 우리 사회에 근본적인 가치와 윤리적 기준을 위협하고 있다"고 지적했다.

이어 "더욱 우려되는 것은 한국이 딥페이크 범죄의 표적이 되는 세계 1위 국가라는 불명예와 함께 누구나 딥페이크 대상이 될 수 있다는 사회적 불안감이 커지고 있다는 사실이다. 특히 피해자와 가해자 다수가 미성년이라는 것은 매우 충격적"이라며 딥페이크 범죄 근절을 위한 지원에 최선을 다하겠다고 밝혔다.

최경진 가천대학교 법과대학 교수는 토론회에서 "딥페이크 관련된 이슈는 전체 인공지능 규제 틀과 접목돼야 한다"며 "생성형 인공지능은 지식재산권 침해 문제를 만들고, 개인정보 침해 문제를 만들고 있는 상황에서 현재의 개인정보 보호법이 개인을 다 보호하지 못하고 있다"고 지적했다.

이어 최 교수는 "딥페이크 기술은 혐오와 편향, 차별 등 윤리 문제나 인권 침해 문제를 유발시킨다"면서 "그 외에도 AI피싱이 문제로 떠오르고 있다. AI피싱은 과거와 다르게 일반 사람이 알아채지 못하고 누구나 다 속아넘어갈 수밖에 없는 피해를 낳는다"고 짚었다.

또 딥페이크 악용 사례로 '가짜뉴스'를 언급하며 "페이크 뉴스는 우리 사회에 큰 죄악이다. 다양한 영상물과 음성물이 난무하고 있는 현 상황에서 일반인들은 이것이 진실인지 거짓인지 알 수가 없다. 인공지능이 가져온 가장 큰 해학"이라고 평가했다.

그러면서 "이런 딥페이크 기술은 선거에 악용될 수 있다. 유권자들이 뉴스를 보고 투표를 했는데 나중에 확인을 해봤더니 사실이 아닌 상황도 펼쳐지고 있다"면서 "이는 우리 사회를 지탱하고 있는 민주주의 시스템을 위협하는 심각한 문제"라고 강조했다.

한국인터넷법학회장인 정필운 한국교원대학교 일반사회교육과 교수는 "딥페이크 성범죄 영상물 대응 전략에는 크게 기술적 대응과 교육적 대응, 온라인 서비스 제공자의 자율규제 강화 등이 있다"면서 "딥페이크 악용에 대해 법적 대응을 할 경우 온라인 서비스 제공자에 대해 딥페이크 성범죄영상물 대응에 대한 일정한 의무를 부과하고 이를 위반하는 경우 제재하는 시스템이 필요하다"고 주장했다.

정 교수는 "이러한 의무부과와 제재 근거에 바탕하여 온라인 서비스 제공자가 신속하게 이를 제거하고 대응할 수 있도록 협력체계 구축이 필요하다"면서 "법의 대응 수위를 높이고 행위자 처벌 집행을 강화해야 한다"고 강조했다.

이외 토론자들도 "딥페이크 기술 악용에 대한 시급한 규제와 대책이 필요하다"면서도 "인공지능 분야에서 이용되는 딥페이크 기술에 대해서 분명한 분리를 통한 규제가 필요하다. 엔터테이먼트 분야에서는 오래된 가수나 연예인들 영상을 딥페이크로 새롭게 작업하는 경우가 있고, 최근 모자이크 처리를 하는 뉴스 영상들에서 자연스러운 딥페이크 영상으로 대체하는 경우가 많다"고 말했다.

그러면서 "우리가 딥페이크 악용에 대한 법적 기준을 만들 때 이를 잘 구분을 해서 대책을 세워야 한다"고 강조했다.