총선 앞두고 ‘딥페이크’ 비상…“민주주의 위협될 수 있어”

기술 발달로 실제와 구분하기 어려운 정도
"딥페이크 의심 콘텐츠 접속 차단 등 조치 필요"

총선을 60여일 앞두고 인공지능을 이용한 '딥페이크' 영상에 대한 우려가 커지고 있다. 딥페이크를 활용한 가짜뉴스가 '정치 혐오'와 맞물릴 경우 유권자들의 혼란을 초래할 수 있다.

총선이 60여 일 앞으로 다가왔지만 인공지능(AI)를 이용한 '딥페이크' 영상이 여전히 활개를 치고 있다. 딥페이크 영상 기술이 갈수록 정교해지면서 일반인들은 구별이 힘들 정도다. 특히 딥페이크를 활용한 가짜뉴스가 정치인 습격 등 정치 혐오적 선동 또는 테러와 맞물려 우리 사회에 큰 위협으로 작용할 가능성이 있다는 지적이 나온다.

4일 중앙선거관리위원회에 따르면 딥페이크 영상을 활용한 선거운동이 지난달 29일부터 금지됐다. AI를 활용해 만든 영상·사진·음향을 본인이나 상대 후보의 낙선을 목적으로 사용하는 것을 금지한다는 것이 주요 내용이다. 다만 특정 정당이나 후보를 지지하는 내용이 없는 단순 '투표 참여 권유'에는 딥페이크를 활용할 수 있다.

법적인 규제 장치는 마련됐지만 실효성에 대해서는 의문이 제기되고 있다. 선관위는 딥페이크 영상 등을 활용한 선거운동 의심 사례 발견 시 △검증요원 모니터링 △딥페이크 판별프로그램 검증 △AI 전문가 검증 등 3단계를 거쳐 법 위반 여부를 가린다.

하지만 선관위의 검증 과정이 실제 영상 확산 속도를 따라잡지 못할 것이라는 지적이다. 누군가 작정하고 딥페이크 영상을 제작해 퍼뜨릴 경우 사실상 막을 방법이 없기 때문이다. 특히 정치적 편향성을 지닌 집단의 선전·선동에 악용될 가능성도 매우 높아 유권자들에게 혼란을 야기하고, 선거에도 악영향을 미칠 수 있다는 우려도 있다.

대선 분위기가 한창인 미국에서는 딥페이크로 만들어진 오디오에 조 바이든(Joe Biden) 대통령이 등장했다. 이 딥페이크 오디오에서 바이든 대통령은 유권자들에게 투표하지 말라고 호소해 논란이 됐다. 한국에서도 지난해 지방선거를 앞두고 국민의힘 지지자로 추정되는 인물이 'AI 윤석열'을 활용해 당시 국민의힘 남해군수 후보를 지지하는 영상을 제작해 물의를 일으키기도 했다.

대량의 영상 콘텐츠가 유통되는 구글, 틱톡 등의 플랫폼 사업자들은 딥페이크 악용 콘텐츠 차단에 적극 나서고 있다. AI를 활용해 제작한 영상을 게재할 경우 그 사실을 고지하도록 의무화했다. 국내 최대 포털사이트인 네이버 역시 총선을 앞두고 AI 댓글, 딥페이크 탐지 기능을 도입키로 했다. 선거 관련 허위 댓글 신고 기능과 AI가 생성한 기사를 따로 표시하는 기능도 적용했다.

임종인 고려대 정보보호대학원 석좌교수는 "선거에서 딥페이크를 이용한다는 건 보통 여야 지지자들이 가짜 이미지나 영상 등을 조작해 허위 정보를 만들어 퍼트리는 식"이라며 "하지만 법을 통한 규제가 애매하고, 범인을 검거하더라도 VPN(가상사설망)이나 외국 IP를 이용했을 경우엔 수사 자체가 쉽지 않을 것"이라고 설명했다.

임 교수는 "방송통신위원회 등에서 행정지도를 한다거나 자율규제를 통해 허위 조작정보 또는 딥페이크로 의심되는 콘텐츠가 올라올 경우 접속을 막는 등의 방법을 취해야 한다"며 "딥페이크 콘텐츠는 자칫 민주주의에 위협이 될 수도 있어 보다 확실한 대응책 마련이 절실해 보인다"고 강조했다.