일본서 AI로 컴퓨터 바이러스 제작 첫 적발

인터넷 공개된 생성형 AI 활용
설계정보 빼내 랜섬웨어 작성
불법목적 감춰 AI답변 얻어내

인공지능 (AI) 활자를 활용한 일러스트레이션. /로이터 연합뉴스

인터넷에 공개된 인공지능(AI)을 악용해 컴퓨터 바이러스를 만들어낸 무직 남성 A(25)씨를 일본 경시청이 체포했다고 요미우리신문이 28일 보도했다.

A씨는 복수의 대화형 생성AI를 통해 바이러스 설계정보를 확보한 뒤 이를 조합해 바이러스를 만들어낸 것으로 알려졌다. 생성형 AI를 활용한 바이러스 작성이 적발된 것은 일본에서 첫 사례다.

수사관계자에 따르면 A씨는 지난 해 3월 자택 컴퓨터와 스마트폰에서 대화형 AI를 활용해 빼낸 불법 프로그램 설계정보를 조합해 바이러스를 작성한 혐의(부정지령 전자적 기록 작성 혐의)를 받고 있다.

이렇게 작성한 바이러스는 공격 대상의 데이터를 암호화하거나 암호 자산을 요구하는 기능을 갖고 있었다.

A씨는 경찰 조사에서 혐의를 인정하며 "랜섬 웨어(몸값 요구형 바이러스)로 돈을 벌고 싶었다. AI에게 물어보면 무엇이든 할 수 있을 것이라고 생각했다"고 진술한 것으로 알려졌다. 하지만 이 바이러스로 인한 피해는 확인되지 않았다.

미국 오픈AI가 공개한 챗GPT 등은 범죄에 관한 답변을 이끌어낼 수 없도록 대응이 강화되고 있지만, 인터넷에 공개된 일부 대화형 생성 AI는 범죄에 악용될 수 있는 정보를 무제한 제공하는 것으로 알려져 있다.

A씨는 AI에게 바이러스 작성 목적을 감춘 채 지시를 내려 파일 암호화와 몸값 요구 등에 필요한 설계 정보를 끌어냈다. 그가 불법적인 방법으로 AI에게 답변을 얻어내는 방법을 인터넷 검색을 통해 알아냈다고 진술함에 따라 경시청은 범죄에 악용된 생성형 AI의 성능도 조사하고 있다.

경시청은 지난 3월에 스마트폰 통신 카드를 불법으로 계약한 혐의 등으로 A씨를 사기 혐의로 체포했다. 그의 자택에서 압수한 컴퓨터 등에서 그가 제작한 바이러스가 발견됐다.