AI 군사 회의, 핵사용 결정 ‘인간책임’ 강조… 강력통제 공감

한국, 2024 REAIM 고위급회의 개최
조태열·김용현 외교국방 장관 참석
AI군사역량 강력통제…테러단체 강력통제

조태열 외교부 장관과 김용현 국방부 장관이 10일 오후 서울 중구 웨스틴조선호텔에서 진행된 '2024 REAIM 고위급회의 라운드테이블'에서 참석자들과 함께 기념 촬영하고 있다. 제공=국방부

세계 96개국이 AI(인공지능)의 군사분야 적용에 대한 '인간의 책임과 책무'를 강조하는 청사진에 합의했다. 특히 핵무기 사용 등 모든 군사적 행동에 대한 인간의 통제와 개입을 유지해야 한다는 것에도 합의했다. 또 AI 군사역량을 테러단체 등이 사용할 수 없도록 하기 위한 강력한 통제 조치에도 의견을 모았다.

한국 정부가 주최한 이번 '2024 AI의 책임 있는 군사적 이용에 관한 고위급 회의'(REAIM)에서 참가국들은 AI 규범 마련을 위한 선언적 성격의 'REAIM 행동을 위한 청사진' 문서를 채택했다.

참가국들은 문서에서 "핵무기 없는 세계라는 궁극적 목표를 저해하지 않는 가운데, 핵무기 사용에 관한 주권적 결정 관련 정보 제공 및 실행에 있어 필수적인 모든 행동에 대해 인간의 통제와 개입을 유지하는 것이 중요하다"고 밝혔다.

참가국들은 AI 군사이용과 관련해 △AI 적용은 윤리적·인간중심적일 것 △AI 역량은 국내법·국제법에 합치하게 적용될 것 △인간이 AI 적용의 책임·책무를 질 것 △보호장치 마련을 통해 AI 적용의 신뢰성을 보장할 것 등의 원칙에도 합의했다.

특히 "군사분야 AI 적용이 국제 평화·안보 및 안정을 유지하며 저해하지 않는 방식으로 개발·배치·이용돼야 한다"며 "인도주의적·법적·안보적·기술적·사회적 또는 윤리적 관점에서 다양한 도전, 위험과 연관될 수 있으며 이러한 도전과 위험이 식별·평가돼야 한다"고 강조했다.

이를 위해 참가국들은 국제연합(UN) 헌장를 비롯한 국제인도법, 국제인권법 등을 적용할 수 있도록 국제법에 적용될 수 있게 해야 한다는 데에도 공감했다. 아울러 군사 분야에서 잠재적으로 큰 영향을 미칠 수 있는 AI 요소로 △AI 기반 무기체계 △전투 작전 관련 AI기반 의사결정 지원체계 △AI를 이용한 사이버 작전 △AI를 이용한 전자전, △AI를 이용한 정보전 등을 꼽았다.

참가국들은 "기술의 급속한 개발과 발전에 발맞추기 위해 군사분야 AI의 거버넌스에 대한 유연하고 균형적이며 현실적인 접근이 필요하다는 점을 인정한다"며 "인류의 미래를 위해 책임있는 AI를 정립하는 노력을 이어가는 과정에서 국가들의 동참을 초청하며 여타 유관 이해관계자들이 이를 지지·관여하는 것을 환영한다"고 했다.

◇한국 정부, 유엔총회 차원 후속조치 추진… 국제규범 물꼬

이번 청사진은 회의 결과물을 담은 선언적 성격의 문서로 법적 구속력이 있는 국제 조약과는 성격이 다르다. 이에 참가국들은 유엔 주도로 이 청사진이 이뤄지기를 희망하고 있다. 외교부는 회의 결과 문서가 유엔 결의까지는 아니지만 한국 주도로 이뤄진 첫 국제회의란 점에 의의가 있다고 평가하고 있다. 아울러 회의 미참가국도 향후 동의할 수 있는 열린 성격의 국제회의인 만큼 국제 규범 마련의 물꼬를 텄다는 데에도 의의가 있다는 평가도 나온다.

외교부 당국자는 이와 관련해 최근 취재진에게 "여러 국가와 국제기구 차원에서 관련 규범을 마련하는 과정이 있을 것"이라며 "유엔 총회에서도 다루게 될 가능성도 있다"고 밝혔다.

조태열 장관은 폐회사에서 "AI의 이중성은 군사 분야의 AI를 통제하는 규범적·제도적 체계를 구축하는 복잡성을 보여준다"며 "하지만 부정할 수 없는 진실은 기술이 아니라 우리 의지와 선택이 미래를 결정한다는 것"이라고 말했다. 이어 "우리는 원칙을 구체적 행동으로 실천하도록 노력하고, 이행 조치를 마련하기 위해 노력하며, 동시에 기술 발전 속도에 발맞추려 노력할 것"이라고 덧붙였다. 한국 정부는 이번 문서를 토대로 유엔총회 차원에서 후속 조치가 이뤄질 수 있도록 추진할 방침이다.

전날부터 이틀간 서울에서 열린 이날 고위급회의엔 지난해 1차 회의를 공동 주최한 한국·네덜란드를 비롯해 싱가포르·케냐·영국 등이 공동주최국으로 참여했다. 이번 행사엔 96개국에서 2000여명이 참석했고, 각국을 대표하는 장차관 38명이 자리했다.