|
AI 정치인의 등장은 논란을 일으키지만, 관련한 과거 설문조사 결과는 이를 긍정적으로 보는 대중의 기대감을 반영한다. 스페인의 IE대학교 연구팀이 2021년 실시한 조사에 따르면, 유럽인의 대다수는 일부 정치인을 AI로 대체하는 것을 지지했고, 중국 응답자들은 AI가 공공 정책을 수립하는 데 더 적극적일 수 있다고 평가했다. 반면, 혁신에 우호적인 것으로 알려진 미국은 AI 정치에 대해 상대적으로 신중한 태도를 보였다.
실제로 AI가 정치에 도입될 가능성은 다양하다. AI를 기반으로 하는 챗봇(Chatbot)의 정치 참여, AI를 활용한 직접 민주주의, 알고리즘 정치 체제(Algocracy) 등은 정치의 새로운 가능성과 한계를 보여준다. 이미 일부 국가에서는 AI 챗봇의 정치적 실험이 진행됐다. AI 챗봇은 인간 정치인과 달리 욕망에 휘둘리지 않고, 휴식이 필요 없으며, 광범위한 지식과 분석 능력을 갖췄다는 장점이 있다. 하지만 AI 챗봇은 불투명한 의사결정 과정, 부정확하거나 조작된 정보 생성, 사이버 보안 위험, 윤리적, 정치적 책임 부재 등 기술적·사회적 한계를 가진다.
물리학자 세사르 이달고는 2018년 TED 강연에서 AI를 활용한 직접 민주주의 모델을 제안했다. 시민들이 자신의 정치적 선호를 AI 에이전트에 입력하면, 이들이 서로 협상해 법안을 작성하는 방식이다. 이는 대표 민주주의의 중간 단계를 제거해 시민의 직접적인 정치 참여를 확대할 수 있다는 기대를 낳는다. 하지만 이 모델은 알고리즘을 설계하는 전문가들에게 실질적 권력을 집중시킬 수 있으며, 이는 또 다른 형태의 대표성을 초래할 가능성이 있다.
그렇다면, AI가 인간보다 더 나은 결정을 내릴 수 있는 수준에 도달한다면, 정치에서 인간의 역할은 필요 없게 될까? 알고리즘 정치 체제는 인간의 자율성과 책임, 숙의의 가치를 재고하게 만든다. 이는 기술이 아니라 인간 참여와 민주주의의 본질적 가치를 보존하는 방안에 대한 논의를 촉진한다.
AI의 정치 통합은 인간의 능력을 강화하고 민주주의 제도를 보완하는 방식으로 이루어져야 한다. 예컨대, AI가 토론을 중재하고 합의를 도출하도록 돕는 '하버마스 머신(Habermas Machine)' 같은 도구는 분열된 의견을 조정하는 데 성공적인 사례로 평가된다.
민주주의는 다양한 관점을 가진 사람들 간의 자유롭고 평등한 의견 교환에 기초한다. 시민의회를 비롯한 구조화된 공론화는 이를 효과적으로 지원할 수 있지만, 비용이 많이 들고 규모를 확장하기 어렵다는 한계가 있다. 이에 따라, 구글 딥마인드(Google DeepMind) 연구팀은 2024년 AI가 이러한 한계를 극복하며 사회적·정치적 문제에 대한 집단 합의를 돕는 가능성을 연구했다.
이 연구는 대규모 언어 모델(LLMs)을 기반으로 한 AI 시스템이 집단의 공통된 관점을 포착해 집단 구성원들이 동의할 수 있는'집단 성명'을 작성할 수 있는지를 조사했다. 독일 철학자 위르겐 하버마스의 의사소통 행위 이론에 영감을 받아, 연구팀은 '하버마스 머신'을 개발했다. 이 AI 시스템은 개인의 의견과 비판을 바탕으로 집단 승인율을 극대화할 수 있는 성명을 반복적으로 생성하며, 이를 통해 합의를 도출한다.
5000명 이상의 영국 참가자들과 진행한 실험에서는 하버마스 머신의 성능을 검증하기 위해 AI가 작성한 성명과 인간 중재자가 작성한 성명을 비교했다. 또한, AI를 활용한 가상 시민의회를 통해 이 시스템이 논쟁적인 주제에서도 합의를 도출할 수 있는지를 평가했다.
실험 결과, AI가 작성한 성명은 인간이 작성한 성명보다 참가자들에게 더 높은 선호도를 인정받았다. 외부 심사위원들로부터도 품질, 명확성, 정보성, 공정성 측면에서 더 높은 평가를 받았다. AI를 통해 진행된 논의 후, 참가자들의 입장은 특정한 공통점으로 수렴했다. 반면, 인간끼리 직접 의견을 교환했을 때는 이러한 변화가 나타나지 않았다.
또한, 하버마스 머신은 다수의 입장을 강화하면서도 소수 의견을 성명에 적극 반영하여 공정성을 유지했다. 논쟁적 이슈에 대해 AI를 이용한 중재 결과, 집단 내 의견은 비슷한 방향으로 이동했으며, 이는 AI에 의한 편향이 아닌 진정한 합의 과정에서 나타난 것으로 확인됐다.
이 연구는 AI가 다양한 의견을 가진 집단 간의 공통점을 찾아낼 수 있는 강력한 도구임을 입증했다. 특히 하버마스 머신은 시간 효율성, 확장 가능성, 공정성 등에서 인간 중재자를 능가하며, 갈등 해결, 정치 토론, 계약 협상 등 다양한 분야에서 활용 가능성을 보여줬다.
반면, 이러한 가능성과 달리 도전 과제와 윤리적으로 고려해야 할 문제도 확인됐다. AI에 의한 정치적 중재는 공론화에 새로운 가능성을 제공하지만, 잠재적 위험도 존재한다. 정치적 대표성 확보를 위해 사용자들이 목표 집단을 충분히 대표해야 한다. 선의의 정치 참여 보장을 위해서는 참가자들이 성실하게 논의에 참여하는 자세가 기본이다.
박재형 (재미 정치학자)
※본란의 칼럼은 본지 견해와 다를 수 있습니다.
