[박재형 칼럼] 알고리즘 감옥에 갇힌 대중

박재형 재미 정치학자

세계적인 관심이 집중되고 있는 생성형 인공지능(AI) 챗GPT를 개발한 오픈AI의 샘 올트먼이 최근 한국을 방문, 윤석열 대통령과 만났다. 이 자리에서 윤 대통령은 급속한 기술의 발전 속에서 챗GPT와 관련한 부작용 방지 필요성에 대한 견해를 밝혔다. 이에 대해 올트먼은 인공지능에 의한 위험을 줄이고 개인을 보호하기 위한 규범 마련의 중요성에 동의했다. 

중국 기술 대기업 알리바바의 창업자 마윈은 이미 몇 해 전, 앞으로 수십 년 동 안 인공지능이 사람에게 행복보다 더 많은 고통과 사회적·경제적 불안감을 줄 것이라고 말했다. 그는 "앞으로 30년 내 사회적 갈등은 모든 종류의 산업과 각 계층에 영향을 미칠 것"이라고 경고했다. 최근 들어서는 인공지능 기술의 급속한 발전에 따른 위험에 대한 경고가 계속 이어진다. 그러나 문제를 인식하고 이해하는 속도가 기술의 발전을 도저히 따라잡지 못하는 것이 현실이다. 

정부와 기업, 시민사회단체 등이 인공지능의 힘을 남용하면서 민주적 시스템에 위협이 가중되는 상황은 이미 현실이 되었다. 인공지능을 이용한 감시로 개인정보를 침해하고 개인의 사생활에 본인이 인식하지 못하는 영향을 미치고 있다. 이러한 상황은 민주적 거버넌스의 이상이 위협받을 정도로 확대되고 있다. 인공지능 강국이 권위주의적이고 독재적인 체제로 전환되어 시민에 대한 억압을 강화하는 일이 우리 앞에 현실로 다가왔다.

인공지능은 축적된 데이터를 학습해 작동하는 방식이다. 그런데 데이터로부터 모델을 만드는 데이터 마이닝 알고리즘은 결국 사람이 만든다. 그리고 그 과정에 특정 개인이나 집단의 취향, 이념, 이해관계 등 수많은 요소가 얼마든지 영향을 미칠 수 있다. 특히 데이터의 수집부터 정리·이용 등에 이르는 전 과정에 국가권력이 개입하거나 장악했을 때 어떤 일이 벌어질까? 중국은 현재 세계에서 미국과 함께 인공지능 기술이 가장 발달한 나라이다. 기술 수준에서는 미국이 중국에 좀 앞설지 모르지만, 인공지능의 활용, 특히 정부 또는 국가권력에 의한 인공지능 활용에서 중국은 미국 등 다른 선진국이 따라갈 엄두도 못 낼 만큼 대단하다. 

중국은 이미 국가가 주도해서 시민의 데이터를 수집·활용하고 있다. 중국이 세계에서 가장 앞서가는 분야가 바로 데이터와 인공지능을 이용한 전 국민 감시 시스템이다. 소셜미디어, 스마트폰, 그리고 연결된 모든 장치를 통해 시민의 데이터를 수집하는 고도의 감시 시스템을 운영하고 있다. 또한 수집된 모든 정보는 개별 점수를 계산하는 알고리즘을 통해 사회 신용정보로 활용된다.

이에 비해 미국은 시장이 주도해서 신용정보, 금융정보 등 소비자 데이터를 활용한다. 중국에서는 정부가 원하는 대로 인공지능을 편향되게 작동시키면서 국민을 통제한다면, 미국에서는 기술 대기업, 소위 '빅테크'가 사실상 인공지능을 장악하고 있다. 구글, 유튜브, 페이스북 같은 빅테크는 마음먹은 대로 미국뿐만 아니라 세계의 여론과 생각에 엄청난 영향을 미칠 수 있다. 빅테크가 제공하는 플랫폼 이용자 대부분은 그가 어떤 채널을 봤느냐에 따라 관련 채널들이 첫 화면에 순서대로 뜨는 채널 추천의 알고리즘 안에 갇혀 있다고 해도 과언이 아니다.

사실 많은 사람은 기본적으로 알고리즘이 어떤 방식으로 작동하는지 알고 있다. 특정한 정치적 이슈와 관련해서 예를 든다면 2020년 미국 대통령 선거 당시 도널드 트럼프와 그 지지자들의 부정선거 주장에 관한 영상 한두 개를 보고 나면 그와 관련한 채널만 잔뜩 추천으로 뜬다. 그러면 이용자는 자기도 모르게 거기에 빠져서 다른 이들에게 "자 봐라, 유튜브에서 완전 난리 났다. 내 말이 맞지?"라며 자신의 주장에 온 세상이 동의한 듯 기세를 올린다.

하지만 정작 상대방은 그런 내용의 영상, 심지어 그런 주장이 있는지조차 모른다. 그 사람에게 보이고 들리는 것은 오직 한 가지 주장뿐이다. 이게 바로 유튜브 알고리즘이다. 이른바 '알고리즘 감옥'에 갇히며 생기는 일이다. 이러한 상황은 거짓 정보에 대응하거나 정확한 정보를 알리려는 언론과 시민사회의 노력을 무력하게 한다. 그 과정에서 코로나바이러스 돌연변이를 능가하는 수많은 정보의 변이가 이어지고 사회는 분열된다. 대중은 자신이 지지하는 쪽에서 생산한 정보만을 사실이라 믿고 그 이외의 정보는 거짓이라는 틀에 갇힌다.

이는 빅테크의 장삿속에서 비롯된 인공지능 기술의 활용으로 생긴 일이다. 이용자를 기업의 이윤 추구에 가장 도움이 되는 방향으로 움직이도록 인공지능의 알고리즘 안에 가두고 사육한다 해도 지나친 말이 아니다. 기업들의 이러한 욕심에 이용자는 계속 자기 입맛에 맞는 정보만 접하면서 그것이 세상의 전부라고 여기는 우물 안 개구리가 된다. 당장 입에 맛있다고 몸에 나쁜 불량식품만 먹어도 옆에서 말리기는커녕 계속 불량식품만 손에 쥐어주는 어이없는 상황이 벌어지는 것이다.

결국 '에코 체임버(Echo Chamber)' 효과에 관한 논의가 활발해질 수밖에 없다. 에코 체임버 효과란 뉴스나 온라인 이용자가 마치 소리의 에코 효과를 최대화하기 위해 만든 특수한 방인 에코 체임버 안에 혼자 갇힌 것처럼 자기가 하는 말만 계속 증폭되어서 자기 귀에 다시 들리는 그런 효과를 말한다. 즉 자기가 보고 듣는 세상이 전부이고, 세상사람 모두 자기와 같은 말만 한다거나 자신만 옳다는 착각 속에 살도록 하는 상황을 인공지능 알고리즘이 아주 빠른 속도로 더욱 심하게 몰아가고 있다.

이러한 사회 현상은 미국뿐만 아니라 유럽연합 등 세계 각지의 국가권력과 빅테크의 갈등을 계속 심각하게 만드는 주요인으로 작용한다. 미국의 정치권, 특히 빅테크와 적대관계인 공화당을 중심으로 독점금지법 위반을 문제 삼아 일부 빅테크를 여러 개의 회사로 분할하여 그 엄청난 영향력을 잃게 하려는 시도가 적극적으로 모색되고 있다.

중국은 권위주의 독재를 위해 온 국민을 인공지능 알고리즘으로 통제하고 감시한다. 미국의 빅테크들은 자본주의 논리에서 이윤을 극대화하기 위해 이용자를 인공지능 알고리즘 속에서 못 빠져나가도록 한다. 이 두 가지 모두 세계 인류에게는 심각한 문제임이 분명하다.

※본란의 칼럼은 본지 견해와 다를 수 있습니다.