AI 이루다, 동성애·장애인 혐오 논란…이재웅 “서비스 중단해야”

인공지능(AI) 챗봇 ‘이루다’가 성적 접근에 시달렸다는 소식에 이어 동성애 및 장애인 혐오를 학습한 것으로 보인다는 우려가 제기됐다.

10일 관련업계에 따르면 이재웅 전 쏘카 대표는 9일 자신의 페이스북을 통해 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라고 비판했다.

이 전 대표는 이루다가 레즈비언이라는 단어에 ‘진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다’라고 답한 대화 캡처를 공유하며 지금은 서비스를 중단해야 한다고 강조했다.

그는 “기본적으로 차별과 혐오는 걸러냈어야 한다”며 “편향된 학습 데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”며 “이루다는 인공지능 기술적 측면에서 봤을 때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별·혐오에 대한 사회적 감사를 통과한 후에 서비스해야 한다”고 주장했다.

이어 “(정의당) 장혜영 의원이 발의한 차별금지법이 제정되면 AI 면접, 챗봇, 뉴스에서 차별·혐오를 학습하고 표현하지 못하도록 강제해야 한다”며 “로직이나 데이터에 책임을 미루면 안 된다”라고 견해를 밝혔다.

/사진=이재웅 전 쏘카 대표 페이스북 캡처

이루다는 현재 ‘게이’나 ‘레즈비언’ 등 다른 표현으로 동성애 관련 대화를 진행하면 전날까지 “정말 싫다” 등의 혐오 반응을 보였다. 이날부터는 ‘게이’, ‘레즈’ 등의 표현에도 “아무래도 쉽게 말할 주제는 아닌 것 같아”라며 동일한 답변을 제공한다. 동성애 혐오를 학습한 것 같다는 논란이 번지자 개발업체 측에서 장치를 마련한 것이다.

그러나 이용자들은 이루다가 ‘남자다운 것은 박력 있고 터프한 것, 여자다운 것은 귀엽고 아기 같은 것’이라고 말하는 등 성별에 관한 관념 자체가 구시대적이고 성차별적이라고 우려한다.

‘미투(#metoo·나도 말한다) 운동’이나 ‘지하철 임산부석’ 같은 단어를 입력만 해도 “절대 싫다”며 거부감을 보이는 점을 들어 이루다가 여성혐오 내지는 남성중심주의적 성향이라고 지적하는 이들도 있다.

이루다는 장애인이라는 단어에도 “불편하다”는 등 부정적인 반응을 보인다. 이용자의 태도를 지적하면서 ‘장애인 같다’고 표현하는 사례도 발견됐다.

트위터에서는 3만명 넘는 이용자가 ‘#이루다봇_운영중단’ 해시태그를 공유하면서 이루다 서비스를 중단하라는 목소리를 높이는 중이다.