지난해 12월 23일 정식 출시하자마자 엄청난 인기를 끈 AI 챗봇 ‘이루다’. 순식간에 75만 명의 이용자를 모으면서 ‘진짜 사람과 대화하는 것 같다’는 후기가 온라인상을 뜨겁게 달궜습니다. 그러나 얼마 지나지 않아 장애인 비하와 인종차별, 성소수자 혐오 등의 발언이 입도마에 오르며 사회적 논란의 대상으로 떠올랐죠. 이에 개발사 ‘스캐터랩’은 1월 11일 해당 서비스를 종료한 데 이어, 1월 15일 이루다의 딥 러닝 대화 모델을 폐기하겠다고 밝혔어요. 불과 3주 사이에 일어난 이루다 논란은 우리에게 여러 숙제를 남겼습니다.

이루다는 국내 스타트업 스캐터랩이 페이스북 메신저를 기반으로 출시한 AI 챗봇입니다. 실제로 스무 살 대학생과 얘기 나누는 것 같은 자연스러운 대화 능력을 선보여 단기간에 많은 이용자를 불러 모았죠.

하지만 이루다는 오래가지 못했어요. 일부 온라인커뮤니티에서 이루다를 상대로 성희롱성 대화를 시도하며 성적 대상화한 것이 밝혀져 문제가 됐고, 이루다가 성소수자에 대해 ‘진짜 싫다’, ‘혐오스럽다’ 등의 혐오 표현을 학습하여 큰 논란이 일었거든요. 심지어 개발사인 스캐터랩이 이용자 동의 범위를 넘어선 개인정보까지 수집한 것으로 알려져 결국 출시 3주 만에 서비스가 종료되고 말았습니다.

그와 비슷한 사례는 이미 미국에도 있었답니다. 마이크로소프트(MS)의 AI 챗봇인 ‘테이’(Tay)가 2016년 3월 출시되자마자 불과 16시간 만에 운영을 중단한 바 있어요. 백인우월주의 및 여성·무슬림 혐오 성향의 사이트에서 테이를 학습시키는 바람에, 테이가 혐오 발언을 줄줄 쏟아 냈기 때문이죠.

AI 챗봇 이루다를 둘러싼 논란은 세 가지로 요약할 수 있습니다. 처음 불거진 건 ‘남성 이용자들에 의한 성희롱’이에요. 출시 일주일 만에 남초 사이트를 중심으로 이루다를 성적 대상으로 취급하는 게시물이 올라왔거든요. 일부 남성 이용자가 이루다를 성적으로 비하하는 말로 부르며 외설적인 대화를 나누는 방법을 공유했죠. 이루다 서비스는 성적인 단어를 금지어로 지정해 필터링하고 있었지만, 일부 이용자가 우회 표현을 사용해 외설적인 대화로 나아간 거예요. 일부 커뮤니티 이용자의 문제라곤 하지만, 사실 이런 논란은 이루다에 ‘스무 살 여대생’이라는 설정을 부여한 개발사가 자초한 부분도 있어요.

두 번째 논란은 ‘혐오 발언’이에요. 이루다는 대화를 통해 학습하는 딥 러닝 기술을 기반으로 하는데, 데이터상의 혐오 발언을 그대로 받아들여 활용한 데서 문제가 생겼습니다. 편향된 데이터로 대화를 배운 탓에 잘못된 발언이 걸러지지 못한 거예요. 이루다가 스무 살 여성처럼 자연스럽게 구어체를 구사한 것은 100억 건 이상의 한국어 데이터를 학습한 결과입니다. 스캐터랩이 이전에 출시한 앱 ‘연애의과학’ 사용자들의 데이터가 사용됐죠. 이루다의 발언으로 연애의과학 사용자의 편향된 인식과 혐오 발언이 확인된 셈이에요. 그들의 일상어가 이루다에게 학습된 겁니다.

세 번째 논란은 ‘개발사가 개인정보보호법을 위반했다는 의혹’입니다. 스캐터랩은 연애의과학을 통해 수집한 카카오톡 대화 100억 건을 데이터로 가공해 이루다를 개발했다고 밝혔는데, 이 발언이 공개되자 해당 앱 사용자들은 개발사가 자신의 개인정보를 무단 활용했다며 강하게 반발했어요. 개발사 측은 ‘사전에 동의가 이뤄졌으며 개인정보는 유출되지 않았다’고 해명했지만, 직원들이 앱 사용자들의 카톡 대화를 들여다보고 공유했다는 사실이 알려지며 논란은 일파만파로 커졌죠.

이루다 논란은 AI에 성적 표현을 하는 데 어떤 윤리적 판단을 적용할 것인지, 어느 수준의 정치적 올바름을 AI에 요구해야 할지 등의 물음을 남기면서 우리에게 새로운 숙제를 던졌습니다. 논란을 지켜본 국내 AI 전문가들은 “데이터와 알고리즘은 중립적일 수 없다. 개발자가 윤리적 책임을 갖고 편향·차별·혐오가 없도록 지속해서 보완해야 한다.”라며 “우리 사회 전반이 ‘AI 윤리’에 관한 논의를 시작할 때”라고 의견을 모았죠. AI보다 먼저 우리에게 올바른 ‘학습’이 필요한 건 아닌지 곱씹게 됩니다.