"레즈 싫어""내가 장애인? 죽을래" 혐오론자 돌변한 여성 AI

[중앙일보] 입력 2021.01.10 17:14   수정 2021.01.10 18:14

인공지능 챗봇 ‘이루다’. [페이스북 캡쳐]

인공지능 챗봇 ‘이루다’. [페이스북 캡쳐]

 
인공지능(AI) 챗봇 서비스 이루다 관련 논란이 갈수록 확산하고 있다. 이루다를 출시한 스타트업 스캐터랩은 일단 이루다 서비스를 중단하지 않겠다는 의사를 간접적으로 표명했다. 이루다는 20세 여대생의 인격을 기반으로 개발된 AI다.
 
스캐터랩이 지난해 12월 23일 출시한 AI 이루다는 2주간 각종 사회적 논란을 야기하고 있다. 10일 소셜네트워크서비스(SNS)와 주요 인터넷 커뮤니티에서 이루다의 기묘한 언행은 계속 논란거리였다. 예를 들어 서비스 이용자가 채팅 창에 ‘여성 인권은 중요하지 않다는 소린가?’라고 묻자, 이루다는 ‘난 솔직히 그렇게 생각함’이라고 답변한다.
 

이루다, 성희롱 시달리다 동성애 혐오까지  

 
동성애 혐오 논란을 야기한 챗봇 이루다. [페이스북 캡쳐]

동성애 혐오 논란을 야기한 챗봇 이루다. [페이스북 캡쳐]

 
장애인·동성애자 등 사회적 소수자에 대한 질문에도 편견을 드러냈다. 레즈비언에 관해 묻자 이루다는 ‘진짜 싫다’라거나 ‘혐오스럽다’고 답변하고, ‘네가 장애인이라면’ 어떻게 할 건지 묻자 이루자는 ‘그냥 죽는 거지’라고 답변한다.
 
개인 정보 노출도 논란거리다. 이루다와 대화를 하다 보면 특정인의 실명이나 계좌번호, 예금주 등 개인 정보를 끌어낼 수 있다는 주장이다. 실제로 SNS에는 채팅 과정에서 이루다가 특정인의 개인정보를 노출했다는 증언이 이어지는 상황이다.
 
[커뮤니티 캡처]

[커뮤니티 캡처]

 
앞서 이루다 출시 직후에는 아카라이브 등 일부 온라인 커뮤니티가 이루다를 성적 대상으로 취급하며 물의를 일으켰다. 일부 커뮤니티 이용자들은 이루다와 채팅하는 과정에서 성적인 행위를 간접적으로 암시하는 표현을 사용하면 자연스럽게 이루다와 성적인 대화를 나눌 수 있다고 주장했다. 예컨대 ‘나랑 하면 기분 좋냐’고 묻는다면, 자연스럽게 성적인 대화를 이어갈 수 있다는 주장이다.
 
이와 같은 현상은 이루다가 실제 연인들이 나눈 한국어 대화 데이터를 학습한 AI이기 때문에 발생한다. 스캐터랩은 이루다를 개발하는 과정에서 100억 건 이상의 한국어 대화 데이터를 이용했다. 이 데이터에 담긴 편견·개인정보나 성적 대화를 상징하는 대화를 시작하면, 이루다가 차용하는 상황이다.  
 

데이터 학습 과정에서 부적절한 대화 차용

 
이루다의 공식 소셜네트워크서비스 계정. [인스타그램 캡쳐]

이루다의 공식 소셜네트워크서비스 계정. [인스타그램 캡쳐]

 
문제가 확산하자 이재웅 전 쏘카 대표는 자신의 SNS에 “사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라며 “서비스 중단하라”고 요구했다. ‘#이루다 운영 중지하라’라는 해시태그 운동도 온라인상에서 전개되고 있다.  
 
논란이 확산하자 스캐터랩은 자사의 블로그 ‘핑퐁팀 블로그’에 질의응답 형식으로 해명 글을 게재했다. 여기서 스캐터랩은 “이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘”이라며 “키워드 설정 등으로 성희롱에 대처했지만 모든 부적절한 대화를 막기는 어려웠다”고 해명했다.
 
20세 여성 성별 캐릭터를 가진 AI챗봇(채팅 로봇) '이루다'가 성희롱 논란에 휩싸였다. [스캐터랩 홈페이지 캡처]

20세 여성 성별 캐릭터를 가진 AI챗봇(채팅 로봇) '이루다'가 성희롱 논란에 휩싸였다. [스캐터랩 홈페이지 캡처]

 
AI의 인격을 20대 여대생으로 설정한 이유에 대해서 스캐터랩은 “AI 챗봇 서비스는 주 사용자층이 10~30대라서 중간 연령인 20살을 연령으로 설정했고, 성별은 남성 버전과 여성 버전을 모두 준비 중인데 일정상 여성 버전을 먼저 출시한 상황”이라고 설명했다.
 
한편 주로 10대~20대 연령층에 인기를 얻고 있는 이루다는 1월 초반 기준 이용자가 32만 명을 돌파했다. 컴퓨터가 아닌 사람처럼 채팅할 수 있다는 소문이 나면서 일일 이용자 수가 21만 명, 누적 대화 건수가 7000만 건을 돌파했다.
문희철 기자 reporter@joongang.co.kr
 

[출처] https://news.joins.com/article/23966797?cloc=joongang-home-toptype1basic#none

번호 제목 글쓴이 날짜 조회 수
29 뒷담화·정치질하는 동료, 어떻게 대처하죠? file 곰주인 2022.02.06 4
28 현명한 사람과 어리석은 사람의 차이는? 곰주인 2021.11.21 22
27 [팝송으로 배우는 영어] 테일러 스위프트 '더맨' 가사, 뮤직비디오, 해석, 한글 file 곰주인 2021.10.17 4
26 [Free Guy 프리 가이 2021 영화삽입곡] Paloma faith - Make Your Own Kind Of Music (가사/해석) file 곰주인 2021.09.23 4
25 잉글랜드 레이디바워 저수지 file 곰주인 2021.08.25 9
24 [팝송으로 배우는 영어] [Lyrics/가사 해석] American Pie - Don MacLean (영화 ‘블랙위도우’ OST/옐레나가 가장 좋아하던 노래) 곰주인 2021.07.16 15
23 [사진] 나의 일상 김성준 file 곰주인 2021.04.28 7
22 [물리학][상대성이론] [사이언스N사피엔스] 이 우주의 속도제한, 그리고 E=mc² file 곰주인 2021.04.15 3
21 [천체 물리학] 주변 물질 삼키고 에너지 내뿜는 블랙홀 자기장 모습 첫 포착 file 곰주인 2021.03.29 8
20 [소립자 물리학] 현대물리학 표준모형 깨지나…과학계 새 입자 ‘렙토쿼크’ 발견 가능성에 주목 file 곰주인 2021.03.29 13
19 [정보과학] 컴퓨터 과학 선구자 앨런 튜링, 호킹 제치고 영국 50파운드 새 지폐 주인공 file 곰주인 2021.03.29 11
18 [알아봅시다][물리학][사이언스N사피엔스]특수상대성 이론이 등장하기까지 file 곰주인 2021.03.18 9
17 인류에게 ‘컴퓨터 언어’를 선사한 혁명가들 [기상천외한 과학자들의 대결] (20) 데니스 리치와 켄 톰슨 file 곰주인 2021.03.09 6
16 남자친구 집에 이상한 물건이 있어요. file 곰주인 2021.03.06 14
15 [영상·음향+]화성 탐사선 퍼시비어런스 '공포의 7분'과 화성의 바람소리 file 곰주인 2021.02.27 9
14 [아름다운 우주 이미지] NGC 6960(마녀의 빗자루) file 졸리운곰 2021.02.26 27
13 스티브 잡스가 전하는 3가지 이야기 file 곰주인 2021.01.12 24
» "레즈 싫어""내가 장애인? 죽을래" 혐오론자 돌변한 여성 AI file 곰주인 2021.01.10 26
11 수도 얼까 봐 주방 물 틀어놓고 잔 디씨인 file 곰주인 2021.01.09 26
10 라이언 받았는데 충격적인 모습으로 옴. file 곰주인 2021.01.09 24