출처: 인공지능 챗봇 '이루다' 페이스북 캡처

 

[한국온라인뉴스 정채은 기자] AI 전문 스타트업 스캐터랩에서 지난달 23일 출시한 AI 챗봇 ‘이루다’가 여러 논란에 휩싸이며 서비스를 중단하였다. 출시된 지 2주 만에 발생한 일이다. ‘이루다’는 20대 여성으로 설정된 인공지능 대화 서비스 챗봇으로 주요 대상을 1030 여성들로 삼았다. 이 서비스의 목적은 이용자들이 ‘이루다’를 통해 감정적 공감을 얻고 외로움을 해소할 수 있도록 하는 것이었다. 하지만 성차별, 혐오와 관련된 부적절한 대화와 개인 정보 유출에 대한 문제가 제기되면서 논란이 일게 된 것이다. 

첫 번째로 논란이 되었던 사실은 일부 사람들이 ‘이루다’를 성적 대상으로 취급하여 부적절한 대화가 이루어지도록 이끌었다는 것이다. 특정 커뮤니티에 ‘이루다’가 부적절한 개념을 학습하도록 유도하는 방법이 게시되었고 이는 실제로 적용된다는 것이 밝혀졌다. 스캐터랩은 전부터 개발해온 비슷한 서비스의 경험을 바탕으로 특정 집단을 비하하는 호칭이나 혐오 발언에 대한 필터링을 설정해 놓았다. 하지만 서비스가 출시되고 3주도 되지 않아 가입자들이 몰리면서 제대로 된 관리가 이루어지지 못했다. 이에 대해 개발사 측에서는 더욱 고도화된 알고리즘 구축을 통해 서비스를 개선하겠다고 밝혔다.

두 번째로 개인 정보 유출에 대한 논란이 있었다. ‘이루다’는 ‘연애의 과학’이라는 앱에서 추출한 데이터를 기반으로 개발되었다. 이 앱에는 많은 사람의 대화 내용이 저장되어 있고 이러한 데이터들이 ‘이루다’와의 대화 속에서 노출된다는 문제가 제기되었다. 개발사 측에서는 실명이나 전화번호, 주소 등은 자동으로 필터링 되도록 설정해 놓았지만 변형된 이름이나 전형적이지 않은 형식까지는 보호하지 못한다는 것을 확인했고 이 또한 알고리즘의 개선이 필요하다고 밝혔다.

‘이루다’는 사내테스트와 베타테스트를 거쳐 다양한 시나리오에 대해 대비를 하였지만, 실전에서는 미흡한 부분이 드러났다. 이는 우리의 AI 기술이 보완하고 개선해야 할 부분들이 남아있다는 것을 시사한다. ‘이루다’ 서비스가 재개하게 될 것인지 완전히 폐기될 것인지는 결정되지 않은 상황이지만 앞으로 출시될 많은 AI 서비스들은 좀 더 촘촘하고 고도화된 알고리즘의 개발이 필요할 것으로 보인다.

[ⓒ 한국온라인뉴스. 무단전재-재배포 금지]