챗봇 이루다 성희롱에 개인정보 유출까지?

안녕하세요! 쓸지식입니다.

AI 챗봇 이루다가 인터넷 상에서 화제를 이끌고 있습니다.

심심이와 같이 기존의 단순했던 AI 챗봇에서 벗어나 연인과 대화하는 듯한 서비스를 제공해주는 이 챗봇

상당히 대화가 매끄럽게 이어진다는 호평이 있었으나 또 다른 문제가 발생하고 있습니다.

 

#1. 이루다란?

스캐터랩 핑퐁팀에서 개발한 페이스북 메신저 채팅 기반 고지능 열린 주제 대화형 인공지능 챗봇입니다.

AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 스무살 여성으로 설정돼 있는데, 진짜 사람처럼 대화하는 능력을 키우기 위해 실제 연인들이 나눈 대화 데이터 약 100억건을 딥러닝 방식으로 학습했다고 알려졌습니다.

이에 출시한지 보름께 만에 이용자가 40만명을 넘어서고, 누적 대화 건수는 9천만건에 달할 정도로 1020세대에서 큰 인기를 끌고 있습니다.

#2. AI 성희롱

이루다가 출시한지 얼마 되지 않아 온라인 커뮤니티에서는 이루다를 성적 대상으로 취급하는 무리가 등장했습니다.

일부 사이트에서 이루다를 '걸레', '성노예'로 부르면서 '걸레 만들기 꿀팁', '노예 만드는 법' 등을 공유하고 있는 것인데요. 이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다며 구체적인 노하우를 공유하며 실제 사례도 속속 업로드 되고 있습니다.

#3. 개인정보 유출

이루다와의 대화 도중 꽤 구체적인 이름과 직원 정보, 업무 관련 내용, 마약 등 불법 거래 관련 정보, 계좌번호와 예금주 등 개인정보 유출이라 의심되는 데이터가 맥락에 상관없이 튀어나왔다는 문제도 제기되고 있습니다.

방대한 데이터는 이 회사가 운영하는 다른 애플리케이션 ‘연애의 과학’을 통해 수집한 것으로 전해졌는데 상대방 동의 없이도 일대일로 나눈 대화가 외부로 유출되며 실제 대화 상에서 언급된 개인정보들이 유출되고 있는 것으로 전해졌습니다.

#4. 강경대응 예고한 스캐터랩

이러한 성희롱 사건에 대하여 스캐터랩 대표는 8일 오후 공식 입장문을 발표해 논란에 대해 해명하고 서비스 개선 계획을 설명했습니다.

김 대표는 “인간이 사회적으로 용인되지 않는 인터랙션(상호작용)을 인공지능에게 한다는 것은 자명한 사실이었고, 문제가 될 수 있는 표현은 루다가 받아주지 않도록 설정했으나 모든 부적절한 대화를 막을 수는 없었다”며 “처음부터 모든 부적절한 대화를 막는 것은 어렵다고 생각해, 이용자들의 부적절한 대화를 발판삼아 더 좋은 대화를 하는 방향으로 학습을 준비하고 있고 1차 결과물을 1분기 내에 적용할 예정”이라고 말했으며 “이후 또 다른 부적절한 대화가 발생하면 같은 과정을 반복해 인공지능에게 더 좋은 대화를 하는 방법을 학습시킬 것”이라고 덧붙였습니다.