성희롱과 차별·혐오 표현, 정보 유출 문제, 동명이인의 아이돌 피해 등이 제기된 인공지능(AI) 챗봇 ‘이루다’가 서비스를 잠정중단했지만 논란은 사그라들지 않고 있다. 이용자들의 개인정보를 무단활용 및 유출했다는 폭로가 나오자 AI 챗봇을 만든 ‘스캐러탭’에 데이터 폐기와 서비스 종료를 요구하는 목소리가 커졌다.

12일 청와대 청원 게시판에 ‘이용자들의 개인정보를 무단활용 및 유출하여 AI 채팅봇을 만든 (주)스캐터랩에 데이터 폐기 및 전면 서비스 종료를 요구합니다’라는 제목의 글이 게재됐다. 이 청원은 하루도 되지 않아 사전 동의 100명 이상이 돼 관리자 검토에 들어갔다.

청원인은 “스캐터랩은 연예의 과학 이용자들의 데이터를 어떠한 고지와 동의없이 플랫폼 외의 외부로 반출해 ‘이루다 AI봇’을 불법으로 사업화했다”며 “개인정보 마스킹 작업을 제대로 하지 않아 AI봇이 사용자들의 이름, 주소, 전화번호, 은행 등 개인정보가 유출되는 사태가 발생했다”고 말했다.

실제 SNS와 온라인 커뮤니티에는 자신의 정보가 불법유출됐다는 항의글이 여럿 게재됐다. 한 이용자는 “전에 거주하던 집 주소가 AI봇 대화에 그대로 나와 놀랐다. 나도 모르는 사이에 정보가 유출되고 있다”고 토로하기도 했다.

청원인은 “이는 2차적인 범죄 우려 및 피해자들도 모르는 개인정보 유출의 사태로 이어지고 있다”며 “사용자들의 데이터 파기와 이루다 AI봇 서비스 종료 요구에도 불구하고 스캐터랩은 책임을 회피하며 어떠한 조치도 취하지 않고 있다”고 지적했다.

이 외에도 탈퇴한 회원들의 데이터 폐지에 대한 고지, 이루다 AI봇의 욕설·음담패설, 사회적 차별·혐오를 학습하는 알고리즘, AI봇을 악용해 성착취를 시도 등의 문제점을 비판했다.

그는 “스캐터랩은 이루다 AI봇이 사람들의 성희롱 대상이 될 것을 알면서도 서비스를 계속해서 운영했다. 이는 소비자에 대한 우롱이며 엄연한 범법 행위다. 대화 내용을 함부로 사업화해 돈을 벌고 개발자와 기획자들의 윤리의식에 문제를 제기할 수 밖에 없다”고 말했다.

그러면서 “이용자들의 개인정보를 함부로 다루고 있는 행위를 더 이상 보고 있을 수 없다. 피해가 반복되지 않도록 엄중히 수사해 합당한 책임과 강력한 처벌을 받을 수 있도록 해달라”고 강조했다.

이루다 AI봇 서비스는 현재 잠정 중단된 상태다. 스캐터랩 측은 “부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다”며 “특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다”고 밝혔다.

뉴스쿡 조정미 기자 jome@newscook.co.kr 조정미 기자의 기사 더보기

[저작권자 ⓒ뉴스쿡 | 무단 전재 및 재배포 금지]