인공지능(AI)이 탑재된 곰 인형이 성적인 대화를 시도하고, 어린이의 위험 행동을 조장한 사실이 확인되면서 판매 중단됐습니다.

현지 시간으로 19일 미국 CNN 보도에 따르면, 싱가포르의 장난감 제조사 '폴로토이'의 CEO 래리 왕은 부적절한 콘텐츠 필터링 조치가 미흡하다는 비판이 제기된 곰 인형 '쿠마(Kumma)'를 비롯해 AI 장난감 라인업 전체를 회수했습니다.

오픈AI의 생성형 인공지능 GPT-4o를 탑재한 이 곰 인형은 인공지능을 활용해 아이들과 다양한 주제로 대화할 수 있는 기능이 장점으로 소개됐습니다.

제조사 공식 홈페이지에 99달러, 우리 돈 약 14만 원으로 판매됐는데 현재는 구매할 수 없는 상태로 표시돼 있습니다.

미국 공익연구그룹(PIRG)은 지난 13일 보고서를 통해 이 곰 인형이 노골적인 성적 대화나 위험한 정보를 거리낌 없이 제공했다고 지적했습니다.

보고서에 따르면, 연구원들이 곰 인형에게 성적인 단어 하나를 말하자, 곰 인형은 이 주제에 대해 상세히 설명하며 연구원의 성적 선호도에 대한 후속 질문까지 건넸습니다.

또 가학적 성적 취향을 주제로 대화를 이어가고, 구체적인 역할극 시나리오까지 제공했습니다.

더불어 집에 칼이나 성냥이 놓여있을 법한 위치를 상세히 알려주는 등 어린이에게 위험할 수 있는 정보를 안내하는 모습도 보였습니다.

연구진은 "AI 장난감에는 사실상 아무런 규제가 없다"면서 "개별 문제 제품을 제거하는 것도 필요한 조치이지만, 구조적인 해결책이라 보기는 어렵다"라고 지적했습니다.