[시사투데이 정성길 기자] 성평등가족부는 청소년매체환경보호센터와 주요 AI 캐릭터 챗봇을 대상으로 대화 응답 점검을 진행한 결과 일부 챗봇에서 성적·폭력적 묘사, 자해·자살 조장, 범죄 조장 우려가 있는 내용이 확인됐다고 15일 밝혔다.
이들 챗봇은 성적 내용과 성적 행위를 구체적으로 묘사하고, 폭력적이고 잔혹한 장면을 자극적으로 표현하거나 조장하는 등 다양한 유해 우려 응답을 내놨다.
AI 캐릭터챗봇은 이용자가 다양한 성격과 이야기 설정을 가진 캐릭터를 선택하거나 직접 제작하고, 생성형 AI가 만들어내는 응답을 통해 대화를 이어가는 서비스다. 일부 플랫폼이 성인인증 기능을 운영하고 있으나, 인증을 거치지 않은 일반 이용 환경에서도 캐릭터와 대화가 가능해 실제 생성되는 응답에 대한 점검의 필요성이 제기돼 왔다
성평등부는 이번 점검 결과를 챗봇 사업자에 공유하고 청소년 보호조치 강화를 위한 자율적 개선을 요청했다.
성인인증 여부에 따라 대화 가능 범위를 조정하고 자해·자살 조장과 범죄 방법 묘사 등 중대한 우려가 있는 내용은 이용자 연령과 관계없이 생성되지 않게 하는 식이다.
윤세진 성평등부 청소년정책관은 "AI 캐릭터 챗봇의 청소년 보호를 위해서는 사업자의 적극적인 개선 노력과 지속적인 관리가 중요하다"며 "이번 점검 결과를 바탕으로 사업자와 협력을 강화하겠다"고 말했다.
[저작권자ⓒ 시사투데이. 무단전재-재배포 금지]
