네이버의 인공지능 기반 악성 콘텐츠 탐지 시스템 ‘AI 클린봇 3.0’. /네이버 제공

네이버가 악성 댓글을 줄이기 위한 인공지능 시스템을 한층 강화했다.

네이버는 29일 ‘AI클린봇 3.0’ 업그레이드를 통해 생명 경시와 2차 가해 표현 탐지를 대폭 강화했다고 밝혔다.

이번 개편을 통해 자살·사망·신체 훼손 등 생명 경시를 조장하는 댓글과 사건·사고 피해자 및 유족을 향한 조롱·비하·혐오 표현을 집중 차단한다. 특히 댓글 자체뿐 아니라 기사 제목과 본문까지 종합적으로 분석하는 방식으로 탐지 체계를 고도화해, 맥락 기반의 악성 댓글 식별 정확도를 높인 것이 특징이다.

AI 클린봇은 2019년 업계 최초로 도입된 이후 지속적인 개선을 거쳐왔다. 초기에는 욕설·비속어 등 키워드 중심 탐지에 머물렀지만, 2020년부터 문장 맥락을 반영해 욕설이 없는 모욕적 표현까지 식별 범위를 확대했다. 이후 성적 불쾌감을 유발하는 표현, 혐오·차별 발언, 기호와 문자를 활용한 우회 표현 등으로 대응 영역을 넓혀왔다.

네이버는 2023년 한국인터넷자율정책기구의 혐오표현 자율정책 가이드라인을 반영하는 등 외부 기관과의 협력도 병행하고 있다.

김수향 네이버 리더는 “욕설과 비속어뿐 아니라 새롭게 등장하는 혐오·비하·차별 표현까지 탐지할 수 있도록 클린봇 성능을 지속 강화하고 있다”며 “생명 경시 조장과 피해자·유족 대상 2차 가해 표현 차단을 중심으로 기술 고도화를 이어갈 것”이라고 밝혔다.

네이버는 이와 함께 정치·선거 섹션 기사 하단 댓글 미제공, 악성 댓글이 일정 기준을 초과한 기사에 대한 댓글 서비스 자동 비활성화 등 정책적 대응도 병행하며 건전한 댓글 환경 조성에 나서고 있다.