대형 참사·인명사고 악성댓글에 네이버 대응책 제시, 다른 곳들은…

모빌리티TV 0

2025.02.08

악플감지, 알림 기능 강화
‘클린봇 옵저버’ 서비스
다음 “추가 조치 검토 예정”

대형 참사·인명사고 악성댓글에 네이버 대응책 제시 다른 곳들은… — 출처 : SBS

네이버가 대형 참사와 인명사고 기사에서 생겨나는 악성댓글 감지와 알림 기능을 강화한다고 밝혔다. 24일 네이버의 공식 블로그에 따르면 인명사고 탐지 AI(인공지능) 기술을 1분기 내로 ‘클린봇 옵저버’에 적용해 기능을 강화할 것으로 나타났다.

클린봇 옵저버는 2023년 7월에 베타 버전으로 출시된 서비스로, 인공지능 기반의 악플 탐지 기술인 ‘클린봇’을 활용하고 있다. 이 시스템은 악플이 작성될 가능성이 있는 기사를 자동으로 선별하여, 그 정보를 언론사에 전달하는 방식으로 악플 작성 시도를 감지한다. 이를 통해 언론사들이 악성 댓글에 빠르게 대응할 수 있도록 돕는 역할을 한다.

‘클린봇 옵저버’ 서비스는 악성 댓글 작성 시도 비율을 분석해 자동으로 감지 대상 기사를 선별하고 해당 기사를 언론사에 알린다. 이에 각 언론사들은 보다 빠르게 악플을 확인하고 즉시 댓글 기능을 중단할 수 있다.

네이버는 뉴스 댓글이 본래의 역할을 잘할 수 있도록 다양한 운영과 기술적인 보완책을 고민하며 개선하고 있다. ‘클린봇 옵저버’가 실행된 예시로는 자살 기사를 탐지하여 댓글이 중단된 사례가 있다.

또한 무안국제공항에서 발생한 여객기 참사 기사에도 약 30개의 언론사가 네이버 뉴스의 댓글 중단 기능을 활용했다. 앞서 지난 2019년 네이버는 업계 중 처음으로 인공지능 기반의 악성 댓글 탐지 ‘클린봇’을 공개했다. 클린봇은 스스로 문장의 맥락을 파악한 후 선정적·폭력적·차별적·비하적 표현을 분류하여 필터링하며, 해당 기술은 지속적으로 발전하고 있다.

‘클린봇’에 이어 네이버는 언론 협단체와 함께 상반기 중 ‘자살 예방 보도 준칙’과 악성 댓글 예방 문구를 마련하여 보도 시 이를 삽입하는 방안을 논의할 것이라고 밝혔다.

따라서 관련 문구가 포함된 기사는 ‘자살 보도’와 같이 언론사에 댓글 자동 중단 기능을 제공할 가능성이 있을 것으로 파악된다. 아울러 네이버 뉴스는 강렬한 사회적 강등 또는 의견 충돌이 생긴 것으로 확인된 기사에 대한 대응책에 대해서도 살펴보고 있다.

네이버 한 관계자는 “자살 예방 캠페인에 적극 동참했던 것처럼 대형 참사를 포함한 인명사고 기사에서도 악플 근절을 위해 기술적·정책적 노력을 지속해 나가겠다”고 전했다.

앞서 무안공항 참사가 발생한 지난달 29일 온라인 커뮤니티인 MLB파크에 ‘무안공항 유가족들만 횡재네요’라는 제목의 글이 올라와 이목이 쏠렸다. 해당 게시글에는 “보상금 받을 생각에 속으로는 싱글벙글할 듯”이라는 내용이 포함되어 있었다.

게시글 작성자는 무안 참사 글 작성 이후 무안공항 참사로 숨진 KIA 타이거즈 직원의 SNS 계정에서 사진을 캡처하여 글을 게시해 고인 가족의 얼굴과 계정 아이디가 그대로 공개됐었다. 이에 그는 “사진 퍼오는 게 왜요. 뭐가 문제인지”라고 글을 올려 많을 지적을 받았다.

계속되는 작성자의 고인 모욕성 글에 커뮤니티 운영진은 해당 글을 작성한 사람에 대해 영구 차단이 이루어졌다고 전했다. 또한 그는 “이 게시물에 ‘추천’을 누른 이들도 패륜적 게시물에 추천을 통해 동조한 것으로 간주하고 사이트 이용을 영구 차단하겠다“라고 언급했다. 이 게시글은 현재 삭제 처리되었다.

주요 플랫폼인 다음 또한 악성 댓글에 대해 대응책을 냈다. 이들은 “댓글을 감시하며 현황을 파악하고 있다”라며 “우려 사항 발생, 유가족 요청 등의 상황 시 추가 조치를 검토할 예정”이라고 말했다. 한편, 해외 언론사들도 이에 대해 대응책을 내놓고 있다.

해외의 대표적인 언론사들은 뉴스의 종류에 맞춰, 뉴스 댓글 관리팀을 만드는 등 다양하게 대처하고 있다. 언론중재위원회 자료에 따르면 미국의 뉴욕타임스는 댓글을 ‘더 나은 뉴스를 만드는 중요한 의견’으로 간주하고 있는 것으로 나타났다.

이에 따라 독자의 의견이나 경험이 중요한 기사에만 댓글을 게시할 수 있도록 하고 24시간 동안만 달 수 있게 했다. 하지만 작성된 댓글은 즉시 공개되지 않으며 AI와 담당자의 검토를 거친 후 게시된다. 아울러 댓글 작성자의 이름과 지역이 노출되고 작성된 댓글은 수정할 수 없다.

영국 일간지 가디언은 댓글 관리를 위해 중재팀은 운영하는 것으로 확인됐다. 가디언은 로그인해야만 댓글을 달 수 있고 일부 기사에 대해 일정 시간 동안만 댓글을 작성할 수 있다.

또한 이들은 좋은 댓글은 ‘가디언 픽’으로 설정해 상단에 보여준다. 이는 댓글 창이 긍정적인 논의가 이루어질 수 있도록 이끈다. 댓글로 인한 문제를 예방하기 위해 댓글 기능을 아예 제공하지 않는 언론사도 있다. CNN은 댓글 대신 SNS 계정을 활용해 정기적인 토론을 열기로 방향을 바꿨다.