딥페이크 동영상 취약국 1위한 한국, ‘네카오’ 칼 뽑았다

딥페이크 피해 1위 한국인
네이버·카카오 대응 나서
구글, 워터마크 삽입해

최근 10대 청소년을 중심으로 인공지능(AI) 기술을 활용하여 제작한 딥페이크 음란물 성범죄가 기승을 부리며 이를 차단하기 위해 국내 기업 네이버와 카카오가 대응책에 칼을 빼 들었다. 더하여 딥페이크 음란물 성범죄 피해자 가운데 전 세계의 절반 이상이 한국인으로 집계되면서 이목이 쏠리는 상황이다.

29일 관련 업계에 따르면 국내 포털사이트 점유율 1위 네이버는 지난 28일부터 딥페이크 음란물 성범죄 유포를 방지하기 위해 ‘딥페이크 기술을 이용한 이미지, 영상 등 신고 채널’ 운영에 나섰다. 특히 네이버는 검색어에 ‘딥페이크 제작’을 검색할 경우 유의 문구를 띄우는 등의 대응에 나섰다.

네이버에 따르면 ‘딥페이크 제작’을 검색할 경우 “딥페이크 기술 접근 및 활용하는 데 성폭력처벌법, 공직선거법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의하라”라는 문구가 뜨면서 주의 안내문을 제공한다고 한다. 더하여 네이버는 딥페이크에 관한 검색 결과와 관련 AI 자동 필터링을 거쳐 불법 콘텐츠에 노출 및 사용되지 않도록 하고 있다.

또한 국내 거대 포털사이트 다음(Daum) 운영사인 카카오 역시 딥페이크 음란물 성범죄 확산을 막기 위해 사전 조치에 나서고 있다. 특히 카카오는 올해 1월부터 한국인터넷자율정책기구(KISO)와 협의하여 청소년 보호 검색어로 딥페이크와 관련한 검색어를 지정하면서 규제하고 있다.

카카오와 다음에 따르면 해당 조치는 당시 4월 국회의원 선거를 앞두고 정치와 관련한 딥페이크 영상물 유통을 막기 위한 조치로 알려졌다.

더하여 카카오의 대표 메신저 플랫폼인 카카오톡 역시 딥페이크 음란물 유통을 최소화하기 위해 제재 정책 시행 및 모니터링을 강화하고 있다. 이에 대해 카카오는 오픈 채팅을 비롯해 다음, 카카오 내 공개 게시판 서비스에 딥페이크 음란물 유통을 감시하는 모니터링을 실시했으며, 딥페이크 제공 및 배포 행위에 대해 영구적으로 카카오톡 전체 서비스 이용에 제한하는 강력한 정책을 시행한다.

또한 이달 카카오톡은 신규 기능인 ‘페이크 시그널’을 도입했다. 이는 온라인상에서 사칭을 통한 사기 등에 선제 대응하도록 경고 메시지를 전달하는 기능이다.

또한 전 세계 포털사이트를 장악한 구글의 경우 인공지능을 통해 제작한 결과물이 더욱 정교해지면서, 콘텐츠 악용 가능성의 우려가 커지고 있어 지난해(2023년)부터 인공지능으로 생성한 이미지를 비롯해 오디오까지 비가시성 워터마크를 삽입했다. 구글에 따르면 보이지 않는 워터마크 기술인 ‘신스ID(SynthID)’을 도입한 이후 지난 5월 텍스트와 동영상에도 이를 확대 적용한 것으로 전해진다.

이에 대해 구글 측은 ‘책임감 있는 생성형 AI툴킷(Responsible Generative AI Toolkit)’을 통하여 신스ID’ 텍스트 워터마킹 기술을 오픈소스로 공개할 방침을 밝혔다. 이와 관련해 앞서 카카오 역시 이미지 생성 애플리케이션(칼로, 비 디스커버)에 비가시성 워터마크, 가시성 워터마크를 도입한 바 있다. 하지만 기존 서비스를 재정비하는 과정에서 지난달 중단했다.

한편, 미국의 한 사이버 보안 업체가 최근 발표한 보고서에 따르면 지난해(2023년) 기준 약 9만 5,800건의 딥페이크 영상을 분석한 후 전 세계에 유포된 ‘딥페이크 음란물’ 피해자 가운데 절반을 넘긴 53%가 한국인으로 집계됐다. 이에 대해 미국 월스트리트저널은 해당 조사 결과를 인용하여 “딥페이크 음란물에 한국이 가장 취약한 국가”라고 보도했다.

해당 보고서에 따르면 한국인 딥페이크 음란물 피해자는 대부분 연예인으로 나타났고, 최다 표적이 된 개인 10명 가운데 8명이 ‘한국인 가수’로 나타났다. 심각한 사태에 방송통신심의위원회는 텔레그램의 CEO인 파벨 두로프를 수사 중인 프랑스 당국에 딥페이크 성범죄 대응을 위한 긴급 공조 요청을 보낸 것으로 전해진다. 

• “여기 ‘슈퍼카’ 전시장이냐고요? 아뇨 회사 직원 주차장입니다”
• 14년 전 가신 아버지 매일 생각나…앙드레김 아들의 현재자 직업
• “마약부터 성관계까지…” 폭로한 BJ, 앞서 이런 논란 있었다
• “재벌인가요?” 페라리·포르쉐 등장한 국회의원 재산 1위, 바로…
• 10년 전 호텔 들이받은 80대 택시기사에게 이부진이 한 행동