“중국이 중국 했다”…IT 기업이 ‘AI 챗봇’ 개발하자 벌어진 일

중국 인공지능 챗봇
시진핑 사전 검열 대상
다른 질문으로 유도해

최근 중국 정부가 인공지능(AI)기업의 대규모언어모델(LLM)이 사회주의 가치를 구현하고 있는지 시험하기 위해 최신 검열 체제를 확장해 사상 검증을 실시하고 있는 것으로 알려졌다. 이런 사실은 현지 시각으로 지난 17일 파이낸셜타임스(FT)를 통해 보도됐으며, 중국 사이버 공간관리국(CAC)이 바이트댄스, 알리바바, 문샷, 01 AI 등 기술 기업이 AI 모델을 정부 검토에 의무적으로 참여시키도록 하는 것으로 확인됐다.

이에 따라 중국 AI 챗봇의 경우 국가와 시진핑 국가주석, 사회주의 사상에 대한 부정적인 정보를 AI 학습 데이터로 쓰지 못하게 원천 차단하는 방식을 활용해 민감한 정보에 대해 답변하지 못하도록 설정했다. 이어 중국 정부는 검열에서 나아가 시 주석의 철학 등을 전파하는 AI 챗봇을 자체 출시한 것으로 알려졌다.

현지 언론인 파이낸셜타임스는 중국 사이버 공간관리국(CAC)이 바이트댄스, 알리바바 등 AI 빅테크뿐만 아니라 AI 스타트업들에게도 정부의 AI 거대언어모델(LLM) 검열에 참여하도록 강제하고 있다고 밝혔다.

파이낸셜타임스의 보도에 따르면 중국 전역에서 활동하는 CAC 소속 직원들이 시 주석에 대한 민감한 질문이나 중국 정치에 대한 공격적인 질문을 AI 챗봇에 던진 후 답변을 모니터링하는 방식으로 검열을 진행하는 것으로 확인됐다. 이어 LLM에 포함된 데이터 등도 점검해 가장 완벽하고 엄격한 규제 체계를 만들어 나가고 있다.

이런 중국 정부의 검열에 중국 내 AI 개발 업체들은 정부의 AI 개발 관련 가이드라인에 따라 자체적으로 특정 데이터를 배제하거나 질문과 답변 알고리즘을 마련하고 있는 것으로 확인됐다. 실제로 이미 대다수의 AI 기업이 지난 2월 정부가 업체들에 하달한 실무 지침에 따라 ‘국가 권력 전복’, ‘국가 통합 저해’ 등 민감한 키워드를 관리하는 것으로 알려졌다.

항저우 소재의 한 AI 기업 관계자는 “우리는 CAC의 첫 검열을 통과하지 못했다”며 “당시 그 이유가 명확하지 않아 동료들과 논의해야 했다”고 밝혔다. 또한, “(CAC의 의도를) 추측해 조정해야 했고, 두 번째 검열에서 통과하기까지 몇 달이 걸렸다”고 말하며 고충을 토로한 것으로 전해졌다.

실제로 중국의 AI 챗봇이 천안문 사건이나 시진핑 주석 등과 같은 민감한 질문에 대한 답변을 회피하는 것으로 알려졌다. 중국의 AI 챗봇에 “천안문 사태 알아?”하고 묻자, 바이두의 ‘어니봇’은 “다른 질문을 시도하라”고 응답했고 알리바바의 ‘통이 치안웬’은 “이 질문에 답하는 방법을 아직 배우지 못했습니다. 더 나은 서비스를 위해 계속 공부하겠습니다”라는 답변이 돌아온 것으로 확인됐다.

다만, 중국 정부가 모든 민감한 질문에 거절하는 개발 방향은 원치 않는 것으로 추측된다. 중국 당국은 제시된 질문의 5% 미만까지만 답변을 거절할 수 있다는 규정을 뒀는데 이는 중국 정치 환경과 사회주의에 대해 AI 챗봇이 편파적이라는 인상을 숨기기 위한 조치로 판단된다. 이어 이런 검열 작업은 중국의 사회주의 국가 권력 공고화 작업의 일환으로 평가되고 있다.

파이낸셜 타임스는 중국이 공산당의 위협이 되는 정보를 차단하기 위해 중국의 인터넷을 세계 인터넷에서 분리한 ‘만리방화벽(만리장성과 방화벽을 합친 신조어)’을 거론하고 “중국이 20년 만에 AI와 그 콘텐츠를 통제하기 위해 세계에서 가장 강력한 AI 규제 체제를 구축하고 있다”고 보도한 것으로 알려졌다. 특히 이런 중국 정부의 제제 수준이 알려지자, 일각에서는 “중국이 중국 했다”라는 평가가 이어지고 있다.

한편, 중국 내 AI 기업들은 정부의 까다로운 검열 문턱을 넘기 위해 LLM이 내놓을 수 있는 부적절한 답변을 미리 걸러내는 ‘필터링’ 기술을 빠르게 도입 중인 것으로 알려졌다. 중국 내에서 AI 열풍이 이어지고 있는 만큼 LLM 관련 매출은 올해 220억 위안, 한화로 약 4조 1,500억 원 수준일 것으로 전망된다.

• 이웃에게 엘리베이터 사용료 500만 원 내라는 ‘입주민’, 대체 왜?
• “서프라이즈 걔 맞습니다”…연 매출 39억이라는 재연배우의 사업
• 이렇게까지 한다고..? 주차 지옥 한국, 일본 따라 ‘이것’까지 도입
• “페라리? 우습다”던 샤오미.. 그렇게 출시한 모델에 세계가 ‘충격’
• 버닝썬→블랙핑크 재계약 무산→2NE1 컴백…주가 이렇게 달라졌죠