중국은 인공지능(AI) 단속의 일환으로 561만 건 이상의 인공지능(AI) 관련 콘텐츠를 삭제하고 수만 개의 계정과 웹사이트에 제재를 가했다.

이 조치는 허위 정보, 폭력적이거나 저속한 자료, 미성년자에게 해를 끼치는 콘텐츠 등을 대상으로 하며, 플랫폼과 챗봇 개발자들은 금지된 콘텐츠 생성을 제한하고 자동 탐지 기능을 강화하고 있다고 테크 리퍼블릭이 3일(현지시간) 보도했다.

이러한 규제는 AI 생성 및 합성 콘텐츠에 대한 식별자 표시를 요구하며, 중국의 AI 라벨링 규정에 따른 것이다.

중국은 인공지능이 온라인에서 사용하는 방식에 대한 규제 당국의 단속 확대의 일환으로, 인공지능이 생성했거나 인공지능과 관련된 콘텐츠 561만 건 이상을 삭제했다.

중국 국가인터넷정보판공실(CAC=Cyberspace Administration of China)은 지난 2일 인공지능 애플리케이션 악용 방지 캠페인인 ‘칭랑(Qinglang)’ 2단계에서 561만 건 이상의 불법 또는 규정 미준수 콘텐츠를 삭제하고, 4만 9천 개 이상의 계정에 제재를 가했으며, 2,400개 이상의 웹사이트와 앱에 대해 조치를 취했다고 발표했다.

‘Qinglang’은 중국어 ‘清朗(청랑)’의 병음 표기로, ‘맑고 깨끗함’을 뜻한다. CAC가 주도하는 인터넷 환경 정화 운동인 '청랑 캠페인'을 말한다. 가짜 뉴스, 폭력적 콘텐츠, 알고리즘 남용 등을 단속하여 '깨끗한' 사이버 생태계를 조성하는 것이 주요 목적이다.

CAC에 따르면, 지난 4월에 시작된 4개월간의 캠페인은 허위 정보, 폭력적이거나 저속한 자료를 유포하거나, 실존 인물을 사칭하거나, 미성년자에게 해를 끼치는 데 사용되는 AI 생성 콘텐츠를 대상으로 한다.

CAC 보고서는 인공지능(AI)을 이용해 ‘삼국지연의’(三國志演義, Romance of the Three Kingdoms)나 ‘서유기’ (西遊記, Journey to the West) 같은 고전 작품을 리믹스하여 등장인물을 자극적인 줄거리로 바꾸는 콘텐츠를 지적했는데, 규제 당국은 이러한 콘텐츠를 ‘디지털 쓰레기’(digital slop)라고 규정했다.

지적된 다른 사례로는 노인들을 겁주거나 오도하기 위해 AI로 생성된 가짜 재난 영상, 이익을 위해 유명인을 사칭하는 딥페이크 영상, 미성년자를 성적으로 대상화하거나 위험에 빠뜨리는 콘텐츠 등이 있었다.

중국 CAC는 또 소셜 미디어 계정, 댓글, 반복적인 게시물을 자동화하는 데 사용되는 AI 호스팅 소프트웨어를 문제 삼으며, 이를 중국의 이른바 인터넷 ‘물 부대’(water armies)의 AI 기반 진화라고 설명했다.

CAC에 따르면, 더우인(抖音, Douyin : TikTok의 중국어 버전), 콰이쇼우(快手, Kuaishou : 동영상 공유 플랫폼이자 소셜 네트워크 서비스), 웨이보(微博, Weibo : 마이크로 블로그 서비스), 텐센트(腾讯, Tencent : 강력한 메신저), 바이두(百度, Baidu : 중국 최대 규모의 검색 엔진 및 포털 사이트), 빌리빌리(哔哩哔哩, Bilibili : OTT플랫폼), 샤오홍슈(小紅書, Xiaohongshu : 소셜 네트워크 서비스이자 전자상거래 플랫폼), 즈후( 知乎, Zhihu : 지식검색 서비스), 더우반(豆瓣, Douban : 온라인 쇼핑 평점 플랫폼), 타오바오(淘寶, Taobao : 전자상거래 등) 등 주요 플랫폼들은 자동 탐지 기능 개선을 위해 얼굴, 음성, 금지 콘텐츠 샘플 라이브러리를 확장했으며, 총 46건의 관리 관련 공지를 발표했다.

CAC 보고서에 따르면, 바이트댄스의 더우바오(Doubao), 텐센트의 위안바오(Yuanbao), 알리바바의 큐엔(Qwen), 바이두의 어니봇(Ernie Bot) 등 주요 챗봇 개발사들이 학습 데이터 검토를 강화하고 금지된 콘텐츠 생성을 제한했다.

CAC는 이들 플랫폼이 “원본 코퍼스 콘텐츠 검토를 엄격하게 관리하고, 불법 콘텐츠 생성을 엄격히 제한하며, AI 생성 합성 콘텐츠 식별 요건 이행을 강화하여 불법 및 부정 정보의 생성과 유포를 원천적으로 차단하고 있다”고 밝혔다.

CAC에 따르면, 화웨이, 샤오미, 오포, 비보가 운영하는 앱스토어들도 개발자 심사를 강화했다. 이러한 단속은 2025년 9월 1일부터 시행된 중국의 AI 라벨링 규정에 따른 것으로, 특정 상황에서 AI 생성 및 합성 콘텐츠에 명시적 또는 메타데이터 기반 식별자를 표시하도록 요구한다. 주요 플랫폼들은 이미 1,500억 건 이상의 AI 생성 또는 합성 콘텐츠에 라벨을 부착한 것으로 알려져 있다.

이 캠페인에서 흥미로운 점은 중국이 단순히 온라인에 나타난 AI 콘텐츠를 식별하는 단계를 넘어섰다는 것이다. CAC는 학습 데이터 검토, 출력 제한, 앱스토어 심사 등 생성 및 배포 전 단계에서의 통제를 강화하고 있다. 중국에서 사업을 운영하는 AI 기업의 경우, 규정 준수는 게시 후 금지된 게시물을 삭제하는 것을 넘어 학습 데이터, 모델 출력, 콘텐츠 라벨링, 앱 배포 전반에 걸친 통제로 확대되고 있다.

소비자 입장에서는 더욱 강화된 탐지 기능이 정교한 사기, 사칭 영상, 그리고 오해를 불러일으키는 AI 게시물의 감소로 이어질 수 있지만, 엄격한 필터링은 오탐지(誤探知) 문제와 플랫폼이 유해한 합성 콘텐츠와 합법적인 창작물을 구분하는 방식에 대한 우려를 낳기도 한다.