틱톡이 오는 6월 제9회 전국동시지방선거를 앞두고 인공지능(AI) 생성 콘텐츠 규제와 정치 계정 광고·수익화 전면 제한 등을 골자로 한 선거 무결성 확보 전략을 공개했다.

선관위 협력 채널 가동

숏폼 플랫폼 틱톡은 20일 온라인 간담회에서 플랫폼 내 공정성과 안전성을 확보하기 위한 '선거 무결성' 대책을 발표했다. 기술적 탐지와 전문 인력의 검토, 외부 기관과의 파트너십을 결합한 다층적 체계로 유해 콘텐츠 확산을 원천 차단한다는 방침이다.

틱톡은 이번 지방선거 기간 ▲투표율 ▲투표 장소 ▲자격 ▲방식 등 선거 절차에 대해 이용자를 오도하는 허위 정보를 엄격히 불허한다고 강조했다. 타 플랫폼이 팩트체크 후 경고 라벨을 붙인 채 콘텐츠를 노출하는 것과 달리, 틱톡은 가이드라인을 위반한 허위 정보를 플랫폼에서 즉시 삭제 조치하는 것이 차별점이다.

이를 위해 틱톡은 중앙선거관리위원회와 전용 협력 채널(핫라인)을 구축해 운영한다. 선관위가 위법성 및 오도 우려가 있는 콘텐츠를 신고하면 틱톡의 '신뢰와 안전' 팀이 우선으로 검토에 착수한다. 검토는 틱톡의 커뮤니티 가이드라인과 한국의 국내 법규 위반 여부를 종합적으로 고려해 이뤄지며, 위반 시 콘텐츠 삭제나 노출 제한, 계정 단위 조치 등이 신속하게 이뤄진다. 다만, 정부 기관의 요청이어도 무조건 자동 삭제되는 것은 아니며 틱톡의 자체 정책 기준과 법적 근거 확인을 거친다.

또 틱톡은 이용자들이 공신력 있는 선거 정보에 접근할 수 있도록 앱 내에 선관위 공식 데이터로 연결되는 '선거 정보 페이지(선거 센터)'를 개설했다. 이용자들이 모바일에서 선거 관련 키워드를 검색할 경우 선거 센터로 안내하는 배너가 노출돼 비공식 정보에 의존할 가능성을 낮춘다. 현재 운영 중인 선관위 공식 틱톡 계정에서는 수천만회 이상의 재생수를 기록한 게시물들을 어렵지 않게 볼 수 있다.

정치 계정 광고·수익화 전면 차단

이번 선거의 핵심 쟁점인 AI 생성 콘텐츠(AIGC)에 대한 구체적인 가이드라인도 제시됐다.

틱톡은 실제 인물의 발언이나 행동을 왜곡하거나, 발생하지 않은 사건을 실제처럼 꾸며 이용자의 판단에 영향을 주는 가짜 콘텐츠를 전면 삭제한다. 사실적으로 보이는 AI 생성 콘텐츠는 크리에이터가 직접 AI 제작물임을 명시하는 '라벨'을 부착하도록 의무화했으며, 이를 지원하는 도구를 앱 안에서 제공하고 있다. 글로벌 기관 및 워터마킹 기술과의 협력으로 AI 생성 여부를 선제적으로 탐지·레이블링하는 체계도 가동 중이다. AI 라벨을 부착했어도 커뮤니티 가이드라인이나 국내법을 위반한 유해 콘텐츠로 판단되면 삭제 등 조치를 취한다.

정부·정치인·정당 관련 계정에 대한 관리 규정도 엄격해진다. 정치적 영향력을 가진 계정이 플랫폼 기능을 악용하는 것을 막기 위해 이들 계정의 정치 관련 광고 집행은 전면 금지된다. 일반 광고 포맷이나 '프로모트' 기능을 활용해 우회적으로 정치 광고를 노출하는 행위 역시 정책 위반으로 조치된다. 아울러 정치 목적의 모금이나 기부 유도 행위가 금지되며, 크리에이터 수익화 및 인센티브 프로그램 참여도 차단돼 정치 콘텐츠가 경제적 이익과 결합하는 것을 방지한다.

틱톡은 선거 콘텐츠의 삭제 및 제재에 관한 최종 의사결정을 외부에 아웃소싱하지 않는다고 공언했다. 한국의 사회적·정치적 맥락과 언어적 특성을 이해하는 틱톡 코리아 임직원이 직접 최종 결정을 내려 한국 시장에 최적화된 안전 기준을 보장한다는 설명이다.

글로벌 팩트체크 기관인 리드 스토리즈와 손잡고 한국 관련 콘텐츠 주장의 사실성을 평가하고 있으며, 한국 전문가가 포함된 아시아·태평양 지역 안전 자문위원회의 자문을 병행해 미디어 환경에 대한 이해도를 높이고 있다.

틱톡 관계자는 "정치적 견해나 정당 소속 여부를 근거로 콘텐츠를 선호하거나 배제하지 않으며, 선거 관련 정책을 편향 없이 일관되게 적용하고 있다"며 "이용자들이 선거 기간에도 안전한 환경에서 자유롭게 의견을 표현하고 소통할 수 있도록 노력하겠다"고 전했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지