텔레그램이 딥페이크 음란물의 집중 표적이 된 건 규제 사각지대에 놓여 있기 때문이다.
현재 카카오톡 오픈 채팅방, 네이버 커뮤니티 게시판 등 국내 플랫폼은 불법 촬영물이나 음란물 유포를 막기 위한 기술적 조치를 취하고 있다.
2021년 이른바 ‘N번방 방지법(전기통신사업법 개정안 등)’이 시행되면서다.
그러나 정작 N번방 사건과 최근 딥페이크 사태의 무대가 된 외산 메신저 텔레그램은 N번방 방지법의 적용 대상이 아니다.

개정된 법을 보면 국내에서 사업을 하는 연 매출 10억원 이상이거나 일평균 이용자 10만명 이상인 인터넷 사업자는 음란물 유포를 막기 위한 필터링 기술을 적용해야 한다.
불법 촬영물로 의심되는 게시물을 발견하면 유통을 차단하고 관련 기관에 신고해야 한다.
또 매년 불법 촬영물 처리에 관한 투명성 보고서를 방송통신위원회에 제출해야 한다.
불법 촬영물 등에 대한 삭제 및 차단 조치를 의도적으로 이행하지 않으면 매출액의 3% 이내에서 차등적 과징금이 부과될 수 있다.

네이버, 카카오 등 대형 플랫폼뿐 아니라 디시인사이드, 뽐뿌같은 커뮤니티 사이트도 규제 대상이다.
매출 규모가 10억원 미만이라도 서비스에 불법 촬영물이 자주 올라와 시정 요구를 받으면 적용 대상이 된다.

반면 텔레그램은 N번방 방지법 적용 대상이 아니다.
국내에 법인이나 대리인이 없어 벌을 적용할 길이 없기 때문이다.
텔레그램은 개인 간 사적 대화방으로 운영되기 때문에 ‘일반에게 공개돼 유통되는 정보’라는 규제 대상도 아니다.

N번방 방지법에 따라 국내 플랫폼은 다양한 사전 조치를 취하고 있다.
네이버는 인공지능(AI) 기술로 실시간 음란물을 필터링하는 ‘그린 아이(Green-eye)’를 운영한다.
게시물에 포함된 이미지와 동영상에서 실시간으로 음란성 지수를 산출한다.
선정적인 콘텐츠로 판단할 경우 즉시 삭제 등의 조치를 한다.
그린 아이가 선정적인 이미지나 동영상의 90% 이상을 자동 감지하고 추가 검토가 필요한 경우 전담 인력이 투입된다.

카카오는 오픈채팅과 포털 다음, 카카오 내 공개 게시판 등에서 모니터링을 통해 딥페이크 유통을 감시하고 있다.
‘아르고스(ARGOS)’라는 시스템을 적용해 이미지나 동영상 콘텐츠를 검수하고 불법 촬영물 등으로 판단하면 이를 삭제하거나 게재 제한 조치를 한다.
모니터링이 불가능한 일반 채팅은 이용자 신고가 들어오면 사후 조치를 한다.
대신 불법 합성물 배포, 제공 등 행위를 적발하면 카카오톡 전체 서비스 이용을 영구적으로 제한하는 등 강력하게 대응한다.

이 외에 네이버, 카카오, SK커뮤니테이션즈 등 한국인터넷자율정책기구(KISO) 회원사들은 지난 1월부터 딥페이크 관련 검색어를 청소년 보호 검색어로 지정했다.
‘지인능욕’, ‘지인합성’ 등 딥페이크 관련 검색어를 입력하면 관련 정보를 차단한다.