오세훈 서울시장이 딥페이크 기술로 30대 몸짱 배우로 변신했다.

19일 서울시의회 제327회 정례회의 시정질의자로 나선 윤영희 서울시의원(국민의힘)은 최근 지방의회 의원들을 상대로 한 딥페이크 범죄 피해가 확산 중이라고 언급하며 직접 오세훈 시장의 얼굴로 만들어진 딥페이크 영상을 공개했다.

지방의원들을 대상으로 딥페이크 범죄를 막을 방안을 고민해 달라는 요청을 하는 과정에서 딥페이크 기술의 파급력을 쉽게 설명하기 위해 윤 의원이 직접 영상을 만들어 본 것이다.

윤 의원은 휴대전화 애플리케이션을 이용해 한 외국 배우의 영상에 오 시장의 얼굴을 합성했다.
그는 “제가 이 영상을 1분도 안 돼서 만들었는데 심지어 무료였고 너무 쉬웠다”고 지적했다.

영상이 회의장에서 재생되자 참석자들은 폭소를 터뜨렸고, 오 시장도 단상에서 웃으며 "묘하게 닮았다"고 반응했다.

윤 의원은 이 영상을 통해 딥페이크 기술의 간편함과 저비용으로 인한 위험성을 실감케 했다.
"이처럼 누구나 쉽게 제작할 수 있는 딥페이크가 개인의 명예와 사생활을 침해하거나, 사회적 혼란을 야기할 가능성이 크다"며 지방자치단체 차원의 대책 마련을 촉구했다.

이에 오 시장은 서울시가 디지털 성범죄 대응에 선제적으로 나서고 있다고 밝혔다.
그는 “서울시는 디지털성범죄피해자지원센터에서 AI 프로그램을 도입해 관련 영상을 탐지 및 삭제하고 있다"며, "과거에는 사람이 수작업으로 진행해야 했지만, 이제 AI 기술을 통해 대량으로 처리할 수 있게 됐다"고 설명했다.
이어 “피해자가 되면 사회적·정신적 피해가 극심한 만큼 앞으로도 인격권을 철저히 보호할 수 있게 하겠다”고 강조했다.

앞서 지난 17일 경찰청은 최근 서울, 인천, 부산, 광주, 대구 등 전국 각지의 기초의원 소속 30명으로부터 딥페이크 협박 메일을 받았다는 신고를 접수했다고 밝혔다.
불법 합성물에 사용된 사진은 의회 홈페이지 등 인터넷에 올라와 있는 의원들의 증명사진이다.

메일 발송자는 불법 합성물을 삭제해 주는 대가로 5만 달러(약 7000만 원) 상당의 암호화폐를 QR코드로 보내라고 유도한 것으로 조사됐다.

한편, 딥페이크란 인공지능(AI) 기술을 활용해 특정 인물의 얼굴이나 신체를 다른 영상이나 이미지에 합성하는 것을 뜻한다.
최근 익명 메신저인 텔레그램을 통해 일반인의 얼굴을 합성한 음란물이 무차별적으로 유포되면서 딥페이크 피해가 빠르게 확산하고 있다.