“인증샷도 못 믿겠다”

인공지능 ‘딥페이크’의 두 얼굴 

글 장수경

딥페이크 기술로 손석구의 어린 시절 모습을 그려낸 <살인자ㅇ난감> 속 장면(제공: 넷플릭스)

“저렇게 똑 닮은 아이를 어떻게 찾았지!”

넷플릭스 오리지널 시리즈 <살인자ㅇ난감>이 지난 2월 9일 공개된 직후 ‘닮은꼴’이 화제를 모았다. 극중 장난감 역을 연기한 손석구와 아역으로 등장한 배우가 너무 닮아서다. 두 사람의 닮은 꼴을 비교한 사진은 빠르게 소셜미디어(SNS)를 통해 퍼져나갔다. “아들이 아니냐”는 말도 나왔지만 실마리는 찾을 수 없었다. 알고보니, 연기는 다른 아역 배우가 하고 인공지능 ‘딥페이크(deepfake)’ 기술로 손석구의 어린 시절 사진을 구현해 얼굴을 덧씌운 것이었다. 감독은 영화의 리얼리티를 위해 등장인물의 과거 장면은 모두 딥페이크 기술을 사용했다.

지난 수십년간, 인공지능 기술의 발전은 우리의 문화와 예술에 새로운가 능성을 제기해왔다. 하지만 이런 기술의 진보는 때때로 현실과 가상 세계 사이에 모호한 선을 그어 놓는다. 이런 모호함은 최근 주목받는 딥페이크 기술을 통해 더욱 뚜렷해지고 있다.

‘딥페이크’는 인공지능 기술인 ‘딥러닝(deep learning)’과 가짜를 의미하는 ‘페이크(fake)’의 합성어로, 인공지능을 기반으로 한 인간 이미지 합성 기술을 가리킨다. 2017년 미국 온라인 커뮤니티에 유명 배우의 얼굴을 합성한 가짜 영상이 올라오면서 세상에 처음 알려졌다.

딥페이크는 가짜 정보를 마치 진짜인것처럼 느끼게 한다. 딥러닝 알고리즘을 활용해 인물의 얼굴이나 음성을 합성해 가짜 영상이나 오디오를 만든다. 유명인의 얼굴을 대체하거나, 특정한 부위를 영화의 CG처럼 합성한다. 이 기술은 예술적 창의성을 높이는 동시에 개인 정보 보호와 미디어의 신뢰성에 대한 우려를 불러 일으키고 있다.

영화 <제미니 맨(Gemini Man, 2019)>

혁신과 창의성 제공

딥페이크는 엔터테이먼트 분야에서 혁신과 창의성을 제공한다. 특수효과를 더욱 현실적으로 구현하고 새로운 시각적 경험을 제공한다. 영화 <제미니 맨(Gemini Man, 2019)>에서는 실제 딥페이크 기술이 활용됐다. 영화에서 50대 윌 스미스가 20대 시절의 자신을 마주치는 장면은 딥페이크 기술로 구현됐다. 이는 영화의 몰입감을 높일 뿐 아니라 시청자에게 흥미로운 시각적 경험을 제공했다.

2020년 한 방송 프로그램에서는 혼성그룹 ‘거북이’가 출연했다. 방송에서 ‘거북이’는 가수 가호의 노래 ‘시작(드라마<이태원 클라쓰> 주제곡)’을 리메이크해 불렀다. 그런데 거북이의 리더 ‘터틀맨’은 지난 2008년 고인이 된 사람이다. 공연에서는 딥페이크가 만들어낸 가상인물 ‘터틀맨’이 12년 만에 그룹 동료들과 함께 무대에 올랐고, 그를 그리워하던 팬들에게 감동을 선사했다.

엠넷 프로그램 <AI 음악프로젝트 다시 한 번>의 거북이 터틀맨의 모습

최근에는 오픈 AI가 처음으로 동영상 생성 AI 모델 ‘소라(Sora)’를 내놓아 동영상 분야의 지각변동을 예고했다. 이 영상은 검은색 가죽 재킷에 긴 빨간 드레스, 검은 가죽 부츠를 입은 한 여성이 네온사인 간판으로 가득한 도쿄 거리를 걷고 있는 모습이 담겼다. 짧은 영상임에도 그녀의 섬세한 감정이 잘 느껴지는 듯 했다. 그런데 이 영상은 오픈 AI가 텍스트를 입력해 생성한 런웨이 동영상이다. 현재 동영상 생성 AI의 결과물은 1분 이내지만, 퀄러티가 매우 높아 앞으로 이 기술이 얼마나 발전할지 기대와 관심이 모아지고 있다.

팝가수 테일러 스위프트(출처: 뉴시스)

신종 범죄도 점점 늘어나

이처럼 딥페이크는 가상세계와 현실 세계를 허물며 다양한 가능성을 선보이고 있다. 하지만 딥페이크에 대한 우려와 반감의 목소리도 커지는 추세다. 디지털 성범죄는 물론 정치권의 여론 조작, 보이스피싱 등 신종 범죄가 어느때보다 들끓고 있어서다.

최근 딥페이크 기술을 기반으로 한 가짜 영상과 사진이 유포 돼 유명 인사들이 곤혹을 치르고 있다. 얼마 전 세계적인 팝가수 테일러 스위프트 얼굴을 음란물에 합성한 딥페이크 이미지가 SNS 엑스(X, 옛 트위터)를 통해 확산돼 전 세계가 발칵 뒤집혔다.

톰 행크스가 자신의 SNS를 통해 사칭광고에 속지말라고 당부

했다. (출처: 인스타그램 캡처)

지난해 11월에는 헐리우드 배우 스칼렛 요한슨이 자신의 허락없이 얼굴과 목소리를 변조해 광고에 사용한 AI앱 제작사에 법적 조치를 취했다. 미국 유명 배우 톰 행크스는 AI가 만든 자신의 이미지가 무단으로 광고에 사용된다며 주의를 당부했다.

지난 1월에는 조 바이든 미국 대통령이 트랜스젠더 혐오 발언을 내뱉은 것처럼 꾸며낸 가짜 영상이 삽시간에 퍼졌다. 테슬라 창업자인 일론머스크가 비트코인 투자자를 모집한다는 가짜 영상도 나돌았다. 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 가짜 사진이 유포되기도 했다

AI가 만든 도널드 트럼프 전 미국 대통령 딥페이크 이미지

이는 해외만의 문제가 아니다. 우리나라에서는 배우 조인성, 송혜교가 투자를권 유하는 딥페이크 영상이 떠돌았다. 이로 인해 거액의 투자금을 잃은 투자자의 집단 고소 사건이 진행 중이다.

유명인뿐 아니라 일반인도 딥페이크 서비스에 쉽게 노출돼 있다. 지난해 10월 소셜네트워크 분석기업 그래피카(Graphika)가 발표한 자료에 따르면 9월 한 달 동안에만 2400만 명이 딥페이크 웹사이트를 방문한 것으로 조사됐다.

피혜 사례도 급증하고 있다. 방송통신심의위원회가 지난해 차단이나 삭제 요청한 ‘딥페이크를 포함한 성적 허위 영상물’은 2020년 473건에서 2023년(11월까지) 5996건으로 3년새 12배나 급증했다.

특히 올해는 한국과 미국 등 76개국에서 주요 선거를 치르는 ‘슈퍼 선거의 해’로 불리우면서, 딥페이크를 활용한 허위 정치 콘텐츠가 범람할 우려가 커지고 있다. 이미 미국에서는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 미국 대통령을 사칭한 전화로 논란을 빚었다. 인도네시아에서는 고인이 된 군부 출신 독재자가 투표를 독려하는 딥페이크 영상이 나와 사회적으로 파장이 일었다.

제22대 국회의원선거 D-90을 하루 앞둔 지난 1월 10일 경기도 수원시 영통구 경기도선거관리위원회 사이버공정선거지원단실에서 선관위 직원들이 흑색선

전, 비방, 허위사실 공표 등 사이버 선거범죄 근절 홍보 퍼포먼스를 진행하고 있다. 이번 퍼포먼스는 선관위가 딥페이크 선거운동 등 변화된 선거환경에 선제

적으로 대응하기 위해 실시 중인 사이버선거범죄 근절 활동을 최근 관련 선거법 개정에 따라 대국민 홍보의 일환으로 실시했다. (출처: 뉴시스)

우리나라의 경우 지난 대선에서 ‘AI 윤석열’ ‘AI 이재명’ 등 딥페이크 영상이 관심을 끌었다. 이번 총선에서는 가짜뉴스 허위정보 등 선거 조작 우려로 인해 지난 1월 29일부터 딥페이크 선거운동이 금지됐다. 하지만 선관위가 전담팀을 가동한 지 20일도 안돼 위반 사례가 100건이 넘어섰다. 이 때문에 4월 총선에 임박해 쏟아질 딥페이크 게시물을 걸러낼 수 있을지 미지수란 지적이 많다.

딥페이크 ‘비상’, 규제 강화 속도내나

딥페이크 영상이 사회적 문제로 떠오르는 가운데 세계 각국에서는 규제 강화에 열을 올리고 있다. 구글과 메타는 생성형 AI로 만든 이미지에 별도의 표식(label, 라벨)을 붙이는 안전 장치를 마련했다. 메타는 공식 홈페이지를 통해 “몇 달 안에 페이스북과 인스타그램, 스레드(Threads)에서 AI로 생성한 콘텐츠에는 라벨(꼬리표)을 붙일 것”이라고 전했다.

챗GPT를 개발한 오픈AI도 같은 정책을 추진하기로 했다. 오픈AI는 ‘달리3’가 만든 이미지에 콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)의 워터마크를 부착할 예정이다. C2PA는 미디어 출처와 관련 정보 확인을 위한 개방형 기술 표준으로, 마이크로소프트(MS)와 어도비, 인텔 등의 기업이 주도하고 있다.

미국과 유럽은 정부 차원에서 딥페이크 규제 법안을 마련하기로 했다. 미국 정부는 AI 기술 개발과 관련한 행정명령을 통해 워터마크(식별 표시)를 넣기로 했다. 유럽연합은 AI로 생성한 콘텐츠에 워터마크를 의무하는 ‘AI 규제법’을 통과시켰다.

국내의 경우 한국인터넷자율정책기구(KISO)는 지난 1월 네이버, 카카오, SK커뮤니케이션즈 등 포털 회원사들과 협력해 청소년 보호를 위한 검색어 110개를 새로 추가했다. AI 기술의 부상과 그로 인한 유해 정보 증가에 대한 신속한 대응 조치다. AI와 관련해서는 ‘지인 능욕’ ‘지인 합성’ 등 딥페이크 관련 검색어가 대표적이다. 총선을 앞두고 딥페이크 게시물 확산 방지에도 초점을 맞추고 있다.

딥페이크 기술은 현대 사회에 새로운 도전과 위험을 제시하고 있다. 현실과 가상 사이를 공존하는 이 기술은 창의적이고 혁신적인 가능성을 제공하지만, 동시에 다양한 위험과 문제점을 내포하고 있다. 전문가들은 기술적, 사회적, 법적 측면으로 종합적인 대응이 필요하다고 의견을 제시한다. 미래에는 딥페이크 기술이 더욱 발전하고 다양한 분야에서 활용될 것으로 예상되며, 이에 대한 신중한 대응과 준비가 어느 때보다 필요한 시점이다. 이를 통해 우리는 딥페이크의 위험에 효과적으로 대응하고 더욱 안전한 미래를 만들 수 있을 것이다.