2024년 3월 9일, 비 오는 금요일 저녁. 브레다 씨 부부는 허름한 호텔 주차장에 들어섰다. 미국 조지아주의 작은 도시 롬(Rome)에 있는 호텔까지 그들은 1시간 반 정도 장대비를 뚫고 달려왔다. "방이 거의 다 찼어요. 지금 결제하면 하루에 149달러예요. 다른 호텔도 마찬가지일 거예요." 프런트에 있는 호텔 직원은 연신 울리는 전화를 받으며 같은 말을 반복 중이었다. 브레다 씨 부부가 예약할 때보다 50달러 정도 오른 가격이었다. "미리 예약하길 잘했네." 그들은 말했다.

"제가 입은 멋진 티셔츠를 한 번 볼래요?" 한국에서 온 기자라고 밝히자 브레다 씨는 양손에 들고 있던 짐을 내려놓으며 말했다. 그녀가 입은 상의에는 '2020 It's not over yet'이라고 적혀 있었다. 무슨 의미냐고 묻자 부부는 동시에 답했다. "2020년 대선은 '아직' 끝나지 않았어요."

트럼프 전 대통령의 극렬 지지층. 그들을 미국에선 마가(MAGA)라고 부른다. 트럼프의 대선 구호 '미국을 다시 위대하게(Make America Great Again)'의 앞 글자를 딴 이름이다. 2020년 대선에서 트럼프는 바이든에게 패했다. 하지만 트럼프와 지지자들은 이를 인정하지 않았고 결국 2021년 1월 6일, 초유의 국회의사당 난입 사태가 일어났다. 트럼프는 대선 불복 혐의로 수사를 받았고 현재 재판을 앞두고 있다. 그럼에도 그들은 여전히 지난 대선을 "도둑맞았다"고 생각하고 있었다.

기자가 이날 호텔에서 브레다 씨 부부를 만나게 된 건 다음 날 예정된 트럼프의 선거 유세 때문이었다. 오는 11월 대선에서 바이든과 다시 맞붙게 된 트럼프는 매 주말마다 미국 각 지역을 돌며 유세를 하고 있다. 브레다 씨 부부는 유세에 참석하기 위해 하루 전에 이곳에 왔다. 이날 호텔 투숙객 대다수는 브레다 씨와 같은 트럼프 지지자들이었다.

다음 날 트럼프 유세는 오후 3시 시작이었다. 그것도 지역 의원이나 공화당 관계자들의 찬조 연설이 3시부터였던 거고, 트럼프는 오후 5시가 넘어서 연설을 시작할 예정이었다. (실제로 트럼프는 스케줄이 지연돼 오후 6시가 돼서야 등장했다.) 그럼에도 지지자들 대부분은 아침 일찍 숙소를 나서 행사장 앞에 줄을 섰다. 행사장 안으로 들어가기 전 보안 검색을 하는 검색대 앞에는 간이 의자, 담요, 깔개 등 오랜 시간 사람들이 기다린 흔적들이 남아있었다. 기자도 취재를 위해 낮 1시쯤 유세장에 도착했는데 이미 4천500석 규모의 행사장이 꽉 차 2층 가장 끝자리, 그것도 계단 난간에 겨우 자리를 잡을 수 있었다.

취재진은 고도화된 인공지능(AI) 기술이 선거에 어떤 영향을 주고 있는지 미국 대선 현장과 유권자들을 취재하기 위해 3월 초 미국을 찾았다. 이미 미국에서는 지난 1월 바이든 대통령의 목소리로 민주당원들에게 걸려온 이른바 '사칭 전화 사건(fake robo call)'으로 선거에 미칠 인공지능 기술의 위협에 대한 우려가 커져 있었다. 이 사칭 전화는 바이든 대통령이 뉴햄프셔주 민주당 예비경선 전날 선거인단에게 투표를 하지 말라고 이야기한 내용인데, 수사 결과 '일레븐랩스'라는 업체의 생성형 음성 AI 기술을 이용해 만든 가짜였다. 이외에도 트럼프, 바이든을 주인공으로 AI가 만들어낸 가짜 사진, 영상 등은 이미 SNS에 넘쳐나고 있다. 고령의 나이로 건강 논란이 늘 이슈인 바이든이 서점에서 치매 책을 보고 있는 영상, 수십 개의 혐의로 기소돼 재판을 앞두고 있는 트럼프가 경찰에 체포돼 재판을 받고 있는 사진 등 이미 수년 전에 만들어져 계속 회자되고 있는 딥페이크는 물론, 선거를 앞두고 새롭게 확산되고 있는 가짜 콘텐츠들도 속속 나오는 상황.

최근 1년여간 AI 기술이 급진적으로 고도화되면서 딥페이크 기술도 더욱 교묘해졌고, 육안으로는 진짜인지 가짜인지 구별하기 어려울 정도의 AI 생성 콘텐츠가 늘고 있다는 건 이젠 당연한 이야기다. 취재진이 미국까지 찾아간 이유는 이런 교묘한 가짜들이 선거판에 어떤 영향을 미치고 있는지, 유권자들은 정말 영향을 받고 있는지, 그리고 누가 이런 것을 만들고 있는지를 알아보기 위해서였다. 트럼프 유세 현장을 직접 찾아간 이유는 트럼프 지지층 내부에서 이런 가짜 콘텐츠들이 상대적으로 더 많이 확산되고 있다는 이야기 때문이었다.

대선 앞둔 미국, '딥페이크'는 유권자를 흔들고 있을까
여기 한 장의 사진이 있다. 트럼프 전 대통령이 흑인들과 어깨동무를 한 채 화기애애한 모습의 사진. 이 사진은 생성형 AI 기술로 만든 '가짜'다. 이 사진에 등장한 사람들이 실제 존재하는지 알 수 없고 당연히 트럼프도 이런 사진을 찍은 일이 없다.

AI가 만든 사진인지 여부를 확인할 수 있는 탐지 사이트(truemedia.org)를 이용해 검증해 보니 '100% AI가 생성한 이미지'라는 결과가 나왔다. 가짜라는 걸 알고 보니 어색한 점들이 눈에 들어온다. 트럼프의 손가락 끝과 여성의 팔이 닿은 부분의 피부색이 다르다거나, 트럼프의 왼손 두 번째 손가락에 손톱이 없다거나. 하지만 의심 없이 언뜻 보면 가짜라는 걸 알아차리기가 쉽지 않다.

이 사진은 지난해 말부터 트럼프 지지층 사이에서 확산되고 있는 대표적 사진이다. 누가 어떤 목적으로 만들었을까? 외신 보도 등을 기반으로 추적해 보니, 지난해 11월 29일 미국 플로리다 잭슨빌 지역의 라디오 프로그램 진행자 '마크 케이(Mark Kaye)'의 페이스북에 처음 등장했다. 마크 케이는 트럼프를 지지하는 극우 성향의 방송인으로 알려져 있다. 그는 이 사진에 대한 구체적인 정보는 공개하지 않았다. 다만 이런 글을 함께 올렸다.

"미국 전역의 흑인 유권자들은 민주당이 얼마나 인종 차별적이고 분열적인지 깨닫고 있습니다. (중략) 트럼프 대통령은 이제 BLM(Black Lives Matter의 줄임말·흑인인권운동)은 물론 다른 모든 이들이 지지를 받고 있습니다."

BLM 운동을 이끌었던 흑인 지도자가 트럼프를 지지했다는 한 매체의 기사를 인용하며 쓴 글인데, 이 글과 함께 가짜 사진을 올린 것. "정말 좋은 뉴스", "더 많은 사람들이 이걸 봤으면 좋겠다"는 댓글들도 이어졌다. 이 사진이 가짜라는 외신 보도들이 나오고 나서야 'AI가 만든 가짜이니 속지 말라는 비판적 댓글들도 달렸지만 그전까진 이 사진이 가짜일 수 있다고 의심하는 내용은 거의 없었다. 마크 케이는 언론 인터뷰에서 "나는 이 사진이 정확하다고 말한 적 없다"며 "페이스북 페이지에 있는 사진 한 장 때문에 어떤 식으로든 투표하는 사람이 있다면 그건 게시물의 문제가 아니라 그 사람의 문제"라고 말했다.

마크 케이는 이 논란으로 소속돼 있던 방송사에서 해고됐다. 경제협력개발기구(OECD)가 운영하는 인공지능 정책 감시기구 'OECD·AI Policy Observatory'는 마크 케이가 가짜 사진을 만들어 공유했다가 해고됐다는 외신 기사를 게재하며 AI의 위험을 보여주는 '주요 사건(incident)'으로 분류했다. (참고 : https://oecd.ai/en/incidents/74089) 날로 고도화되는 AI 기술이 유권자들에게 혼동을 주고 선거에도 악영향을 미칠 수 있다는 우려가 기우가 아닌 실제 현실이 되고 있다는 증거가 된 셈이다.

마크 케이가 만든 가짜 사진뿐만 아니라 트럼프 지지자들이 운영하는 SNS에서도 흑인 청년들과 다정하게 찍은 사진이라든가 함께 자전거를 타고 있는 모습 등 유사한 사진들을 쉽게 찾아볼 수 있었다. 이 역시 탐지 사이트를 통해 검증한 결과 AI가 만든 가짜였다.

가짜여도 괜찮다?…유권자들에게 물었다
지지자들 눈엔 어떨까? 트럼프 지지자들에게 마크 케이가 만든 가짜 사진을 직접 보여주고 어떻게 생각하는지 물었다. 매 주말마다 트럼프 유세를 따라다니며 각종 기념품을 팔고 있는 50대 올랜도 씨는 "훌륭한 사진이다. 나는 트럼프에게서 한 번도 인종 차별을 보지 못했다. 멋진 사진"이라고 말했다. 진짜인지 아닌지 의심이 들진 않느냐고 묻자 "진짜라고 생각한다"고 밝혔다.

SNS를 자주 사용하고 AI에 친숙한 젊은 세대들은 어떨까. 부모님을 따라 함께 유세장에 온 10대들에게도 물어봤다. "트럼프가 모든 이들에게 사랑을 보여주는 거 아닐까요?" (드류, 15살), "인공지능 같아 보이긴 하는데, 솔직히 저는 꽤 멋있는 것 같아요. (AI 조작이) 너무 지나치지만 않다면 좋아요." (올리비아, 15살)

인공지능으로 만든 가짜라는 사실을 이야기해도 반응이 크게 달라지진 않았다. "우리도 흑인 친구들이 많아요. 트럼프도 그렇죠. (이 가짜 사진이) 굉장한 건 아닌 것 같아요. 우리는 (트럼프가 하는) 이야기를 듣고 보이는 걸 따라갈 겁니다." (게리·완다 부부, 60대)

호텔에서 만났던 브레다 씨에게도 이 사진을 보여주며 의견을 물었다. 그녀는 이 사진을 이미 알고 있다며 이렇게 말했다. "AI로 만들었다는 게 중요한 게 아니라, 트럼프가 인종을 막론하고 많은 사람들에게 지지를 받고 있다는 사실이 중요해요."

모든 지지자를 다 인터뷰한 것은 아니기 때문에 일반화하기는 한계가 있지만 AI가 만든 가짜라는 사실 자체는 지지자들의 믿음에 큰 영향을 주진 못하는 듯했다. 내 신념, 믿음에 부합하는 메시지가 담겨 있다면 '가짜 사진'이어도 큰 상관은 없어 보였다.

반대의 경우는 어떨까. 전통적으로 민주당 지지 성향이 강한 뉴욕에서 바이든을 지지한다고 밝힌 시민들에게 트럼프가 경찰에 체포되고 재판을 받고 있는 딥페이크 사진을 보여주며 의견을 물어봤다. 여러 명의 시민들 중 한 청년의 대답이 인상적이었다.

"저는 좀 웃긴 것 같아요. 이게 인공지능이 만든 가짜라는 것을 전 알고 있어요. 하지만 약간 카타르시스가 있어요. 왜냐면 트럼프는 몇 년 동안 저를 짜증 나게 했던 사람이기 때문인 것 같아요. 정치적으로 좋아하지 않는 사람이라고 해서 박해받는 걸 보는 게 좋은 행동은 아니지만, 자신이(트럼프가) 저지른 행동에 대한 결과를 보는 게 약간 만족스러운 것 같아요." (마이클, 22세)

이 청년은 바이든이 서점에서 치매 책을 고르는 딥페이크 영상에 대해서는 "바이든을 바보처럼 보이게 하려고 만든 것 같다"며 "정치적인 목적으로 만들어진 것"이라고 답했다. 믿음에 부합하는 가짜는 카타르시스를 느끼게 하지만, 믿음에 부합하지 않는 가짜는 힘을 발휘하지 못하고 있었다.

양극화, 이분화된 정치 틈 파고드는 '교묘한 가짜'
전문가들도 이 점을 지적했다. AI의 기술을 등에 업은 '교묘한 가짜'가 '어설픈 가짜'보단 더 위험한 게 사실이지만, 더 경계해야 할 것은 가짜여도 상관없다는 인식이 확산될 수 있다는 우려다.

"가짜 정보든 딥페이크든 어떤 것이든 간에 이런 정보들이 파괴력 있는 경우는 사람들이 원래 갖고 있던 믿음을 재확신시켜 주는 확증 편향의 경우에 강하게 일어납니다. 믿음을 재강화시키는 그런 콘텐츠를 만들어낼 수 있다면 굉장히 파급력이 있을 수 있습니다." (국승민, 미시간주립대 정치학과 교수)

"만약 당신이 저에게 '그건 사실이 아니에요'라고 말한대도 저는 '상관없어요' 하게 됩니다. 그게 저를 행복하게 하거나 아니면 이전 신념을 더 강하게 하거나, 이미 화가 난 누군가에게 화를 더 낼 수 있게 되니까요. 우리는 좌파, 우파 모두에서 그런 현상을 볼 수 있습니다. 사람들은 너무 그 진영에 있게 되면 사실이 무엇인지에 대해 관심이 없습니다. 믿음을 강화시켜 주는 걸 믿고 싶어 하죠." (클레어 와들, 브라운대학교 정보미래연구소장)

이런 우려는 정치 지형이 지나치게 이분화, 양극화될수록 그 틈을 더 파고들 수 있다는 지적도 나온다. 자신들의 믿음을 강화시켜 주는 콘텐츠만 보게 되고 이것이 사실인지 아닌지에 대한 자정 작용은 줄어들기 때문. 극보수, 극진보를 자처하는 매체들이 양극화된 정치 지형을 기반으로 영향력을 넓히고 검증되지 않은 허위 정보가 확산되는 통로가 되는 것도 같은 이유다. AI의 기술을 기반으로 의심조차 들지 않는 '교묘한 가짜'의 등장은 자정 작용을 더 어렵게 한다.

딥페이크 확산을 막는 법? 결국 사람에게 달렸다
취재를 하면서 가짜 콘텐츠의 생성을 아예 막을 방법은 없는지 많은 전문가들에게 물었지만 모두 고개를 저었다. (가짜를 보고도 진짜라고 생각하는 그 믿음 자체는 바꿀 수 없겠지만) 가짜는 가짜라고 알려주는, 최소한의 방지턱을 만들고 사람들이 현명한 판단을 할 수 있는 환경을 조성하는 것이 최선이라고 입을 모았다.

구체적인 해법을 찾는 과정에서 취재진은 올해 초 미국에 선거, 정치 관련 딥페이크 콘텐츠를 전문적으로 탐지하고 그 결과를 무료로 공개하는 비영리단체가 생겼다는 사실을 알게 됐다. 시애틀에 위치한 트루미디어(truemedia.org)라는 단체였다. 가짜로 의심되는 사진, 영상 등이 게재된 링크를 이 단체의 탐지 사이트에 입력하면 몇 퍼센트의 확률로 가짜 혹은 진짜인지 알려준다. 허위 정보를 바로잡는 차원에서 이 탐지 결과를 공공기관, 언론사 등에 무료로 제공한다.

AI 생성 기술이 발전할수록 탐지 기술도 발전하고, 탐지를 전문적으로 하는 업체들도 이미 존재한다. 하지만 AI 업계에서는 "생성은 돈이 되지만 탐지는 돈이 되지 않는다"는 말이 나온다. 탐지가 생성의 속도를 넘어설 순 없고 수익을 내기도 어렵다는 뜻이다. 이런 현실 속에서, 딥페이크 탐지 서비스를 무료로 공공의 영역에 제공하는 비영리단체가 나왔다는 게 흥미로웠다.

트루미디어를 직접 찾아갔다. 단체를 설립한 사람은 미국 인공지능 연구의 선구자로 꼽히는 오렌 에치오니 워싱턴대 교수였다. 오렌 에치오니 교수는, 마이크로소프트의 공동창립자인 폴 알렌이 2014년에 설립한 비영리 인공지능 연구기관 '앨런 AI 연구소'의 초대 CEO로 10년 가까이 이 조직을 이끌었다. 오랫동안 AI 연구를 해온 오렌 교수는 AI가 인류의 무궁무진한 발전을 가져올 기술임은 명백하지만 선거를 앞두고 AI가 가져올 우려가 큰 것도 사실이라고 말했다.

"선거가 있을 때마다 우리는 사람들을 현혹하기 위한 '가짜'들이 더 많아지는 것을 봐왔습니다. AI는 아주 설득력 있는 가짜를 만들 수 있는 능력이 있습니다. 올해는 전 세계에서 선거가 많이 열립니다. 선거는 종종 아슬아슬한데요. AI가 그걸 뒤집을 수 있고요, 한쪽은 딥페이크 때문에 승리를 하게 될 수 있습니다. 아주 우려되는 부분입니다." (오렌 에치오니 , 트루미디어 창립자)

트루미디어는 딥페이크 탐지 기술을 가진 여러 회사와 파트너십을 맺는 방식으로 9가지 자체 탐지 기술을 확보했다. 고화질 딥페이크 이미지를 생성해내는 최신 기술인 '디퓨전'부터, 기존 얼굴에 입만 바꿔 교묘한 합성을 만들어내는 '립싱킹' 등 다양한 딥페이크 기술을 잡아내기 위함이다. 이 단체의 탐지 기술 총괄은 한국인 엔지니어 김아영 씨가 맡고 있다.

"세계에서 가장 디텍션(탐지)을 잘하는 3개 업체와 저희가 다 계약을 맺었어요. 각 업체의 기술을 각각 이용하려면 개별적으로 돈도 내야 하잖아요. 저희는 이걸 다 총합해서 무료로 결과를 제공하고 있어요. 가짜로 의심되는 영상이나 사진을 저희 프로그램에 넣으면 9개의 탐지 모델이 동시에 돌아가게 되고, 결과가 나오게 됩니다." (김아영, 트루미디어 기술 총괄)

트루미디어는 서비스 초기임에도 하루 1천여 개의 딥페이크 의심 영상, 사진 등을 탐지하고 있다고 했다. 미국의 주요 언론사와 공공기관을 중심으로 먼저 서비스를 배포했고 최근 전 세계적으로 서비스 대상을 확장했다. 기자도 사용 권한을 얻어 출처가 모호한 사진이나 영상 자료를 사용할 때 이 사이트를 이용해 검증 해보고 있다.

오렌 에치오니 교수를 비롯해 이번 취재에서 만난 전문가들은 가짜의 생성을 막는 것보단 확산을 막는 것이 중요하다고 강조했다. 결국 사용자들이 내가 보고 있는 것이 진짜인지 가짜인지, 신뢰할 만한 출처에서 온 것인지를 확인하는 것에 익숙해져야 한다는 뜻이다.

"사람들이 의식하지 못한 채 허위 또는 오해의 소지가 있는 정보를 공유할 수 있습니다. 소셜미디어에서 공유하는 것의 진실성에 대해 충분히 생각하지 않을 수 있어요. 하지만 최근 연구에 따르면 사람들에게 정확성에 대한 격려를 했을 때 그들이 공유하는 것의 정확성이 실제로 향상되는 걸로 나타났습니다." (앤디 게스, 프린스턴대 정치홍보학과 교수)

"한 발짝 뒤로 물러서서 심호흡을 하고 생각을 해볼 수 있도록 교육을 해야 된다고 생각합니다. '잠깐 이게 신뢰할 수 있는 출처에서 나온 걸까, 이게 진짜일까' 할 수 있게 말이죠. 그전에는 우리가 어떤 걸 보았을 때 그게 사실이란 걸 알았습니다. 더 이상 그렇지 않기 때문에 사용자들이 조심하도록 교육이 필요합니다." (오렌 에치오니, 트루미디어 창립자)

디자인 : 최혜지

최신 콘텐츠

극과 극으로 갈린 선거판 파고드는 그것, '가짜'보다 무서운 건?

Quiz