최근 유튜브에서 AI 기술을 이용한 가짜 뉴스가 늘고 있습니다.

지난달 15일 한 채널에 올라온 프랑스 축구 국가대표 선수 음바페의 기자회견 영상이 올라왔습니다. '이강인 무시하는 일본 기자 질문에 불쾌하다는 음바페'라는 반응으로 올라온 이 영상에 따르면 영어로 "이강인의 영입이 마케팅을 위함이라고 생각하냐"고 묻는 기자 질문에 음바페는 불쾌한 기색을 내비치며 프랑스어로 답변합니다. 해당 영상에선 이 답변을 "(이강인이) 재능을 가졌기에 여기로 올 수 있는 것"이라고 번역했습니다.

이를 본 국내 시청자들은 댓글로 열렬히 호응했습니다. 댓글 창엔 "음바페는 이제부터 우리 형이", "어쩌면 저렇게 말을 잘하나", "음바페의 존중하는 태도에 감사를 표한다" 등 칭찬이 달렸습니다.

영상은 게시 2주 만에 1천200만 회에 가까운 조회수를 기록했습니다.

하지만 해당 영상은 AI로 조작된 '가짜'였습니다. 이 영상에 쓰인 원본 영상은 2년 전 '유로 2020 프랑스-독일' 경기 기자회견 현장으로, PSG 계약에 대해 답변하는 내용이었습니다. 영어로 묻는 기자의 질문은 'TTS'(Text To Speech·문장을 음성으로 바꿔주는 AI 툴)'를 이용해 만든 음성이었고, 음바페의 답변은 게시자 마음대로 붙인 자막이었습니다.

비슷한 사례는 이뿐만이 아닙니다. 메시가 지난 6월 중국 언론과의 인터뷰에서 "이강인을 후계자로 지목했다" 영상도 300만 회에 가까운 조회수를 기록하고 있었지만, 역시 조작된 내용이었습니다. 중국 진행자가 메시의 커리어에 관한 내용으로 이어간 인터뷰에 엉뚱한 자막을 붙인 겁니다.

특히 'TTS' 기능을 이용한 조작 사례는 축구 관련 내용뿐만 아니라 곳곳에서 발견되고 있습니다. 게시자는 주로 중국과 일본을 엮어 혐오를 조장하는 영상을 제작하기도 합니다.

심지어 게시된 지 2주가 지난 시점에서도 여전히 삭제되지 않고 유통되고 있는 상황에서, 수익 창출을 하고 있을 가능성도 있습니다.

좋은 성능의 AI 도구가 '오픈 소스'화 되면서 실제 음성과 AI 음성을 쉽게 점점 더 구분하기가 어려워진 실정에서 허위 정보 유통 위험성 또한 커지고 있지만, 단속할 법규나 제도는 미비한 상황입니다.

구성 : 진상명 편집 : 현승호 제작 : 디지털뉴스기획부

최신 콘텐츠

'음바페의 이강인 극찬' 영상, 이렇게 조작됐다