마치 카페를 겨냥한 듯한 자주포, 그 주변을 빨간 깃발을 든 북한군이 둘러싸고 있습니다. 손님들은 창밖 풍경을 사진 찍기 바쁩니다. 얼마 전 인터넷을 뜨겁게 달군 사진 한 장이 SNS를 타고 전 세계로 퍼졌습니다. 이 이미지는 AI로 만든 가짜 이미지였습니다.

01. 김포 스타벅스에서 포착된 자주포

'스타벅스 김포애기봉점 근황, 북한 자주포 뷰 맛집으로 등극' 지난 10월 26일, 소셜미디어에 올라온 게시글입니다. 첨부된 사진엔 스타벅스 창밖으로 북한군 자주포와 군인들이 보이고 카페 손님들이 이를 촬영하는 모습이 담겨 있습니다. 북한군이 카페 바로 앞까지 내려온 것처럼 보이는 장면입니다. 사진 속 장소로 소개된 스타벅스 김포애기봉생태공원점은 '북한 땅이 보이는 뷰'로 유명한 곳이기도 합니다.

해당 게시물은 뜨거운 관심을 받았고 급기야 해외 커뮤니티까지 퍼졌습니다. 해외 커뮤니티에선 '저 포가 (촬영자들의) 눈 사이를 겨냥하고 있다, 커피 마시자고 저 위험을 감수할 필요는 없지' 등의 반응이 잇따랐습니다.

02. 알고 보니 AI의 작품이었다

그런데 해당 게시글이 게시된 다음 날 또 하나의 게시물이 올라옵니다. 원근감을 고려했을 때 촬영한 구도에서 저런 사진이 찍힐 수 없다는 내용이었습니다. 수 km 떨어진 북한군이 사진처럼 크게 보이려면 촬영자가 손님들로부터 훨씬 멀리 떨어져 있어야 하는데, 사진은 마치 바로 뒤에서 촬영한 것처럼 보인다는 겁니다. 애기봉평화생태공원 담당자도 불가능한 사진이라고 밝혔습니다. 해당 매장과 북한군 자주포가 있는 해안가는 1.5km 이상 떨어져 있는데, 사진에는 자주포가 100m 앞에 있는 것처럼 보인다는 겁니다.

이 사진은 어떻게 찍힌 걸까? 결국 AI의 작품으로 밝혀졌습니다. 사진을 AI 식별 기술로 분석했더니 비가시적 디지털 워터마크가 검출된 겁니다.

북한군의 자주포 배치가 가짜였던 건 아닙니다. 10월 25일 애기봉 전망대에서 북한군 자주포가 실제로 포착됐습니다.

김민준 기자 (2026.10.27 SBS8뉴스)
강변 가까이 나와 있는 북한 자주포 3대 정도가 잘 보입니다. 이렇게 자주포를 노출시킨 건 이례적이라는 평가가 나옵니다.

사진 속 북한군과 자주포의 모습은 당일 여러 취재진이 촬영한 보도 영상, 사진과 매우 유사합니다. 실제 북한군 사진에 스타벅스 내부 장면을 합쳐 카페 창밖으로 북한군이 바로 보이는 것처럼 만들어낸 걸로 보입니다.

03. 외신도 속았다

이 가짜 사진은 국내에만 퍼진 게 아니었습니다. 러시아 국영 매체 RT의 공식 소셜미디어 계정에도 '한국인들이 스타벅스 커피를 마시며 북한군을 촬영하고 있다. 거대한 대포가 이들을 직접 겨누고 있다'는 설명과 함께 해당 사진이 올라왔습니다. 약 3시간 뒤 RT는 추가 글을 통해 '사진 속 스타벅스 장면은 실제 보도 사진을 AI로 편집한 것으로 보인다'며 정정했지만 원 게시물은 200만 회 넘는 조회수를 기록하며 계속 확산됐습니다. 남북 관계와 한반도의 군사적 긴장감은 국제사회에서도 민감하게 받아들이는 사안인데, 실제보다 위협적인 상황을 연출한 AI 합성 사진이 해외까지 널리 퍼진 겁니다.

04. AI 생성물인지 확인은 할 수 있는데..

개인이 만든 이미지는 AI 생성 이미지인지 아예 확인할 수 없는 걸까? 그건 아닙니다. 지난해 구글은 워터마크 확인 기술인 신스ID 감지기 초기 버전을 공개했습니다. AI가 이미지를 생성할 때 우리 눈에 보이지 않는 디지털 워터마크를 이미지 픽셀에 직접 삽입합니다. 이렇게 생성된 이미지가 신스ID 감지기에 들어오면 감지기가 워터마크 신호를 검출하고 분석 결과를 표시합니다. 애기봉 스타벅스 합성 이미지를 신스ID 감지기로 확인한 결과 워터마크가 발견됐고, 오픈AI를 통해 생성된 이미지라는 걸 확인할 수 있었습니다.

구글뿐 아니라 여러 글로벌 IT 기업들도 AI로 만든 콘텐츠를 식별하는 기술을 제공하고 있지만, 감지기를 제공하는 회사가 지원하지 않는 AI를 통해 만들어진 이미지나 과도한 수정으로 워터마크 신호가 저하된 이미지는 감지되지 않을 수 있습니다. 검증 도구에서 AI 생성 흔적이 발견되지 않더라도 그 사진이 진짜라고 단정할 수 없다는 거죠. 또 판별을 위해선 이용자가 직접 사진을 업로드해 진위를 확인해야 하는 한계가 있습니다. 이번처럼 가짜라는 사실이 밝혀졌을 땐 이미 수많은 사람이 사진을 공유한 뒤일 수도 있다는 겁니다.

05. 막을 방법은 없을까?

방지하는 법과 기술이 존재하지 않는 건 아닙니다. 올해 시행된 AI 기본법은 AI 사업자에게 생성형 AI로 만든 콘텐츠에 AI 생성 사실을 표시하도록 의무를 부과했습니다. 특히 실제와 구분하기 어려운 이미지나 영상은 이용자가 AI로 만들었다는 사실을 명확히 알 수 있도록 표시해야 합니다.

다만 이 조항이 일반 이용자가 AI 합성 사진을 내려 받아 다시 게시하는 행위까지 적용되는 건 아닙니다. 표시 의무는 기본적으로 AI 제품이나 서비스를 제공하는 사업자 몫입니다. 애기봉 스타벅스 사진의 경우 개인이 만든 AI 생성물 게시로 추정되기 때문에 표시 의무 대상이 아닐 수 있습니다.

06. AI 이미지, 확인돼도 바로 삭제는 안 돼

문제의 사진은 AI 합성 사실이 확인된 지 일주일이 지났지만 여전히 소셜미디어에 남아 있습니다. 한국인터넷자율정책기구는 허위 조작 정보가 확인되면 게시물 삭제나 접근 차단, 경고 문구 표시 등의 조치를 취할 수 있도록 하는 가이드라인을 마련했습니다. 하지만 사진이 가짜로 밝혀졌다고 해서 곧바로 삭제 대상이 되는 건 아니고 허위 또는 조작 정보라는 사실 외에도 이를 알면서 피해를 주거나 부당한 이익을 얻으려는 목적이 있었는지, 실제로 타인의 권리나 공공의 이익을 침해했는지 등을 함께 따져봐야 합니다.

또 이 가이드라인은 KISO 회원사 중 대규모 정보통신서비스 제공자에 해당하는 플랫폼에 게시된 글에만 적용됩니다. X처럼 회원사가 아닌 플랫폼엔 적용되지 않습니다. 어느 플랫폼에 게시됐는지, 어떤 맥락과 목적으로 유포됐는지에 따라 적용할 기준과 조치가 달라지는 겁니다.

최병호 | 고려대 인공지능연구소 교수
개인이 올린 것은 표현의 자유라고 해석할 수가 있어요. 주권이나 인권 문제를 침해하는 케이스가 아니라고 하면 제재하기가 쉽지 않거든요. 그렇다면 오히려 법이 아니고 패턴 파악을 한 다음에 (플랫폼에서) 이걸 AI로 만들었다라고 하는 정도를 강제적으로 이미지에 가시적으로 노출해 주는 정도가 가능하지 않을까.

실제로 포착된 북한군 자주포였지만 AI가 만들어낸 사진 속에선 스타벅스 창문 바로 앞으로 다가왔습니다. 사진이 가짜라는 사실이 밝혀지기까지 이미 수많은 사람들이 이를 진짜라고 믿고 공유했습니다. 가짜를 만들어내는 속도는 빨라졌지만 그 사실을 바로잡는 속도는 따라가지 못하는 겁니다. 가짜를 판별하는 기술뿐 아니라 그 확산을 줄이고 잘못된 정보를 바로잡는 플랫폼의 대응이 더욱 중요해지고 있습니다.

Deep Dive Q&A
Q1. 김포 스타벅스 '북한군 자주포 뷰' 사진이 실제 촬영된 것이 아니라 AI 합성 가짜 사진이라는 점은 어떻게 밝혀졌나요?

A1. 촬영 구도상 수 km 떨어진 북한군 자주포가 카페 창가 100m 앞에 있는 것처럼 보일 수 없다는 지적이 제기되면서 의혹이 시작되었습니다. 이후 이미지 식별 기술을 통해 분석한 결과, 비가시적 디지털 워터마크가 검출되어 오픈AI를 통해 생성된 AI 합성물임이 명백히 입증되었습니다. 실제 10월 25일 북한군 자주포가 포착된 실제 보도 사진과 카페 내부 인테리어 사진을 교묘하게 결합해 연출된 조작 이미지였습니다.

Q2. AI 생성 이미지 판별 기술이 존재함에도 불구하고 이러한 가짜 사진의 유포와 확산을 신속하게 차단하기 어려운 이유는 무엇인가요?

A2. 기술적·제도적 한계가 복합적으로 작용합니다. 첫째, 사용자가 직접 이미지를 업로드해 진위를 확인해야 하므로 대중에게 퍼진 뒤에야 가짜임이 판명되는 경우가 많습니다. 둘째, AI 기본법의 표시 의무는 AI 서비스 사업자에게만 부과될 뿐 일반 이용자의 재게시 행위까지 강제하기 어렵습니다. 셋째, X 등 일부 글로벌 플랫폼은 KISO 가이드라인 적용 대상이 아니며, 개인의 게시물은 표현의 자유로 해석되어 고의적 피해 목적이나 명백한 권익 침해가 입증되지 않는 한 즉각적인 삭제나 제재가 어렵습니다.

최신 콘텐츠

"창밖 바로 앞에 북한군 자주포가?"…외신까지 속은 AI 합성 사진 전말