텔레그램 기반 딥페이크 음란물 유포 사건이 걷잡을 수 없이 확산하고 있습니다. 특히 학교로 번지면서 전국의 학교가 발칵 뒤집혔습니다.

국가적 대응이 필요할 정도로 심각한 상황에서 윤석열 대통령도 "기술을 악용하는 명백한 범죄 행위"라면서 강력히 대응할 것을 지시했습니다. 사회 각계에서도 정부의 적극적인 대처를 일제히 촉구하고 있습니다.

무슨 상황인데?
최근 텔레그램에서 여성의 얼굴에 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방이 대규모로 발견됐습니다.

앞서 인하대 재학생과 졸업생이 타깃이 된 단체 대화방 운영자 등이 검거됐는데, 그 외에도 전국의 각 지역·학교별로 세분된 텔레그램 대화방이 다수 만들어진 게 확인됐습니다.

피해자 중에는 대학생뿐 아니라 중·고교생 등 미성년자는 물론 교사, 여군 등도 포함된 것으로 알려졌습니다.

특히, 각급 학교로 피해가 확산하는 게 문제입니다. SNS 등에 '피해 학교 명단'으로 떠돌고 있는 곳만 100곳은 족히 넘어 혹시나 '내 사진 혹은 내 자녀 사진도 이용된 것은 아닌지' 하는 공포심 또한 커지는 분위기입니다.

자신의 사진이 담긴 SNS 계정을 비공개로 설정하고 사진을 내리라는 조언도 공유되고 있습니다.

윤석열 대통령은 국무회의에서 딥페이크를 활용한 디지털 성범죄에 강력히 대응할 것을 지시했습니다. "딥페이크 영상물은 단순 장난이라 둘러대기도 하지만, 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위"라며 "우리 누구나 이러한 디지털 성범죄의 피해자가 될 수 있다"고 심각성을 경고했습니다.

윤 대통령은 "피해자가 미성년인 경우가 많고, 가해자 역시 대부분 10대로 드러나고 있다"며 "관계 당국에서는 철저한 실태 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑아달라"고 당부했습니다.

좀 더 설명하면
불법·유해 정보를 심의하는 방송통신심의위원회가 긴급 회의를 소집했습니다. 오늘(27일) 실·국장 회의에서는 방심위 홈페이지에 기존에는 디지털 성범죄 신고 배너만 있었지만, 딥페이크 음란물 피해 신고 전용 배너를 신설하기로 했습니다.

아울러 관련 모니터링 요원을 기존보다 배로 늘려 실시간으로 피해 상황을 감시하고, 텔레그램 측과 즉시 협의할 수 있는 '핫라인'을 개설해 피해 차단에 신속히 나설 계획입니다.

주요 피해 사례들에 대해서는 경찰에 수사를 의뢰하는 등 할 수 있는 모든 조처를 할 방침입니다.

교육부는 내일(28일) 딥페이크 관련 브리핑을 열고 대책을 밝힐 예정입니다. 교사노조 등에서 국가 차원의 신고 접수 시스템과 수사 전담팀을 마련하라고 요구하는 데 대한 교육 당국의 입장이 나올 것으로 보입니다.

일선 교육청도 대응에 나섰습니다. 경기도교육청은 '디지털 성범죄(불법 합성 및 유포) 대응 및 예방 교육'이라는 제목의 긴급 가정통신문을 어제(26일) 오후 각 가정에 보냈습니다.

가정통신문에는 학생들이 사이버 공간에서 개인정보 등이 유출되지 않도록 주의할 것을 당부하고, 타인의 개인정보를 동의 없이 올리거나 전송하지 않도록 예방 교육해달라는 내용이 담겼습니다.

피해자의 SNS 프로필 사진과 타인의 신체 사진이 합성돼 다른 SNS에 게시된 뒤 지인을 통해 전달받은 경우와 친구한테만 보낸 자기 신체 사진이 불법 사이트에 게시된 경우 등 피해 사례도 소개됐습니다.

한 걸음 더
교사·여성·군인권단체 등 사회 각계에서 정부의 적극적인 대처를 일제히 촉구하고 있습니다.

교사노조는 어제(26일) 입장문을 내고 ▲ 학생과 교사 피해자를 위한 긴급 심리지원 ▲ 국가 차원의 신고 접수 시스템과 수사 전담팀 마련 ▲ 딥페이크 기술에 대한 청소년 접근 제한에 대해 논의할 부서 편성을 요구했습니다.

군인권센터 부설 군성폭력상담소는 "국방부는 '여군 능욕방'의 문제를 개인의 일탈 문제로 취급하고 안이하게 대처해서는 안 된다"며 "국방부의 발본색원 의지만 있다면 인트라넷의 로그 기록을 통해 피해 규모와 가해자들을 추적할 수 있다"고 적극적 대응을 주문했습니다. 아울러 여군 사진 등의 유출을 막기 위해 개인정보를 철저하게 관리하고 점검해야 한다고 밝혔습니다.

민우회는 "지인의 사진을 보내면 5초 만에 유료로 나체를 합성해주는 텔레그램 채널 가입자 수는 무려 22만 7천여 명"이라며 "이는 현 사안이 특정 텔레그램방에 직접 가입하고 불법 콘텐츠를 제작·소비한 특정 개인들에 국한된 문제가 아님을 보여주고도 남는 숫자"라고 우려를 표했습니다.

그러면서 "정부는 구조적 성차별과 여성 폭력 문제를 해결하기 위해 성평등 전담 부처를 강화하고 전 부처에 걸친 종합적 장·단기 대책을 강구해야 한다"고 요구했습니다.

당신이 알아야 할 것
딥페이크 성범죄는 인공지능(AI) 기술을 활용해 인터넷에 떠도는 얼굴과 음란물을 합성한 가짜 영상물을 제작·유포하는 범죄를 뜻합니다.

인공지능(AI) 기술을 범죄에 악용한 생성물을 식별하고 걸러낼 수 있는 제도적 장치가 없어 심각한 사회 문제와 인권 유린을 방치한다는 비판이 커지고 있습니다.

현재 국회에는 AI 기술이 통제 수준을 넘어서 고의로 악용되는 우려를 막기 위한 '인공지능 산업 육성 및 신뢰 확보에 관한 법률안' 등이 발의돼 있습니다. 법안들은 대부분 지난 21대 국회에서 결론을 내리지 못한 채 임기 만료로 폐기됐다 22대 국회에서 재발의됐습니다.

21대 국회 김승수 국민의힘 의원이 대표로 발의한 정보통신망법 일부개정안은 논의가 다시 시작됐습니다. 이 법안은 AI 생성물에 가상의 정보라는 특정 표식, 이른바 '워터마크'나 메타데이터를 넣도록 하고, 플랫폼 기업들은 표식이 없는 AI 생성물을 바로 삭제할 것을 의무화했습니다.

딥페이크 범죄를 차단할 수 있는 방안에 대해 국회에서 논의가 제대로 이뤄지지 않아, 법률도 지연되고 있는 겁니다. AI 산업 발달을 저해하지 않는 선에서 불법 영상물을 식별하는 기술적 제도적 방안에 대한 고민이 시급한 시점입니다.

최신 콘텐츠

딥페이크 음란물 공포에 온 나라 '발칵'... 윤 대통령 "뿌리 뽑아야"