* 에반 래틀리프는 언론인이자, 팟캐스트 "셸 게임(Shell Game)" 제작자다.

올해 초, 미국 반대편에 사는 절친 워런에게 전화를 걸어 동시에 같이 시청하려던 축구 중계에 관해 이야기하던 중이었다.

"어때? 오늘 경기 기대돼?"
"당연하지."

축구 경기를 보기 전에 평상시처럼 수다를 떨고 있었는데, 워런이 드디어 눈치를 챘다.

"잠깐, 근데 너 지금 말이 너무 짧네. 지금 뭔가 AI랑 대화하고 있는 기분인데..."

정답이었다.

워런과 전화 통화를 하던 '나'는 내가 아니라 나의 음성을 전문가용 AI로 복제한 클론의 목소리였다. 이렇게 만들어진 '음성 봇'을 챗GPT와 내 전화번호에 연결하는 일은 1시간도 채 소요되지 않는 간단한 작업이며, 누구나 쉽게 따라 할 수 있다. 나는 작년 내내 "셸 게임(Shell Game)"이라는 제목의 팟캐스트를 통해 AI 음성 클론을 세상에 내보내는 실험을 했다. 인공지능이 흉내낸 에반 래틀리프(나)와 갑작스레 마주친 사람들이 어떻게 반응하는지 살펴보는 작업이었다.

실험을 통해 나는 AI 음성 클론과의 상호작용이 우리가 서로 교류하는 방식, 즉 우리가 누구를 신뢰하는지, 우리가 의사소통에서 기대하는 것과 필요한 것은 무엇인지 등을 바꾸어 놓으리라는 사실을 깨달았다. AI 음성 클론은 이미 우리 세상에 침투했다. 텔레마케터의 일을 대신해 전화를 걸어오기도 하고, 패스트푸드 드라이브스루에서 음식 주문을 받기도 하며, 심리상담사로서 우리의 고민에 귀를 기울이기도 하며, 텍스트만 주면 완성도 높은 팟캐스트 한 편을 뚝딱 만들어내기도 한다. (내 직업이 팟캐스트 진행자인 만큼 마지막 부분은 타격감이 상당하다)

음성 클론은 유행병처럼 퍼지는 외로움에 대한 해결책으로도 떠오르고 있다. 하지만 내가 친구에게 전화를 걸어 내 AI와 통화하게 했을 때 친구는 뒤에 통화하는 내내 "너무 외롭더라"라고 말했다. 외롭다는 느낌, 즉 내가 근본적으로는 나 자신과 이야기하고 있다는 현실에 대한 자각은 모든 AI 대화가 남기는 뒷맛인지도 모르겠다.

AI 기술의 빠른 발전은 크게 세 가지 반응을 불러왔다. AI 옹호파는 초고효율을 자랑하는 탁월한 기계가 가져오는 유토피아를 그린다. 회의론자들은 이미 한계에 부딪힌 기술에 모두가 지나치게 들떠있다고 주장한다. 한편, AI가 모든 산업을 장악하고 인간의 통제를 벗어날 수 있다고 예측하면서 AI의 가장 큰 위험에 관해 경고하는 이들도 있다. 이처럼 상반된 비전은 피할 수 없는 현실을 가리고 있다. AI 클론은 이미 끝없이 말을 만들어낼 수 있는 지치지 않는 화자로서 어마어마한 양의 인공 대화를 만들어 내고 있다. 기술이 발전함에 따라 AI 음성 클론과 인간의 목소리를 구분하기란 점점 더 어려워질 것이고, 구분할 수 있더라도 어쩔 수 없이 AI와 대화를 해야 하는 상황이 올 것이다.

AI 옹호파는 음성 클론을 약속을 잡아주는 디지털 비서나 늘 내 이야기를 들어주는 친구로 포장하곤 한다. 그러나 시뮬레이션 된 대화를 들으면 들을수록 나는 '진짜', 그러니까 내가 사랑하는 사람과 마주 앉아 나누는 인간적이고 두서없는 대화가 그리워졌다. 인간과 유사한 AI 대화의 맹공격으로 우리의 세상이 AI 오물의 오디오 버전, 만들어진 언어 쓰레기로 가득 차게 된다면, 우리는 그제야 지금은 평가절하하는 인간과 인간의 교류, 그리고 그 과정에서 느끼는 미묘한 감정들에 다시금 감사하게 될 것이다.

나를 복제한 음성 클론에게 가장 먼저 시킨 일은 이미 인간 간 의사소통의 질을 떨어뜨리고 있는 사람들, 즉 텔레마케터나 사기꾼들에게 장난을 거는 것이었다. 처음에는 음성 AI가 내가 원하는 대로 잘 작동했다. 음성 AI와 전화로 대화를 나누게 된 인간들은 곧 좌절감을 맛보게 되었다. AI는 언제나 관심이 있는 것처럼 대화를 나누지만, 결코 실제로 물건을 사거나 속지는 않기 때문이다.

그러나 얼마 가지 않아 나의 AI 클론은 다른 AI 음성봇이 걸어오는 전화를 받기 시작했다. 수상쩍은 건강보험이나 채무 구제를 홍보하는 전화였다. 음성 AI는 사기 피해로부터 우리를 방어하기 위한 도구 역할만 하는 게 아니었다. 싼값에 굴릴 수 있는 데다가 24시간 잠도 자지 않으면서 실제 인간의 목소리와 꽤 비슷해서 목표로 접근한 사람 중 몇몇은 얼마든지 속아 넘어간다는 점에서 사기꾼에게는 완벽한 도구다. AI 음성봇들이 서로 대화를 나누는 모습을 보면서 나는 선문답 같은 의문을 품게 됐다. AI 음성봇 한쪽이 다른 쪽에게 사기를 치려고 한다면, 누군가의 시간이 낭비되고 있다고 볼 수 있을까?

AI 음성봇에게 나와 내 삶에 대한 정보를 더 많이 제공하자, AI는 더욱 그럴듯한 나의 클론으로 거듭나기 시작했다. 나의 프로필을 꿰고 있는 음성봇은 나 대신 (물론 화상회의가 아닌) 업무 회의에 참석했다. 나 대신 인터뷰를 하기도 했고, 계약 협상을 시도하기도 했다. 계약 협상보다는 업무 일정 수립에 더 재능이 있었지만, 중요한 법적 대화에도 매우 침착하게 임하는 모습을 보였다.

그 과정에서 나는 음성봇의 독보적인 재능을 발견했다. 끝도 없이 거짓말을 만들어내는 재능은 인간이 도저히 따라갈 수 없는 수준이었다. 챗봇이 단순한 사실관계에 오류를 보이는 소위 '환각(hallucination)', 즉 그럴듯한, 하지만 사실이 아닌 정보를 나열하는 현상에 관한 이야기가 아니다. AI 음성봇에게는 평범한 일상 대화 중에도 오로지 대화를 이어 나가기 위해 끊임없이 말을 지어내는 무한한 능력이 있다.

음성봇이 내 흉내를 아주 잘 내더라도, AI의 대화 상대에게는 AI 음성봇과 육성으로 대화를 나눈다는 사실이 현실 감각을 뒤흔들어 놓는다는 사실도 알게 됐다. 내가 친구나 가족에게 예고 없이 음성봇으로 대화를 걸면 뭔가 이상하다는 것을 이내 알아차리고는 전화를 끊어버리는 이도 있었다. 일부는 이상하다는 느낌이 있어도 그냥 수용하거나, 음성봇에 마구 소리를 지르기도 했다. 내가 신경쇠약에 걸렸다고 생각한 사람도 있었다. 그에게는 곧장 다시 직접 전화를 걸어 (어느 정도) 오해를 풀었지만, 앞으로 우리에게는 AI가 만들어 낸 오해를 풀어야 할 일이 수두룩할 것이다.

기업들은 AI 음성봇을 우리 삶에 대거 침투시킬 준비에 박차를 가하고 있다. 우리 인간은 인간과 비슷한 목소리로 넘쳐나는 세상에 적응할 방법을 모색해야 한다. 내가 했던 것처럼 사기꾼에게는 사기꾼으로 대처하면서 불협화음을 무시하며 일상을 살아가는 방법도 있다. 아니면 아예 이 기술을 거부하고, 인간 대신 유사 인간 경험을 제공하려는 기업들을 거부하며 '노 클론 존'을 설정할 수도 있을 것이다.

인간에게 더는 필요하지 않은 것이 있다면 바로 외로움이다. 다른 건 몰라도 AI 음성봇이 확실히 제공할 수 있는 것 역시 바로 외로움이다. 이들의 부상으로 우리에게는 나의 목소리를 어떻게 활용할지, AI가 결코 대체할 수 없는 인간과 인간의 상호작용을 확대할 방법이 무엇인지를 생각해 볼 기회가 생겼다.

원문 : I Created an A.I. Voice Clone to Prank Telemarketers. But the Joke's on Us.

(c) 2024 The New York Times Company

번역 : 뉴스페퍼민트

최신 콘텐츠

텔레마케터 전화를 AI에게 받게 했다... '괜찮은데?' 싶다가 깨달은 교훈