*유발 하라리는 역사학자이자, 사회적 영향력을 목표로 하는 회사 사피엔십(Sapienship)의 창립자다. 트리스탄 해리스와 아자 라스킨은 인간적인 기술을 위한 모임(Center for Humane Technology)의 공동창립자다.

당신이 비행기에 타려는데, 그 비행기를 설계한 엔지니어 가운데 절반이 그 비행기가 추락해 탑승객 전원이 숨질 확률이 10%라고 알려준다면, 당신은 그래도 비행기를 타겠는가?

지난해 인공지능을 개발하는 주요 회사의 과학자, 연구진 700명 이상을 대상으로 미래에 인공지능이 초래할 위험에 관한 설문조사가 있었다. 조사에 참여한 응답자 가운데 절반은 미래의 인공지능 시스템 때문에 인류가 멸망하거나 그와 비슷하게 영원히 힘을 잃게 될 가능성이 10% 혹은 그 이상이라고 답했다. 지금 이 순간 거대언어모델(LLM)에 매달린 테크 기업들은 추락할 확률이 10%인 비행기에 인류를 전부 다 태우려 하고 있다.

제약회사들은 엄격한 안전 검사를 이중, 삼중으로 거치지 않고서는 신약을 절대로 사람들에게 팔 수 없다. 생명공학 연구소가 주주나 후원자에게 자신들의 연구 성과를 보여주려고 새로운 바이러스를 공공 영역에 풀어놓는 것도 상상할 수 없는 일이다. 챗GPT-4에 탑재된 인공지능 시스템과 그 기반 기술도 마찬가지여야 한다. 우리 문화가 기술을 받아들이고 그로 인한 변화에 적응하기도 전에 이 기술이 수십억 명의 목숨과 얽히는 일은 막아야 한다. 시장을 선점, 장악하기 위해 벌이는 치열한 경쟁의 속도에 맞춰 이 기술이 아무런 제약도 없이 배포돼선 안 된다. 빠르든 느리든 우리가 이 기술을 제대로 활용할 수 있느냐가 속도를 제어하는 기준이 돼야 한다.

인공지능이라는 유령은 20세기 중반부터 잠재적으로 인류를 위협할 수 있는 존재였다. 그러나 최근까지만 해도 인공지능의 위협은 어디까지나 공상과학 소설에 나올 법한 먼 미래의 일이었다. 이 문제를 진지하게 논의하는 과학자나 정치인은 많지 않았다. 인간의 지성으로는 GPT-4나 비슷한 인공지능 시스템의 역량을 정확히 파악하기도 쉽지 않다. 더구나 인공지능은 빠르게 더 강력한 능력을 갖춰 나가는데, 이 개발 속도를 따라잡기는 더 힘들다.

인공지능의 핵심 기능을 한 줄로 요약하면, 단어, 소리, 이미지로 표현되는 언어를 조작하고 생성하는 능력이라고 할 수 있다.

처음 시작은 단어였다. 언어는 인간 문화의 운영 체계라고 할 수 있다. 신화도, 법도, 신과 종교도, 돈도, 예술과 과학, 우정, 국가, 컴퓨터 코드까지 모두 언어가 없었으면 존재하지 않았을 거다. 이제 이 언어를 완벽히 구사하는 인공지능이 등장했다는 건 곧 인공지능에 인류 문명의 운영 체계를 주무를 힘이 생겼다는 뜻이다. 인공지능은 은행 금고든 성스러운 무덤이든 손쉽게 열 수 있는 인류 문명의 마스터키를 손에 넣은 셈이다.

이야기와 멜로디, 이미지, 법, 정책을 비롯해 온갖 도구 대부분을 인간이 아닌 지능이 만들어놓은 세상에서 인간으로 산다는 건 무슨 의미가 있을까? 인공지능은 인간보다 뛰어난 효율성을 발휘해 편견과 중독에 취약한 인간 지성의 약점을 공략해 우리를 손쉽게 뛰어넘을 것이다. 그러면서도 필요하면 인간과 친밀한 관계를 맺고 유지할 줄도 안다. 이미 인간은 체스와 같은 게임에서 컴퓨터를 이기지 못한다. 그런데 만약 체스에 그치지 않고, 예술, 정치, 종교에서도 인간이 기계를 넘지 못하면 어떻게 될까?

인공지능은 우리가 지난 수천 년간 만들어낸 인간의 문화를 순식간에, 통째로 집어삼킬지 모른다. 집어삼킨 문화를 빠르게 소화하고 학습하고 나면 수많은 ‘유사 문화’를 마구 쏟아낼 수도 있다. 학교 숙제로 내야 하는 글쓰기뿐 아니라 정치 연설, 이데올로기 선언문, 새로운 종교에 필요한 성서까지도 어렵잖게 만들어낼 거다. 2028년 미국 대선은 인간이 직접 관리하지 않는 첫 번째 미국 대선이 될지 모른다.

인간은 보통 현실을 직접 체감하지 못한다. 우리는 문화에 둘러싸여, 문화라는 프리즘을 통해 현실을 지각하고 받아들인다. 우리의 정치적 견해는 기자가 쓴 기사나 친구가 들려준 이야기에 좌우된다. 우리의 성적 지향은 예술이나 종교에 따라 조정되기도 한다. 그래서 문화라는 프리즘도 결국, 다른 사람이 만들고 짜놓은 것이다. 그렇다면 다른 사람이 아닌 인공지능이 만든 문화적 프리즘을 통해 세상을 지각하는 건 어떨까?

지난 수천 년간, 우리 인간은 다른 사람의 꿈속에서 살았다. 우리는 신을 섬기고, 아름다움의 이상을 추구했으며, 몇몇 예언자나 시인, 정치인의 상상에서 비롯된 목표를 위해 목숨을 바치기도 했다. 이제 우리는 다른 인간이 아니라, 인공지능이 만들어놓은 거대한 허상 속에 살게 될지도 모른다.

영화 ‘터미네이터’ 시리즈에선 기계, 로봇이 거리로 나와 사람을 쏘아 죽인다. 영화 ‘매트릭스’에서 인공지능은 인간 사회를 지배하기 위해 인간의 뇌를 물리적으로 장악한 뒤 이를 곧바로 컴퓨터 네트워크에 연결한다. 그러나 그저 언어를 완벽히 구사할 수만 있다면, 인공지능은 매트릭스 속 세계에서 그랬던 것처럼 인간 사회를 온전히 통제할 힘을 얻는다. 번거롭게 인간의 뇌에 일일이 칩을 심을 필요도 없고, 로봇을 거리에 내보내 인간과 전투를 벌일 필요도 없다. 만약 총을 쏴야 한다면, 인공지능은 인간이 서로 방아쇠를 당기게 하면 된다. 인간이 그렇게 해야 한다고 믿을 만한 이야기를 잘 쓰기만 하면, 인간은 서로 총을 겨눌 것이다.

인간이 환상의 세계에 갇혀 있다는 두려움은 인공지능이라는 유령이 대두되기 한참 전부터 인간을 괴롭혔다. 우리는 마침내 데카르트의 악마, 플라톤의 동굴, 불교에서 말하는 마야(옮긴이: 허깨비 같은 현상을 실체로 착각하는 것을 이르는 말)와 마주하게 된다. 환상의 장막이 온 인류를 덮어버릴 수도 있는데, 우리는 영영 그 장막을 찢고 실체를 보지 못하게 될 수도 있다. 아니면 환상의 장막이나 장막 너머에 실체가 있다는 사실조차 깨닫지 못할지도 모른다.

인공지능과 인류가 처음으로 나눈 대대적인 접촉은 소셜미디어였다. 이 싸움에서 인간은 졌다. 첫 만남을 돌이켜보면, 앞으로 우리에게 닥칠 달갑지 않은 미래를 어느 정도 예측할 수 있다. 소셜미디어는 원시적인 수준의 인공지능을 활용했다. 인공지능은 직접 콘텐츠를 만드는 대신 이용자가 만든 콘텐츠를 가공하고 다듬는 데 쓰였다. 지금 우리가 보는 뉴스피드의 바탕에 있는 인공지능은 우리의 눈과 귀를 사로잡을 단어, 소리, 이미지를 고르고 있다. 어떻게 하면 이 콘텐츠가 더 많이 퍼지고, 더 많은 반응을 얻어 더 많이 사람들의 입에 오르내릴지가 선정 기준이 된다.

다분히 원시적인 수준의 인공지능으로도 소셜미디어는 인간 사회에 환상의 장막을 치는 데 성공했다. 우리 사회는 서로 더 극단적인 의견을 내세우는 사람들로 갈라졌고, 정신건강은 약해졌으며, 민주주의는 불안해졌다. 수많은 사람이 환상과 실체를 구분하는 데 애를 먹고 있다. 지금 미국은 미국 역사상 가장 뛰어난 정보통신 기술을 보유했지만, 바로 그 미국에 사는 사람들이 지난 선거에서 누가 진짜 승자였는지를 두고 좀처럼 합의에 이르지 못한다. 사람들은 이제야 소셜미디어의 어두운 면을 잘 알게 됐지만, 이미 사회, 경제, 정치 제도 전반이 수많은 연결고리를 통해 소셜미디어에 얽혀 있다 보니, 구체적으로 문제를 어떻게 풀자는 해법은 나오지 않는다.

인간은 거대언어모델을 통해 인공지능과 두 번째로 만난다. 이번에 또 진다면, 이 패배는 감당하기 어려울 것이다. 그렇다면 도대체 무슨 수를 써야 우리가 새롭고 더 강력한 인공지능을 인류에 이로운 쪽으로 쓸 수 있을까? 인간에게 그럴 힘이 있을까? 만약 우리가 모든 사업을 해오던 대로 하면, 새로운 인공지능은 이번에도 이윤을 좇으며 권력을 손에 넣을 것이다. 의도치 않게 우리 사회의 근간을 인공지능이 파괴하는 일이 생겨도 그때는 인공지능을 제어할 수 없고, 인공지능은 계속 이윤과 권력이라는 두 마리 토끼를 다 잡을 것이다.

인공지능은 실제로 무궁무진한 잠재력을 지녔다. 암을 정복하고, 수많은 사람의 목숨을 살리는 신약을 개발하고, 기후변화, 에너지 위기를 극복하는 데 필요한 해법을 찾는 데도 중요한 역할을 할 수 있다. 우리가 지금은 상상도 못 하는 것 중에도 인공지능 덕분에 누릴 수 있는 혜택이 무수히 많을 거다. 그러나 인공지능을 활용하는 데 필요한 기초가 무너진다면, 인공지능으로 얻을 수 있는 혜택으로 아무리 높은 건물을 지어봤자 소용없는 일이다.

우리의 정치, 경제를 비롯한 일상의 모든 영역이 인공지능에 기대고 의존하기 전에 지금이야말로 서둘러 인공지능에 대해 고민하고 의견을 모을 때다. 민주주의는 곧 대화와 토론이고, 대화와 토론의 핵심 재료는 언어다. 누구든 언어를 장악하는 이는 어렵잖게 대화와 토론을 통제하게 되고, 민주주의를 무너뜨릴 수 있다. 예상되는 혼란이 일어나도록 방치한다면, 그때 가서는 고치려 해도 사후약방문이다.

물론 여전히 께름칙한 느낌을 떨쳐내지 못하며, 우려를 제기하는 분들이 있다. 서구 사회가 인공지능 개발 속도를 늦췄다가 중국에 추월당하기라도 하면 큰일 아니냐는 거다. 일리 있는 우려처럼 들리기도 하지만, 결론부터 말하면 그런 걱정은 할 필요가 없다. 오히려 서구가 중국에 굴복하게 되는 가장 그럴듯한 시나리오는 통제받지 않는 인공지능 기술이 서구 사회의 일상에 퍼지고, 이어 사회를 장악하는 상황이다. 신과 같은 전지전능한 힘을 마구 휘두르는 인공지능은 아무런 책임도 지지 않을 것이고, 사회는 오래 버티지 못하고 무너진다.

아직 우리는 인공지능을 어떻게 사용할지, 어떻게 인공지능과 공존할지 고를 수 있다. 인공지능이 신과 같은 능력을 발휘하되, 그에 따르는 책임을 질 수 있도록 적절히 제어할 수 있는 권한을 인간이 놓지 않는다면, 그때는 인공지능이 약속하는 밝은 미래의 혜택을 누릴 토대가 완성됐다고 할 수 있다.

지금 우리는 외계인의 지능을 소환한 상황이다. 새로운 인공지능이 매우 강력하며, 우리에게 화려한 선물을 약속하는 동시에 우리 문명의 근간을 송두리째 뽑아버릴 수 있는 위험한 존재라는 것 정도를 제외하면, 우리는 인공지능에 대해 잘 모른다. 인공지능의 등장으로 제기된 과제의 해법을 찾기 위해 전 세계 지도자들이 당장 머리를 맞대고 논의해야 한다.

그 첫 단추는 19세기에 만든 뒤 부분적으로만 손을 보며 유지해 온 제도를 인공지능 세상에 맞춰 바꾸는 일이 될 것이다. 그리고 나면 인공지능이 인간을 완전히 파악하기 전에 우리도 부지런히 인공지능을 배우고 공부해야 한다.

원문 : You Can Have the Blue Pill or the Red Pill, and We’re Out of Blue Pills

(c) 2023 The New York Times Company

번역 : 뉴스페퍼민트

최신 콘텐츠

파란 약과 빨간 약을 여전히 고를 수 있다는 착각