*에즈라 클라인은 뉴욕타임스 오피니언 칼럼니스트다. 팟캐스트 에즈라 클라인 쇼를 진행한다.

공상과학 소설가나 인공지능 연구자들은 오랫동안 전원을 끌 수 없는 기계를 두려워했다. 무시무시한 시나리오는 보통 이렇다.

강력한 인공지능이 개발된다. 인공지능을 만들어 낸 개발자들은 처음에는 자신들이 이룩한 성과에 들떠 있다가 이내 인공지능을 통제할 수 없게 되면 어떡하나 불안해지고, 마침내 공포에 휩싸인다. 부랴부랴 전원을 차단해 인공지능을 멈춰보려 하지만, 때는 늦었다. 무수한 자기 복제를 마친 인공지능은 이미 온 세상에 퍼져 잠재울 수 없는 존재가 됐기 때문이다.

이 시나리오를 염두에 둔 채 오늘 칼럼을 읽어주시기 바란다.

최근 들어 인공지능 분야에서 두 가지 중요한 사건이 일어났다. 하나는 여러분도 익히 들어서 잘 아실 거다. 챗GPT를 개발하고 운영하는 오픈AI 이사회가 회사의 최고경영자(CEO) 샘 알트만을 전격 축출했다. 누구도 예상하지 못했던 일이고, 이사회도 뜻밖의 결정에 대해 별다른 설명을 하지 않았다. 이사회가 내놓은 성명을 보면, 궁금했던 게 해소되기는커녕 이런저런 질문이 꼬리를 문다.

“이사회는 오랫동안 샘 알트만이 CEO로 적합한지 고민해 왔다. 특히 알트만이 이사회와 소통할 때 일관되게 투명하지 못했던 점을 고려해 이사회의 업무를 충실히 수행하는 데 알트만이 방해가 되리라는 결론에 이르렀다.”

사람들은 알트만이 이사회에 오픈AI의 재정 상태나 데이터 안전 문제 등에 관해 거짓말을 한 게 아닐까 추측했다. 그러나 오픈AI의 임원인 브래드 라이트캡은 오픈AI 직원들에게 그런 소문은 사실이 아니라고 단언했다. 그는 “분명히 말할 수 있는 건 알트만이 부정행위를 저질렀거나 회사의 재정 상태, 사업 전망, 데이터 보안이나 개인정보 보호 같은 데 문제가 생겨서 이사회가 이번 결정을 내린 게 아니”라며, “이번 사태는 샘과 이사회 사이에 소통이 단절되면서 벌어진 일”이라고 썼다.

오픈AI는 회사의 사명에 따라 운영되는 기업이다. (이제는 과거형으로 쓰는 게 맞을지도 모르겠다.) 인공지능은 이윤을 추구하는 기업이나 권력을 추구하는 정부, 국가가 개발하고 운영하기에는 너무나 강력한 기술이다. 그래서 오픈AI 헌장에는 “인류 전체의 이익을 최우선으로 두고” 기술을 개발, 운영할 수 있는 기관이 인공지능 기술을 관장해야 한다고 쓰여 있다. 오픈AI는 정확히 그런 기관을 목표로 설립됐다. 처음부터 영리를 목적으로 하지 않는 비영리 기관으로 출발했다. 그런데 인공지능 기술을 개발하는 데는 돈이 든다. 그것도 한두 푼이 아니라 수십억 달러가 필요하다. 그래서 오픈AI는 일종의 이중 지배 구조를 만들었다. 영리 목적의 사업을 수행하는 회사를 만들어서 여기서 기술 개발에 필요한 투자도 받고, 개발한 기술로 서비스와 애플리케이션을 만들어 수익도 창출한다. 그런데 이 영리 목적의 회사를 관리·감독하는 건 여전히 처음 오픈AI의 사명을 완수하는 비영리 단체 이사회의 권한으로 남겨뒀다.

이번 사태를 취재하면서 많은 사람과 이야기를 나눴는데, 그 가운데 오픈AI 이사회의 결정을 가장 잘 설명한 건 이사회가 내놓은 성명서라는 한 취재원의 말이 가장 기억에 남는다. 비록 의도한 바를 명확히 전달하는 데 실패한 것 같긴 하지만, 성명에서 밝힌 이사회의 해고 사유는 “알트만이 이사회의 업무에 방해가 된다”는 것이었다. 이사회의 업무란 오픈AI의 사명을 다하는 일이고, 그러기 위해선 주어진 권한을 활용해 영리 회사를 확실히 통제할 수 있어야 하는데, 알트만 때문에 그러지 못했다는 말이다.

알트만은 어쩌다 이사회의 눈에 걸림돌로 비쳤을까? 원활하지 못한 소통이 문제였을 거라고 추정할 수 있다. 이사회는 알트만의 소통 방식이 느리고, 불투명하고 때때로 이사회에 핵심을 제대로 보고하지 않는다고 느낀 듯하다. 또한, 상용화의 속도나 제휴 기업들과의 계약, 직원들이나 제품 개발에 관한 약속들이 문제가 됐을 수도 있다. 오픈AI가 인공지능을 개발하는 목적은 인류를 위해서다. 마이크로소프트가 구글과의 경쟁에서 이기는 데 도움을 주는 건 오픈AI가 신경 쓸 일이 전혀 아니다. 이사회는 주어진 사명만 충실히 이행하고자 했을 것이고, 영리 목적의 자회사가 오픈AI의 사명에 상관없는 일, 심지어 반하는 일을 벌이려 하면 이를 제어하려 했을 것이다. 이번에는 그러기 위해 알트만을 해고해야 했다. 알트만을 해고했다가는 오픈AI의 존속이 위태로워질 수도 있다는 경고에 이사 중 한 명인 헬렌 토너는 이렇게 답했다.

“그게 회사의 사명에 부합하는 일이라면 그렇게 하는 게 맞겠죠.”

오픈AI는 항상 투자자들에게 이런 일이 일어날 수 있다고 경고해 왔다. “오픈AI에 한 투자금은 좋은 데 기부한 셈 치는 게 나을 것”이라고 말하기도 했다. 그러나 회사가 성장하면서 오픈AI는 투자금을 기부한 셈 칠 생각이 전혀 없는 투자자들에게서 수십억 달러를 투자받았다. 오픈AI에 지금껏 130억 달러 이상을 투자했고, 오픈AI의 영리 회사 지분 49%를 소유한 마이크로소프트가 대표적이다. 마이크로소프트는 이미 오픈AI의 인공지능 기술을 자사 제품 개발의 핵심에 두고 있다. 마이크로소프트의 사업 전략 어디에도 자선이란 단어나 개념은 없다.

마이크로소프트의 사티아 나텔라 CEO는 오픈AI 이사회가 알트만을 해고할 때 이를 막을 권한이 없었다. 대신 그에게는 이사회의 결정을 사실상 물거품으로 만들어 버릴 힘이 있었다. 그는 마이크로소프트에 독립된 혁신 담당 부서를 만들고, 부서의 운영을 알트만과 (오픈AI에서 사실상 해고 통보를 받은 뒤 알트만과 함께하겠다며 회장직에서 사임한) 그렉 브록만에게 일임한다고 발표했다. 그리고 오픈AI 출신 직원이라면 누구든 해당 부서로 옮길 수 있도록 문을 열어놓겠다고 덧붙였다.

오픈AI 직원의 90% 이상이 알트만을 즉각 복귀시키고 알트만을 쫓아낸 이사들이 전부 이사회에서 물러나지 않으면, 오픈AI를 떠나 마이크로소프트로 옮기겠다는 연판장에 서명했다. 이들 가운데 일리야 수츠키버가 포함됐다는 사실은 매우 이상하다. 그는 오픈AI의 공동 창립자이자 이사로서 알트만을 쫓아내기로 한 이사 4명 가운데 한 명이었을 뿐 아니라, 알트만에게 전화를 걸어 해고 사실을 통보한 장본인이기도 하다. 알트만은 오픈AI CEO로 복귀하며, 알트만을 쫓아낸 이사 가운데 한 명만 빼고 모든 이사가 물러나는 것으로 사태는 일단락됐다.

이사회가 알트만을 해고한 결정이 옳은 결정이었는지 잘 모르겠다. 확실한 건 이사회가 해고를 정당화할 만한 이유를 공개하지 못했다는 점이다. 그러나 오픈AI가 비영리 단체로서 기업의 중요한 결정을 이사회에 맡긴 데는 다 이유가 있던 것도 사실이다. 바로 문제가 생길 때 시스템의 전원을 끌 수 있게 하기 위해서였다. 그러나 전원 버튼은 이미 무용지물이 돼 있었다. 영리 사업을 맡은 자회사가 스스로 얼마든지 버튼을 켜고 새로 가동할 역량이 있었기 때문이다.

한 가지 더 잊지 말아야 할 게 있다. 바로 구글의 인공지능 부서, 메타의 인공지능 부서, 앤트로픽과 인플렉션을 비롯해 GPT-4와 비슷한 거대언어모델 기술을 열심히 개발하며 오픈AI와 비슷한 사업 모델을 앞세워 치열하게 경쟁하고 있는 많은 기업들이다. 자본주의는 그 자체로 일종의 인공지능 모델이다. 컴퓨터 과학자들이 지금껏 쓴 그 어떤 코드보다도 멀찌감치 나아가있는지 모른다. 자본주의가 오픈AI의 가능성과 잠재력을 이미 오래전에 베껴서 내재화했다는 말이다.

인공지능 기술이 인류를 위해 올바르게 쓰이도록 감독하는 일은 지배구조를 불문하고 온전히 기업에만 맡겨두기엔 너무나 중요한 과제다. 이론적으로 생각해도 기업보다는 정부가 하는 게 맞다. 그래서 최근 일어난 인공지능 관련 사건 가운데 오늘 짚어볼 두 번째 사건은 세간의 관심은 덜 받았을지 몰라도 어쩌면 더 중요한 일일지 모른다. 지난 10월 30일, 바이든 행정부는 “안전하고 보안 수준이 높으며, 신뢰할 수 있는 인공지능 개발과 이용”에 관한 행정명령을 발표했다.

이번 행정명령은 요약하기 쉽지 않은, 방대하고 사려 깊은 프레임워크다. (자세한 설명을 원한다면, 인공지능 전문 기자 즈비 모우쇼비츠의 분석 기사나 행정명령에 대한 반응을 종합한 글을 읽으면 도움이 될 것이다.) 큰 틀에서 나는 이번 행정명령을 인공지능을 직접 규제하려는 것보다 궁극적으로 인공지능을 제대로 규제하는 데 필요한 인프라와 기본 개념을 정립하고, 여러 우려 사항을 담아내는 노력의 일환이라고 평가하고 싶다.

행정명령은 정부가 어느 수준 이상의 복잡성과 연산력을 동원하는 인공지능 모델을 시험하고 규제하는 데 특별한 관심이 있다는 점을 분명히 밝혔다. 이는 인공지능 안전성을 연구하는 이들이 말해 온 핵심 요구사항이기도 하다. 이들은 이른바 초지능 시스템이 문명사회에 초래할 수 있는 잠재적인 결과를 두려워하는데, 나는 바이든 행정부가 지금 인공지능 모델이 어떻게 쓰이는지만 보고 섣불리 규제에 나서지 않고, 연구자들의 경고를 귀담아들어서 다행이라고 생각한다.

행정명령은 또 정부가 궁극적으로 인공지능을 이용해 생성한 모든 콘텐츠에 일종의 디지털 표식을 달아서 인공지능 콘텐츠임을 누구나 알 수 있게 요구하는 방법을 찾겠다고 밝혔다. 이것도 현명한 결정이라고 생각한다. 강력한 인공지능 모델의 사이버 보안을 강화하는 일이나 어쩌면 인공지능이 가장 파괴적으로 쓰일 수 있는 다양한 생물학 무기의 원료나 재료에 디지털 표식을 다는 것이 포함됐다.

일단 행정명령은 다양한 보고서, 분석, 그리고 자문을 요구하고 있다. 그러나 제대로 작동하는 규제의 틀을 확립하려면 결국, 어느 하나 중요하지 않은 것이 없다. 그러나 정부가 이렇게 조심스럽게 첫발을 내디딘 것만으로도 적잖은 실리콘밸리의 벤처캐피털 업계에선 격한 부정적 반응이 나온다. 이들은 무능한 정부가 “숫자와 관련된 건 무조건 금지”하려 한다며, 복잡한 시스템을 더 철저히 감독하려는 시도를 비난한다.

2주 뒤 영국 정부는 단기적으로 인공지능을 규제하지 않을 것이며, “혁신 친화적인 기조를 유지”하겠다고 밝혔다. 유럽연합이 내놓은 규제안도 프랑스, 독일, 이탈리아에서 잇달아 제동이 걸렸다. 회원국들은 강력한 시스템을 철저히 감독하겠다고 밝혔다가 정작 중요한 기술이 다른 곳에서 먼저 개발돼 주도권을 잃을까 봐 우려하고 있다.

예를 들어 미국 규제 당국이 어느 시점에 어떤 기술을 철저히 규제하고 단속해야 할 필요성을 뒷받침할 만한 무언가를 발견했다고 해보자. 이건 사실 언제나 판단의 문제가 될 수밖에 없다. 끔찍한 피해를 초래할 가능성이 있는 무언가를 사전에 규제한다는 건 곧 그 피해가 어디까지나 이론적으로, 상상 속에만 있다는 뜻이다. (규제하지 않았을 때) 끔찍한 피해는 발생할 수도 있지만, 일어나지 않을 수도 있다. 그래서 정부가 규제를 시행하면 투자한 돈을 잃거나 손해를 보게 될 사람들이 일어나지도 않을 일에 과도하게 족쇄를 채운다며 정부 방침에 격렬히 반대하곤 한다.

아니면 이는 그렇게 극적으로 흘러갈 문제가 아닐 수도 있다. 즉, 규제당국이 새로운 기술과 그로 인해 일어난 예기치 못한 행동들을 보고 나서 새 기술이 그 여파를 제대로 이해하기 어려울 정도로 너무 빨리 발전하고 있다고 판단할 수도 있다. 그럼, 규제당국은 기술의 발전 속도를 늦추더라도 더 많은 시험과 연구를 통해 기술이 초래할 결과를 정확히 파악하는 게 먼저라고 생각할 것이다. 게다가 만약 규제당국이 이 사실을 대중에게 공개할 수 없는 데이터에서 발견한다면, 규제의 필요성을 설득하기는 매우 어렵다. 설사 데이터를 공개할 수 있다고 해도 여전히 규제는 판단의 영역이다. 피해가 나기 전에 미리 선수를 치는 규제는 언제나 불확실성을 수반한다.

다른 나라들도 바이든 행정부의 정책을 현명한 접근법으로 여기고 따라 할까? 아니면 강화된 규제 때문에 미국을 떠날 기업들을 유치할 기회로 여기게 될까? 영국이나 중국, 일본, 아니면 이스라엘이나 사우디아라비아, 에스토니아처럼 더 작은 나라들이 미국의 신중한 행보를 기회로 삼아 혁신을 위해서라면 전폭적인 지원을 약속하며 인공지능 기업을 유치하는 전개를 얼마든지 상상해 볼 수 있다. 아무리 규제가 싫다고 미국 기업이 미국을 떠나 해외로 회사 전체를 옮기는 게 과연 가능할까 생각하는 분이 있다면, 멀리 갈 것도 없이 샘 뱅크먼프리드의 FTX를 떠올려 보시라. 그들은 미국의 규제 아래선 사업을 못 하겠다며, 회사 본부와 본사 직원들을 진짜 바하마로 옮겨버렸다. 그다음에 어떤 일이 일어났는지는 다들 잘 아실 거다.

너무 비관적인 시각을 제시하려는 건 아니다. 만약 인공지능이 다른 대부분 기술과 마찬가지로 점진적으로 발전해서 규제 당국과 기업, 법률 제도가 기술 발전 속도에 뒤처지지 않고 따라갈 수 있다면 괜찮다. 지난 1년간 정부, 과학자, 언론은 대체로 인공지능의 가능성에 열광하면서도 부작용이나 함정을 진지하게 고려하는 균형 잡힌 태도를 보였다. 그러나 인공지능 시스템의 역량이 업계 관계자들이 예측하는 것처럼 계속해서 기하급수적으로 커진다면, 이 기술을 통제하기 어려워질 때 우리가 과연 전원을 끌 수 있을지는 점점 더 확신하기 어려워지고 있다. 지난 몇 주간 일어난 일을 돌이켜보면 더더욱 그렇다. 전원을 차단할 수 있는 스위치는 이미 사라지고 없기 때문이다.

원문 : The Unsettling Lesson of the OpenAI Mess

(c) 2023 The New York Times Company

번역 : 뉴스페퍼민트

최신 콘텐츠

오픈AI 사태가 남긴 불안한 교훈