*알렉산더 C. 카프는 팔란티어 테크놀로지(Palantir Technologies)의 CEO다. 팔란티어 테크놀로지는 데이터 분석 소프트웨어를 생산하며, 미국 국방부의 협력 업체다.

화가인 어머니와 직물 수입상 아버지 아래서 태어난 물리학자 J. 로버트 오펜하이머는 1942년 ‘프로젝트 Y’를 이끌 책임자로 임명됐다. 핵무기 개발을 목표로 하는 맨해튼 프로젝트의 일환이었다. 오펜하이머와 동료들은 뉴멕시코주의 외딴 지역에서 비밀리에 우라늄 정제법, 궁극적으로는 원자폭탄 설계와 제작법을 연구하게 됐다.

오펜하이머에게는 행동과 탐구에 대한 편향이 있었다.

그는 이후 국가 기밀을 유지할 수 있을지를 평가하는 정부 담당자에게 이렇게 말했다.

“기술적으로 좋아 보이는 것이 있으면 바로 실행에 옮깁니다. 그리고 기술적인 성공을 거둔 다음에야 그걸로 무엇을 어떻게 해야 할지를 논쟁하죠. 원자폭탄 개발 때처럼 말입니다.”

증언 이후 오펜하이머에 대한 보안 허가는 취소됐고, 그의 공직 경력은 사실상 막을 내렸다.

그러나 동시대 가장 파괴적인 무기를 만들어 내는 데 있어 자신이 한 역할에 대한 오펜하이머의 의견은 히로시마와 나가사키에 원자폭탄을 투하한 뒤 완전히 바뀌게 된다. 1947년 MIT에서 열린 강연에서 그는 원폭 개발에 참여한 물리학자들이 “죄를 알고 있고”, 이는 “그들이 잊어버릴 수 없는 일”이라고 말했다.

우리는 이제 컴퓨터과학 분야에서도 비슷한 갈림길에 서 있다. 공학과 윤리의 교차점에서 우리는 다시금 잠재력을 완전히 파악하지 못한 기술의 개발을 계속해야 할지를 선택해야만 한다.

우리가 마주한 선택지는 다음과 같다. 인류를 위협하고, 언젠가 인류를 대체할지도 모른다는 인공지능의 가장 진화된 형태를 개발하는 작업을 억제하거나 아예 중단할 것인가? 아니면 지난 세기의 핵무기처럼 이번 세기 국제 정세를 결정지어 버릴 잠재력을 가진 기술에 관해 자유로운 실험을 허용할 것인가?

거대 언어 모델(large language model)의 새로운 특성, 즉 세계가 작동하는 방식에 대한 지식의 초보적인 형태를 한데 엮을 수 있는 인공지능의 능력은 우리가 아직 완전히 이해하지 못한 영역이다. 이해가 부족한 상태에서, 신기술과 마주한 인간의 초기 반응은 대부분 경이와 공포가 불편하게 뒤섞인 감정이었다.

일부 최신 모델은 컴퓨터 알고리즘 내에서 조정 가능한 변수인 파라미터가 1조 개 이상으로, 인간의 두뇌로는 도저히 이해할 수 없는 수준의 처리 규모를 갖고 있다. 우리는 파라미터가 많으면 많을수록 세상을 더 잘 표현하고 더욱 풍요롭게 반영할 수 있다는 사실을 이제 알고 있다.

※ 핵 기술과 비교되는 인공지능 모델의 급격한 발전 속도

인공지능 네트워크가 빠르게 커지고, 능력이 좋아지면서 이를 이용해 매우 효과적인 무기 체계를 개발하려는 유혹도 점점 더 커지고 있다. 동시에 이는 세계 2차대전 중 핵폭탄을 개발하는 데 참여했던 이들이 겪은 윤리적 딜레마를 떠올리게 합니다.

1조 차원의 공간은 불투명하고 미스터리로 가득하다. 그것을 만든 과학자와 개발자들조차 생성 언어와 이미지 모델이 어떻게 작동하는지 명확히 알지 못한다. 이런 모델의 가장 진화된 버전들은 이제 (한 연구진의 표현에 따르면) “인공 일반 지능의 스파크”, 즉 인간의 사고방식과 비슷한 추론 능력을 보이기 시작했다.

GPT-4의 기능을 테스트한 한 실험에서는 언어 모델에 책 한 권과 계란 아홉 개, 랩톱 컴퓨터 하나, 병 하나, 못 하나를 “안정적인 구조로 쌓을 방법”을 물었다. 초기 모델을 사용해 실행 가능한 해결책을 찾으려는 시도는 실패로 돌아간 터였다.

GPT-4는 탁월했다. “책 위에 계란 아홉 개를 한 변이 세 개로 이루어진 정사각형으로 배열하고 그사이에 약간의 공간을 둔 다음 계란 위에 랩톱을 올리고, 병은 랩톱 위에, 못은 병뚜껑 위에 올리되 못의 납작한 부분을 아래로, 뾰족한 부분을 위로 두라”는 답이 나왔다.

프린스턴대학에서 컴퓨터 공학을 가르치고, 현재 마이크로소프트 리서치에서 일하면서 이 실험에 수석 저자로 참여한 프랑스인 세바스티앵 부벡은 이를 두고 “상식”의 놀라운 업적이라고 표현했다.

이러한 기술의 내부 작동방식에 대한 우리의 이해는 부족한데, 우리가 사는 세상에 대한 이 기술의 이해는 장족의 발전을 보이자, 우리는 두려움을 갖게 됐다. 최상위 연구진들은 이제 기술을 발전시키기 전에 경고와 토론을 제안하고 있다. 공학계에 더 발전된 형태의 인공지능 개발을 6개월간 중단할 것을 촉구한 공개서한은 3만 3천여 명의 서명을 받았다. 지난 금요일, 바이든 대통령이 참석한 백악관 회의에서는 인공지능을 개발 중인 7개 기업이 인공지능의 위험을 관리하기 위한 일련의 광범위한 원칙에 합의한다고 발표했다.

지난 3월에는 한 논평가가 타임지에 “현재 상황에서 누군가가 지나치게 강력한 인공지능을 개발한다면, 지구상의 모든 인류와 생명체가 머지않아 죽게 될 것”이라고 썼다.

인공지능의 발전에 대한 이런 우려는 터무니없는 것이 아니다. 우리가 만드는 소프트웨어는 치명적인 무기 개발을 가능케 한다. 점점 더 자율성이 높아지는 인공지능 소프트웨어와 무기 체계의 결합은 필연적인 위험으로 이어진다.

그렇지만 이런 기술의 개발을 완전히 중단해야 한다는 의견은 잘못된 것이다.

거대 언어 모델의 발전을 저지하려는 일부 시도는 대중의 불신, 그리고 기술의 위험성과 보상을 적절히 평가할 수 있는 능력에서 비롯된다. 수년 동안 소프트웨어가 인류의 구원이 아니라는 의견에 반발했던 실리콘밸리의 엘리트들이 이제 와서 우리가 군사작전에서부터 의료에 이르는 모든 분야에서 혁명을 일으킬 수 있는 중요한 연구를 중단해야 한다고 말하면, 우리는 이를 비판적인 시각으로 바라봐야 한다.

챗봇이 사용하는 언어에 대한 규제와 기계와 나누는 담론의 허용 범위 설정에 대해서도 많은 관심이 집중되고 있다. 이러한 모델을 우리의 이미지에 맞게 만들고 대인 관계에 적용되는 규범을 따르게 하려는 욕구는 이해할 수 있지만, 새로운 기술이 가져올 더 근본적인 위험으로부터 주의를 분산시킬 가능성이 있다. 언어 모델이 만들어 내는 말의 적절성에만 초점을 두는 행위는 기술 자체보다 우리의 문화적인 선입견과 취약성에 관해 더 많은 것을 알려준다.

우리는 대신 전력망, 국방 및 정보 네트워크, 항공 교통관제 인프라와 같은 시스템에 자율적으로 통합될 수 있는 인공지능 프로그램의 능력에 해자와 가드레일을 구축하는 기술 체계와 규제 틀에 더 시급히 관심을 기울여야 한다. 이러한 기술이 장기적으로 인류와 함께 존재하려면, 기계가 제작자에게 종속적인 존재로 남을 수 있도록 인간 오퍼레이터와 기계 간의 매끄러운 협업을 가능하게 하는 시스템이 반드시 구축되어야 한다.

그러나 날카로운 도구가 우리를 향할 수 있다는 두려움 때문에 날카로운 도구를 만드는 행위 자체를 주저해서는 안 된다.

현재 진행 중인 지정학적 세력 다툼이라는 암울한 현실을 외면하는 것은 그 자체로 위험하다. 우리의 적들은 군사 및 국가 안보에 중요한 응용 기술을 개발하는 문제를 두고 연극적인 논쟁에 빠져들지 않을 것이다. 적들은 멈추지 않고 기술을 개발할 것이다.

인공지능의 군사적 응용을 의식적으로든 무의식적으로든 주저한다면, 우리는 대가를 치르게 될 것이다. 적에 무력으로 맞서는 도구를 개발할 수 있는 능력은 무력을 사용하겠다는 신빙성 있는 위협과 합쳐질 때 효과적인 협상을 위한 기초가 된다.

기술적 우위를 추구한다는 것을 공개적으로 드러내기 꺼리는 우리 문화의 기저에는 우리가 이미 승리했다는 집단적인 감각이 자리하고 있다. 그러나 20세기의 투쟁 끝에 역사는 종말을 고했고, 서구의 자유민주주의가 영구적인 승리를 거두었다는 확신은 널리 퍼져 있는 만큼이나 위험하기도 하다.

우리는 자만해서는 안 된다.

자유민주주의 사회가 승리하기 위해서는 도덕적 호소력 이상의 무언가가 필요하다. 하드 파워, 즉 실질적인 힘이 있어야 하고, 이번 세기의 하드 파워는 소프트웨어를 기반으로 세워질 것이다.

하버드대와 예일대에서 경제학을 가르친 미국의 게임이론가 토머스 셸링은 무기 개발의 기술적 진보와 무기가 정치적 결과를 빚어내는 역할 사이의 관계를 잘 이해하고 있었다.

1960년대 미국이 베트남에서 군사적 확장을 두고 고심할 때, 셸링은 “강압적으로 나서려면 폭력을 예상해야 한다”고 썼다. “해칠 수 있는 힘은 협상력이며, 그것을 이용하는 것이 악랄한 외교이기는 하지만 외교”라는 것이었다.

다른 나라들이 전진을 계속하는 동안, 실리콘밸리의 엔지니어들은 전장에서 적을 더욱 체계적으로 표적화하고 제거할 수 있는 머신러닝 시스템 등 군사적 응용이 가능한 소프트웨어 개발 프로젝트에 참여하는 일을 꺼리고 있다. 이들 다수는 소셜미디어 플랫폼에서 광고 배치를 최적화하는 알고리즘을 개발하지만, 해병대를 위한 소프트웨어 개발에는 나서지 않을 것이다.

2019년 마이크로소프트는 미국 육군과 방위 계약 체결을 앞두고 내부의 반대에 직면했다. 직원들은 경영진에 보낸 공개서한에서 “우리는 무기를 개발하는 계약을 한 적이 없다”고 썼다.

1년 전에는 직원들의 항의 시위로 구글이 특수부대 작전을 계획, 실행하는 시스템 개발 관련 국방부와의 계약을 갱신하지 않는 일도 있었다. 구글 직원들은 CEO 순다 피차이에게 보낸 공개서한에서 “미국 정부의 군사 감시를 지원하고, 잠재적으로 치명적인 결과를 가져올 수 있는 기술 개발은 받아들일 수 없다”고 썼다.

나는 우리 세대 실리콘밸리 엔지니어들의 견해가 미국 국민 전체의 여론과 크게 다른 것이 아닌지 우려스럽다. 동서부 해안 지역에 거주하는 엘리트들의 선입견과 정치적 본능은 그들의 정체성과 문화적 우월감을 유지하는 데 필수적일지 모르지만, 공화국의 이해를 증진하는 데는 거의 도움이 되지 않는다. 실리콘밸리의 천재들, 그들의 재산과 기업으로 이룬 제국, 더 근본적으로 그들의 정체성조차도 그것을 가능케 한 국가가 있었기에 존재하는 것이다. 이들은 거대한 기술 제국을 건설하는 데 열중하면서도, 자신의 성장에 필수적이었던 보호와 기본적인 사회 구조를 제공한 국가를 지원하는 일은 거부하고 있다. 빚을 갚지는 않더라도 그 빚의 존재를 이해하는 것이 마땅하다.

우리의 자치 정부 실험은 취약하다. 미국이라는 국가는 완벽과 거리가 멀다. 그러나 미국이 세습 엘리트가 아닌 사람들에게 지구상 어떤 국가보다도 많은 기회를 제공한다는 사실을 잊어서는 안 된다.

우리 회사 팔란티어 테크놀로지(Palantir Technologies)는 이 논쟁에 건 판돈이 있다. 우리가 구축한 소프트웨어 플랫폼은 미국과 동맹국의 국방 및 정보기관이 목표물을 고르고, 작전 기획, 위성 정찰 등의 기능을 수행하는 데 활용된다. 적을 제거하는 소프트웨어의 성능은 우리와 협력하는 기관에 그 가치를 인정받기 위한 전제 조건이다. 팔란티어에는 기업으로서의 이익과 우리 기업이 기반을 둔 국가의 이익이 근본적으로 일치한다는 것이 다행스러운 일이다. 일례로 우크라이나 침공이 일어나자, 러시아에서 언제 철수할 것이냐는 질문을 많이 받았다. 답은 철수할 계획이 없다는 것이다. 러시아에 진출한 적이 없기 때문이다.

미국과 미국의 동맹국이 장기적으로 적에 대한 우위를 유지하려면 국가와 기술 부문 간의 보다 긴밀한 협력과 비전 조율이 필요하다. 지속적인 평화의 전제 조건은 신빙성 있는 전쟁 위협인 경우가 많다.

1939년 여름, 롱아일랜드 노스포크의 별장에서 앨버트 아인슈타인은 레오 실라드 등과 함께 프랭클린 루스벨트 대통령에게 편지를 썼다. 핵무기 개발을, 가급적 빨리 고려해 달라고 촉구하는 내용이었다. 아인슈타인과 실라드는 핵무기 개발을 위한 빠른 기술 발전이 “행정부의 주의와 빠른 조치를 해야 하는 듯하다”며, “행정부와 물리학자들 간의 지속적인 접촉을 기반으로 지속적인 파트너십이 필요하다”고 썼다.

당시 행정부가 이들의 요구에 따라 행동에 나서게 된 것은 원자폭탄의 무시무시한 힘과 전략적 잠재력 때문이었다. 오늘날 핵무기만큼 명확하지는 않지만, 똑같이 중요한 힘을 가진 인공지능에 대해서도 신속한 행동이 뒤따라야 할 것이다.

원문 : Our Oppenheimer Moment: The Creation of A.I. Weapons

(c) 2023 The New York Times Company

번역 : 뉴스페퍼민트

최신 콘텐츠

우리 시대의 오펜하이머 모멘트: 인공지능 무기의 탄생