*줄리아 앵윈은 탐사보도 전문기자다.

백인에게만 보이는 부동산 광고를 페이스북에서 클릭 몇 번만으로 손쉽게 사서 내걸 수 있다는 사실을 발견했을 때의 충격을 나는 아직도 생생히 기억한다. 집을 사고팔 때 특정 인종을 배제하는 행위는 공정주택법(Fair Housing Act)이 명백히 금지하는 행위다. 더 충격적인 사실은 내가 법에 금지된 광고를 버젓이 살 수 있다는 사실을 발견하고 나서 페이스북의 모회사인 메타가 잘못을 바로잡기까지 무려 6년이 걸렸다는 점이다. 그러나 지금 이 순간까지도 메타가 광고 시스템 전반에 팽배한 여러 차별적인 요소들을 완전히 고쳤다고 보기는 어렵다.

페이스북이 계속 꾸물대며 미온적인 태도로 버틸 수 있던 데는 1996년 제정된 통신품위법 제230조라는 뒷배가 있었다. 수많은 소송에서 메타를 비롯한 인터넷 플랫폼 기업들을 무사히 지켜준 이 조항을 기업들은 책임을 면하려고 할 때마다 전가의 보도처럼 썼다.

법이 만들어진 1996년은 이 세상에 인터넷 웹사이트 숫자가 1만 개가 채 되지 않던 때다. 인터넷에 올라오는 글들 가운데는 필연적으로 남을 비방하고 명예를 훼손하는 내용이 있기 마련이다. 통신품위법 230조의 원래 취지는 이런 글 때문에 명예훼손 소송이 벌어질 때 인터넷 기업들이 책임을 지지 않게 보호하는 것이었다. 이후 기술은 진보를 거듭해 이제 우리의 일상에 영향을 미치는 웹사이트는 수십억 개에 이른다. 그런데 법원과 기업들은 1996년에 만든 이 면책 조항의 범위를 끝없이 넓혀 사실상 웬만한 소송에 다 가져다 쓰기 좋은 만능 방패를 만들어버렸다. 마치 미국 경찰이 업무 중에 공권력을 남용해 폭력을 행사하고 무고한 시민을 살해한 뒤에도 한정 면책권(qualified immunity doctrine)을 억지로 적용해 책임을 지지 않는 모습을 보는 것 같다.

수십 년간 기술이 잘못 쓰여 일으키는 문제나 사회에 끼치는 해악을 취재한 언론인으로서 나는 테크 기업들이 통신품위법 230조를 이용해 자신에게 씌워진 수많은 혐의를 효과적으로 떨쳐내고 지워내는 걸 수도 없이 봤다. 마약 판매, 성폭행, 불법 무기 밀매, 인신매매에 이르기까지 인터넷이 아니라 오프라인에서 벌어졌다면 절대 가볍게 넘어갈 수 없는 중범죄 혐의들이었지만, 기업들은 매번 통신품위법 230조의 방패 뒤에 숨어 책임을 피해 갔다.

이번 주에 테크 기업들이 통신품위법 230조를 법적인 방패로 쓰는 범위를 제약하는 사안을 두고 대법원 구두변론이 열린다. (옮긴이: 2월 20일에 발행된 칼럼입니다. 구두변론에서 나온 쟁점은 해설에서 소개하겠습니다.) 지난 2015년 파리 바타클랑 극장에서 ISIS가 벌인 테러로 숨진 희생자 유족이 (구글의 자회사인) 유튜브가 ISIS의 동영상을 걸러내지 않고 도리어 추천한 법적 책임을 묻겠다며, 구글을 고소했다. 구글은 이번에도 통신품위법 230조에 따라 플랫폼은 책임이 없다고 주장하고 있다.

빅테크 기업들은 230조의 방패가 조금이라도 줄어들면 인터넷의 근간이 흔들리고, 표현의 자유가 심각하게 침해될 거라고 주장한다. 반대로 230조 개혁의 필요성에 공감하는 이들은 그동안 너무 많은 부분에서 책임을 면제해 줬기 때문에 테크 기업이 잘못을 바로잡는 데 소홀할 수밖에 없었다고 지적한다.

사실 인터넷에 올라오는 콘텐츠에 표현의 자유를 보장하면서 동시에 기업들이 다분히 남용해 온 만능 방패를 빼앗는 좋은 방법이 있다. 바로 표현(speech)과 행동(conduct)을 명확히 구분하면 된다. 그렇게 해도 기업들은 표현에서 비롯된 명예훼손 소송에서 지금처럼 책임을 면할 수 있다. 의회가 통신품위법을 만들 때 의도했던 취지는 그대로 지켜지는 셈이다. 다만 기업의 기술 때문에 일어난 불법 행위에 대해서는 기업이 책임을 져야 한다.

미국 법원은 이미 230조를 매우 넓게 적용하던 관행에서 벗어나 표현과 행동을 구분하기 시작했다. 대표적인 사례가 스피드 필터(speed filter)를 고안한 스냅챗에 그로 인해 일어난 사고의 책임을 물은 판결이다. 스냅챗에서 주는 보상을 받으려고 10대 소년들은 무모한 과속운전을 했고, 나무에 차를 들이받는 사고로 숨졌다. 법원은 스피드 필터가 위험천만한 과속운전을 부추겼다고 봤으며, 이는 통신품위법 230조에 따라 책임을 면할 수 없는 사안이라고 판결했다.

바이든 행정부도 대법원에 제출한 진술서를 통해 두 가지 사이에 선을 분명히 그어야 한다고 제안했다. 즉 구글 검색과 같이 인기 있는 필수 서비스의 기저에 있는 알고리듬 분류법 자체는 큰 문제가 없지만, 적극적인 알고리듬 조작과 개입은 테러 관련 콘텐츠를 추천하는 등 법을 어길 만한 행동으로 이어지기 때문에 제재해야 한다는 것이다.

“온라인 서비스를 제공하는 기업이 직접 혹은 제3자가 제공하는 콘텐츠에 내용을 추가할 경우 그로 인해 일어난 사건에 책임을 물을 수 있어야 한다.”

나는 그동안 통신품위법 230조가 테크 기업들의 숨통을 얼마나 많이, 자주 트여줬는지 직접 목도했다. 기업들은 230조 덕분에 자사의 기술이 사회에 끼친 해악을 해결하기 위해 거의 아무것도 하지 않아도 된다는 결론에 이르렀다. 지난 2016년 민권 변호사 레이첼 굿맨은 내게 전화해 고충을 털어놓았다. 페이스북에 지금의 광고 알고리듬이 광고 대상을 가려내는 과정에서 공정주택법을 위반하고 있다고 여러 차례 경고했지만, 페이스북이 꿈쩍도 하지 않는다는 것이다.

굿맨 변호사의 설명을 빌리면, 페이스북은 광고 대상을 고르는 데 자동화된 시스템을 이용한다. 광고주는 구매한 광고를 특정 대상에게만 노출되도록 설정할 수 있는데, 페이스북이 특정 대상을 가리는 기준의 하나로 인종을 넣어뒀다. 즉, 광고주는 아무도 눈치채지 못하게 자기가 산 광고가 백인들에게만 노출되도록 설정할 수 있다. 굿맨 변호사의 주장을 검증하고자 나는 동료인 테리 패리스 주니어 기자와 함께 직접 광고를 사 보기로 했다. 우리는 페이스북 광고 포털에 접속했다. 이내 광고 대상, 즉 내 광고를 보고 집을 사는 데 관심을 가질 만한 사람들을 고르는 단계에 왔다.

페이스북 광고 포털은 광고를 노출하고 싶지 않은 대상을 직접 고를 수 있게 해 뒀다. 우리는 흑인, 아시아계 미국인, 히스패닉 세 부류의 “인종적 관련성(ethnic affinity)”이 있는 집단을 배제하고 싶다고 했다. 집을 사는 기회를 특정 인종만 누린다면 이는 공정주택법 위반이다. 그러나 불과 15분 만에 페이스북은 우리 광고를 승인했다.

우리는 당장 시험을 멈추고, 광고 신청을 철회했다. 굿맨 변호사의 주장은 사실로 확인됐다. 우리는 알고리듬과 그 코드에 숨어 있는 21세기형 차별의 민낯을 똑똑히 목도했다. 광고주가 “백인만 볼 수 있는 광고”라고 노골적으로 써둘 필요도 없었다. 물론 그렇게 하면 불법이다. 그러나 알고리듬 덕분에 법을 어기지 않고도 사실상 백인만 볼 수 있는 불법 광고를 내보낼 수 있던 것이다.

페이스북을 향한 여론의 비판이 거세지자, 페이스북은 대책을 내놓았다. 광고주에게 광고의 내용이 민권법을 어길 경우 광고주가 모든 책임을 져야 한다는 경고 문구를 추가했다. 이어 페이스북은 주택, 고용, 신용과 관련한 광고에서는 광고주가 인종 분류를 직접 고르지 못하도록 알고리듬을 개선하겠다고 발표했다. (인종 외의 기준을 어떻게 개선해 알고리듬에 반영할지는 아무런 언급도 하지 않았다. 민권법이 차별을 금지하는 기준은 인종 외에도 연령, 성별 등 다양하다.)

우리 기사가 나간 뒤 여러 단체가 페이스북을 공정주택법 위반 혐의로 고소했고, 소송이 벌어졌다. 페이스북은 예상대로 통신품위법 230조의 면책 조항으로 맞섰다. 법을 어긴 부분이 있다면, 그 책임은 온전히 광고주들에게 물어야 한다는 것이다. 지금까지의 판례를 돌아보면, 법원은 페이스북의 손을 들어줄 가능성이 컸다. 예를 들어 지난 2008년, 연방 항소법원은 크레이그스리스트가 웹사이트에 올라온 차별적인 주택 광고의 책임을 지지 않아도 된다고 판결했다.

페이스북이 (문제를 개선했다는) 새 알고리듬을 선보인 지 1년 남짓 지난 시점에 나는 페이스북에서 또 한 번 백인만 볼 수 있는 주택 광고를 별 어려움 없이 살 수 있었다. 페이스북은 이번에는 새 알고리듬의 “기술적인 오류” 때문에 빚어진 일이라고 해명했다. 곧이어 나는 페이스북의 표적 광고 시스템을 이용해 생성된 수십 건의 구인 광고가 나이 든 사람에게는 아예 노출되지 않게 설정돼 있다는 사실을 발견했다. 페이스북은 특정 연령만 볼 수 있게 한 구인 광고는 “책임감 있게 사용”하면 문제 될 것이 없다고 주장했다. 그러나 연방법은 구인 광고에 특정 연령을 선호하거나 반대로 배제할 수 없다고 명시하고 있다.

내가 페이스북에서 차별적인 부동산 광고를 살 수 있다는 걸 확인한 지 3년 뒤인 2019년, 페이스북은 마침내 구직자, 민권 단체를 비롯해 법정 다툼을 벌이던 이들과 합의에 이르렀다. 주택, 고용, 신용 관련 광고만 따로 관리하는 포털을 별도로 만들고, 거기서는 인종, 성별, 연령을 비롯해 민권법이 규정한 차별 금지 기준을 광고주가 설정하지 못하게 하는 것이 골자였다. 고용기회평등위원회(The Equal Employment Opportunity Commission)도 별도로 진행한 소송에서 나이에 따라 광고를 달리 노출하던 광고주들과 합의했다.

그런데 합의 소식이 전해지고 얼마 지나지 않아 노스이스턴대학교 연구팀은 페이스북이 만든 새로운 포털에서도 광고를 선정, 게재하는 알고리듬에 편향이 발견됐다고 지적했다. 연구팀은 “슈퍼마켓의 구인 광고는 대부분 여성에게만 노출됐고, 벌목이나 목재공장 광고는 대개 남성만 볼 수 있게 설정됐다”고 밝혔다.

이는 자동화된 시스템에서 불가피하게 발생하는 문제일 수 있다. 명시적인 차별의 기준으로 쓰일 수 있는 변수와 요소를 다 제거하더라도 현실에서 모은 데이터를 학습한 알고리듬은 차별이 내재한 우리의 현실을 놀라울 만큼 정확히 추론할 수 있기 때문이다.

그사이 내가 창업한 비영리 언론사 마크업(The Markup)의 기자들도 페이스북의 신용카드 광고들이 나이에 따라 노출 정도를 정교하게 달리 설정해 놓았다는 사실을 확인했다. 페이스북은 “모든 규제를 바로 완벽하게 이행하는 건 쉽지 않은 일”이라며, 마크업이 지적한 광고를 비롯해 문제가 된 광고들을 내리겠다고 약속했다. 그러는 와중에도 메타는 통신품위법 230조를 앞세워 법원에서는 승승장구하며, 법적 책임은 번번이 피해 갔다.

지난해 메타는 또 한 번 합의에 이른다. 이번에는 미국 법무부와 송사를 벌이고 있었다. 메타는 주택 광고에만 새 알고리듬을 적용한 포털을 다시 만들기로 했다. 차별의 소지가 전혀 없는 광고만 낼 수 있는 포털이라는 조건이 붙었다. 벌금도 11만 5천 달러 내기로 합의했다. 그러나 이 합의는 신용, 보험, 고용 광고를 집행하는 현재 알고리듬에 포함된 편견과 차별을 고치는 데는 아무런 영향도 미치지 못했다.

결국, 내가 처음 문제의 광고를 샀던 순간부터 7년이란 세월이 흐르는 동안 메타는 편견과 차별이 담긴 광고 시스템을 끝내 고치지 않았다. 그 사이 메타의 매출은 네 배나 늘었다. 2003년 프랭크 이스터브룩 판사는 판결문에 다음과 같이 썼다.

“통신품위법 230조는 인터넷 기업이 자기 웹사이트에서 유통, 통용되는 내용에 별 관심을 두지 않고, 설사 그로 인해 문제가 벌어져도 아무것도 안 해도 된다고 생각하게 했다.”

표현과 행동을 구분하기 시작하면, 지금껏 아무것도 안 해온 빅테크가 뭐라도 하도록 압박하는 효과가 있을 것이다. 특히 잘못된 알고리듬 탓에 민권법이나 제품의 안전 관련 규정, 테러방지법 등 중요한 법규를 어기게 될 경우 빅테크 기업이 아무것도 하지 않고 버티는 탓에 문제가 악화되곤 했다. 적극적으로 빅테크 기업에 책임을 지우지 않는다면, 지금처럼 아무것도 안 하다가 모두가 떠안게 되는 피해는 재앙을 예방하기 위해 뭐라도 하는 데 드는 비용보다 훨씬 더 클 것이다.

원문 : It’s Time to Tear Up Big Tech’s Get-Out-of-Jail-Free Card

(c) 2023 The New York Times Company

번역 : 뉴스페퍼민트

최신 콘텐츠

법이 더는 빅테크 기업의 만능 방패로 쓰여선 안 된다