저자: 티머시 서머스(Timothy Summers)

번역: 조안나

당신의 성격으로 볼 때 어디로 가야 하나요? “다운 튼 애비”(20세기 초 영국을 배경으로 한 드라마 - 역자 주)에서 당신은 어떤 캐릭터인가요? 어떤 종의 개가 당신과 가장 잘 어울리나요? 페이스북 21억3천만 유저 중 상당수가 페이스북 친구들의 이러한 온라인 퀴즈 결과를 공유받아 보게 됩니다. 이것들은 때때로 귀찮고 무의미하며 시간 낭비이지만 거부할 수는 없습니다. 이 결과는 당신의 가족, 친구들과만 공유하므로 순수한 것입니다. 맞을까요?

아닙니다.

페이스북은 당신의 데이터를 부당하게 이용하는 사업을 하고 있습니다. 당신의 데이터를 수집해 광고업체에 판매하여 수십억 달러의 이익을 챙기고 있습니다. 사용자는 단순히 가족, 친구들이 자신의 일상에 ‘좋아요’를 눌러주거나 공유 또는 댓글을 달아주기를 원하고 있지만, 윤리적 해커(컴퓨터 시스템에 침투하여 시스템의 취약점을 파악, 해결할 수 있도록 하는 컴퓨터 해커 - 역자 주)이자 보안 전문가, 데이터 분석가인 저는 이것이 그 이상의 의미가 있음을 알고 있습니다. 이는 현대 민주주의의 근간을 흔드는 일입니다.

당신은 심리 통계학 상으로 분류되어 있다

나이, 성별, 인종, 그 밖의 다양한 요인들로 시장을 분류하여 소비자를 파악하기 위해 광고주들이 사용하는 인구통계학이라는 용어를 들어 보았을 것입니다. 이와 달리 심리 통계학은 사람들의 성격, 가치, 의견, 태도, 선호도, 생활방식으로 측정하는 것을 말합니다. 이를 통해 광고주들은 여러분이 행동하는 방식과 여러분 자신에 대해 파악합니다.

역사적으로 심리 통계학은 인구통계학보다 훨씬 데이터를 수집하기가 힘들었고 그래서 영향을 주기가 어려웠습니다. 현재 페이스북은 이 데이터와 관련해 세계에서 가장 큰 보물 창고입니다. 매일 수십억 명의 사람들이 이 회사에 자신들의 일상과 꿈에 대한 어마어마한 양의 정보를 제공합니다.

최근에 여러분이 검색했던 선글라스에 대한 광고를 제공하는 정도는 데이터를 윤리적으로 사용하는 수준이며 이것은 문제가 되지 않습니다.

하지만 악의를 갖고 데이터에 접근하여 잘못된 정보로 사회를 분열시키고 호도해 개인의 의견과 행동을 조정하려고 한다면 문제가 됩니다.

페이스북은 이 같은 일이 일어날 수 있도록 방조했습니다.

퀴즈, 마음을 읽고 정치 성향을 예측한다

묘령의 억만장자가 소유하고 있고, 도널드 트럼프의 핵심 홍보 담당자였던 스티브 배넌(Steve Bannon)이 운영하는 영국 기반의 케임브리지 애널리티카(Cambridge Analytica, 데이터 분석 기업 – 역자 주)가 2016년 대선 전 몇 달 동안 페이스북에서 미국 유권자의 심리 통계학을 어떻게 사용했는지에 대한 보고서가 최근에 발표되었습니다. 왜 이들의 자료를 사용했을까요? 유권자들의 대상을 분류하여 맞춤형 정치 메시지를 전달하고 투표에 영향을 미치기 위해서였습니다.

케임브리지 애널리티카의 내부고발자 크리스토퍼 와일리(Christopher Wylie)는 이 회사가 페이스북의 사용자 데이터를 수집하고 “심리 요인을 대상으로 하는” 모델을 구축하기 위해 어떻게 했는지를 상세하게 설명했습니다.

페이스북은 어떻게 이를 방조할 수 있었을까요?

그들은 여러분의 데이터를 파는 것에 그치지 않았습니다. 2000년대 초반부터 페이스북은 여러분들을 분석하려는 연구자들의 접근을 허용해 왔고 많은 심리학자와 사회학자들이 단순한 질문들로 여러분의 성격과 생각을 예측하는 방법을 연구해서 내놓았습니다. 이 질문들은 소셜미디어에서 사용되는 다른 퀴즈들처럼 정치 성향과는 눈에 띄는 관련이 없어 보입니다. 사용하는 웹 브라우저를 묻는 질문조차 여러분의 성향에 대한 단서를 제공합니다.

2015년 페이스북은 알렉산드르 코건(Aleksandr Kogan) 연구원이 개발한 퀴즈의 사용을 허가했습니다. 다른 퀴즈들과 같이 그의 퀴즈도 여러분의 이름, 프로필 사진, 나이, 성별, 생일 등의 모든 개인 정보와 타임라인에 작성한 모든 포스팅, 전체 친구 목록, 여러분이 태그된 사진을 포함한 모든 사진, 학력, 고향, 사는 도시, ‘좋아요’를 누른 모든 내용, 웹 브라우저와 선호 언어를 비롯해 사용하는 장치에 대한 모든 정보를 수집할 수 있었습니다.

코건은 이 데이터를 케임브리지 애널리티카에 공유했고 이는 페이스북 정책을 위반한 것이지만 페이스북은 이에 대해 거의 통제를 행사하지는 않았습니다.

쉽게 외부의 영향을 받는 사용자 쇼핑

이 데이터를 분석해 케임브리지 애널리티카는 사용자가 흥미를 느낄만한 주제를 선정하고 어떤 정치적 메시지에 사용자가 민감하게 반응할 것인지, 사용자에게 동기를 부여할 수 있는 메시지, 내용, 어조를 어떻게 구성할 것인지, 다른 사람들과 공유하도록 어떻게 유도할 것인지 연구했습니다. 투표권자에 대해 예측할 수 있는 특성 쇼핑 리스트를 구성한 것입니다.

그러고 나서 그들은 페이스북 사용자들을 유인할 웹사이트, 광고, 블로그를 개설했고 이를 퍼뜨리도록 독려했습니다. 와일리의 말에 따르면 “그들은 그것을 보고… 클릭하고… 끌려가게 되었습니다.”

이는 투표에 영향을 줄 수 있는 가짜 뉴스, 허위 정보, 모순되는 메시지를 어떻게 미국 투표권자들을 대상으로 전달할 수 있는지를 보여줍니다.

이를 통해 페이스북 사용자들의 가족과 친구 관계가 어떻게 금전적 이익과 정치상의 목적으로 이용당했는지를 알 수 있습니다.

사용자의 위험에 대한 묵인

페이스북은 사용자를 보호하기 위해 좀 더 조치를 취할 수 있었습니다.

케임브리지 애널리티카는 개발자들을 통해 자신들의 플랫폼 앱을 개발했고 이 앱은 어마어마한 양의 사용자 데이터에 접근할 수 있었습니다. 이 내용에 대해 개인보호 규정을 적용할 수도 있었지만, 페이스북은 이 앱을 통해 벌어들인 30%의 수익을 받는 쪽을 선택했으며 이익을 얻기 위해 더 많은 앱을 원했습니다.

퀴즈를 제출하지 않은 사람들 또한 피해를 볼 수 있습니다. 페이스북은 케임브리지 애널리티카와 같은 기업들에 퀴즈 참가자의 친구들 데이터를 그들의 동의 없이 수집할 수 있도록 허용했습니다. 수천만 명의 데이터가 수집되었고 더 많은 페이스북 사용자들이 여러 앱을 통해 영향을 받았습니다.

문화와 정치 바꾸기

옵서버(Observer, 영국 가디언지에서 발행하는 주간지 - 역자 주)와의 비디오 인터뷰에서 와일리는 “정치는 문화에서 나옵니다. 문화를 바꾸기 위해 사람들을 변화시켜야 합니다”라고 설명했습니다.

이것이 바로 페이스북이 케임브리지 애널리티카에게 허용한 일입니다. 2017년 이 회사의 CEO는 “트럼프 후보 투표에 영향을 받을 수 있는 투표권자를 확인하기 위해 데이터를 사용할 수 있다”고 공공연하게 자랑했습니다.

이러한 영향력을 행사하기 위해 케임브리지 애널리티카는 미국 국민들 각각에 대해 5,000개의 데이터 규명 요소를 부여하고 사람들의 데이터를 사용해 그들의 행동을 바꾸기 위해 심리적으로 유도했습니다.

여기에는 “가짜 뉴스” 도 포함되어 있습니다. 영국의 지상파 방송국 Channel 4의 케임브리지 애널리티카 경영진에 대한 잠입 취재에서 CEO가 “그들이 믿는 한 진실일 필요는 없다”라고 언급한 것을 보면 오보 확산에 대한 의도를 확인할 수 있습니다.

미국 성인의 62%가 소셜 미디어에서 뉴스를 접하고 있으며 가짜 뉴스를 본 많은 사람이 이를 믿는다고 할 만큼 미국 사회는 이에 대해 준비가 되어있지 않았습니다. 케임브리지 애널리티카의 전략이 통했고 페이스북에서 트럼프에게 유리한 가짜 뉴스가 총 3천만 회 공유되었습니다. 사실 대부분의 가짜 뉴스는 일반 매체의 뉴스보다 페이스북에서 더 많이 공유되었습니다.

이러한 심리전을 위해 트럼프 후보 캠프 측은 케임브리지 애널리티카에 수백만 달러를 지급했습니다.

적절한 회의주의

미국의 역사는 사람들이 공공의 장에서 서로 의견을 나누며 발전해 왔습니다. 지나다니다가 관심이 있는 내용이 있다면 찾아가서 들으며 이야기를 경험해 공유할 수 있었습니다.

미국 내의 심리 통계학 자료 수집, 빅 데이터 분석과 틈새시장 홍보, 공개 담론이 결합한 새로운 시대가 도래했습니다. 공식적인 정보 교류와 민주적인 대화를 위해 사용되던 것이 이제는 맞춤형 캠페인으로 바뀌었습니다. 인종 등의 악의적인 분류로 미국인들을 분열시켜 사용자들이 가지고 있는 공포를 조장하고 다른 사람들에게 이 공포를 공유하도록 유도하기도 했습니다.

케임브리지 애널리티카 경영진은 “사람의 마음을 이끄는 두 가지 요인은 희망과 공포인데 많은 사람은 이를 말하지 않고 심지어 인식하지도 못하고 있다. 당신의 반응을 일으키는 무언가를 맞닥뜨리기 전까지 공포인지 모른다. 우리의 할 일은 마음 깊숙한 곳에 자리하고 있는 공포, 우려를 파악하는 것이다. 중요한 것은 감정이기 때문에 사실관계로 선거 캠페인에서 싸울 필요는 없다”라고 말했습니다.

페이스북에서 공유한 정보가 여러분 자신의 희망과 공포를 보여줍니다. 순진한 듯 보였던 페이스북 퀴즈는 그렇게 순진하지 않습니다.

문제는 이렇게 이용되는 심리 데이터의 거대한 규모가 아닙니다. 페이스북과 같은 플랫폼이 사람들의 데이터를 유권자의 권리를 제한하고 데이터 분석가들에게 이득을 주는 방식으로 운용할 수 있다는 것입니다.

저의 관점에서는 이것이 민주주의를 죽인다고 생각합니다. 페이스북 자신도 지난 1월에 소셜 미디어가 “사람들로 하여금 오보를 공유하고 민주주의를 해치도록 할 수 있다”며 이에 대해 언급한 바 있습니다.

필자의 조언: 적절한 회의주의를 가지고 페이스북을 사용하세요.

이 글은 The Conversation에 실린 칼럼을 번역한 것입니다. The Conversation은 학술 및 연구 공동체의 새로운 소식과 시선을 대중에게 전달하는 독립 매체입니다.