넷플릭스 다큐 '소셜 딜레마'를 보고

애플의 초창기 디자이너 중 한 명인 제프 래스킨Jef Raskin은 아이작 아시모프의 로봇 1원칙이 컴퓨터에도 적용되어야 한다고 주장했습니다.

"컴퓨터는 인간의 작업물에 위해를 가하거나 필요한 동작을 하지 않음으로써 작업물이 위해를 당하도록 두어서는 안 된다"--The Humane Interface, 1장 중

원래는 로봇과 인간 사이의 관계를 다루는 원칙이었지만 제프 래스킨은 컴퓨터와 작업물 사이의 관계를 다루는 원칙으로 수정을 했습니다. 당시의 컴퓨터는 상상 속 로봇과 달리 어떤 '의도'를 가지고 능동적으로 움직이는 주체가 아니었으니까요. 하지만 이제는 컴퓨터가 인간의 일상과 분리 불가능할 정도로 깊게 스며들었고, 상당수의 서비스/소프트웨어가 인간의 사고와 행동에 영향을 주기 위한 목적으로 적극적으로 기획되고 있습니다. 현대 사회에서는 원래의 원칙대로 '컴퓨터에 의한 인간에 대한 위해'를 진지하게 고민해야 할지 모릅니다.

넷플릭스에서 2020년 9월에 출시한 다큐멘터리 <소셜 딜레마The Social Dilemma>는 페이스북, 인스타그램, 트위터 등 소셜 미디어가 인간과 사회에 미치는 설계된 악영향을 고발합니다. UX 디자이너, 데이터 분석가, 퍼포먼스 마케터, 소프트웨어 개발자들에게 많은 생각거리를 던져주는 다큐라고 생각해서, 내용을 짧게 요약하고 관련된 생각들을 정리해봤습니다.

흥미롭게도, 다큐멘터리에는 제프 래스킨의 아들인 아자 래스킨이 출연합니다.

소셜 딜레마 포스터

짧은 요약

영화는 주로 구글, 페이스북, 인스타그램, 트위터, 유튜브 등 주요 소셜 미디어 기업에서 일했던 사람들의 인터뷰로 구성된 다큐멘터리와, 배우들이 연기하는 작은 가족 드라마가 교차하는 형식으로 진행됩니다. 드라마는 다큐가 주장하는 바를 설득력 있게 전달하기 위한 장치인 걸로 보입니다.

다큐의 문제 제기를 요약하면 이렇습니다.

소셜 미디어 기업들은 수익을 내기 위해 이용자들의 주의력attention을 쥐어짜서 끊임없이 자사 서비스를 이용하며 광고에 노출되도록 유도하고 이 과정에서 이용자의 개인정보를 비롯한 이용 패턴을 수집하여 활용한다. 이를 반복하고 고도화하는 과정에서 다양한 개인적/사회적 문제를 일으키면서도 책임은 지지 않고 있다.

인상 깊었던 내용을 일부 요약 발췌했습니다.

• 주로 미국 캘리포니아에 사는 20~30대 백인 남성 십여 명으로 구성된 작은 팀이 전 세계 인구에게 영향을 주는 결정을 하면서도 거의 아무런 제재도 받지 않는 그러한 시스템은 역사상 존재한 적이 없었습니다. (2013년 즈음의 구글 지메일 디자인팀에 대해 묘사하며)
• 레이 커즈와일Ray Kurzweil이 말하는 특이점singularity은 컴퓨터가 인간의 강점을 뛰어넘는 시점을 말합니다. 그 시기는 아직 오지 않았으나, 컴퓨터가 인간의 약점을 뛰어넘는 시점은 이미 도래했습니다. 소셜 미디어는 인간 심리의 약점을 집요하게 공략하여 이용자들의 주의력을 착취하고 이로부터 광고 수익을 뽑아내고 있습니다.
• 제품을 이용하며 돈을 내지 않는다면, 그건 바로 당신이 제품이기 때문입니다. 소셜 미디어는 이용자의 데이터를 광고주에게 팔고 있습니다. 이용자가 바로 제품입니다.

다큐의 주장을 최대한 수용하여 조금 더 부연을 해보면 이렇습니다.

대부분의 SNS는 무료입니다. 이런 서비스들은 주로 광고 중개로 돈을 버는데, 광고 수익률을 높이기 위해 크게 세 가지를 합니다.

1. 이용자들의 성향과 행동 패턴을 파악하기: 이용자들이 서비스를 이용하며 어떤 종류의 글을 많이 읽는지, 어떤 글에 좋아요 또는 화나요를 누르는지, 어떤 사람과 자주 교류하는지, 어떤 시간대에 어떤 지역에서 주로 접속하는지 등을 분석하여 행동 패턴을 파악합니다. 행동 패턴을 더 잘 파악하기 위해 때론 명시적으로 때론 암묵적으로 다양한 실험을 진행하기도 합니다.
2. 맞춤 광고를 제공하여 수익을 만들기: 이렇게 파악한 데이터를 기반으로 광고주들이 특정 성향을 가진 이용자들에게 맞춤형 광고를 할 수 있도록 다양한 데이터 분석 도구와 자동화 도구를 개발하여 제공합니다. 광고주들은 이 서비스를 이용하여 이용자들에게 맞춤형 광고를 보여주며 그 대가로 소셜 미디어 회사에 광고료를 지불합니다. 소셜 미디어의 수익은 대체로 광고주들이 지불하는 광고료에서 나옵니다.
3. 이용자들이 서비스를 더 자주, 더 오래 이용하도록 유도하기: 이용자들에 대한 데이터는 광고에 활용될 뿐 아니라 이용자들이 해당 소셜 미디어를 최대한 자주, 오래 이용하도록 유도하기 위한 장치로도 활용됩니다. 언제 어떤 푸시 알림을 보낼지, 이들이 접속을 하면 어떤 소식을 어떤 순서로 보여줄지 등 다양한 '개인화'를 통해 이를 달성합니다. 이용자들이 서비스를 자주, 오래 이용하면 광고에 노출될 기회도 많아지고 이용자들의 성향을 파악할 기회도 많아집니다.

이렇게만 서술하면 별 문제가 없게 느껴질 수도 있습니다. 하지만 위 세 가지 항목 각각이 가지는 부정적 함의들을 살펴보면 생각이 달라질 수 있습니다.

1. 이용자들의 성향과 행동 패턴을 파악하기: 예를 들어 페이스북과 구글은 이용자들이 자사 서비스를 이용하지 않는 동안에도 어떤 사이트에서 어떤 행동을 하는지 추적하기 위해 '식별 코드'를 심습니다. 프라이버시 침해 문제가 꾸준히 제기됨에 따라 최근 몇 년 사이에 관련 규제들이 강화되고(예: 유럽연합의 GDPR, 미국 캘리포니아주의 CCPA), 일부 브라우저의 보안 기능이 강화되는(예: 브레이브, 사파리) 등 다양한 대응이 시작되었으나 아직 역부족입니다. 예를 들어 구글은 쿠키로 이용자를 추적할 수 없게 될 것에 대비하여 다양한 추적 방법에 의해 수집된 데이터 조각을 이어 붙이는 방식의 새로운 추적 시스템을 이미 수년 동안 개발하고 있습니다(예: 구글 애널리틱스 V4).
2. 맞춤 광고를 제공하여 수익을 만들기: 여기에서 말하는 광고란 상품 광고 뿐 아니라 특정 국가에서 다른 국가에 정치적 혼란을 야기하기 위한 목적으로 만들어낸 가짜 뉴스, 각종 음모론(기후 위기는 거짓이다, 코로나 바이러스는 사기다 등)을 포함합니다. 가짜 뉴스나 음모론은 진실에 비해 더 빠르게 전파되는 특성이 있다는 점에서 더 큰 문제입니다. 한 기업에서 페이스북이 제공하는 API를 통해 이용자의 데이터를 '동의 없이' 수집하여 이를 미국 대선에 영향을 미치기 위한 목적으로 사용한 사례도 있습니다. 최근 몇 년 사이에 이러한 문제에 대한 대응, 개인 정보 보호 정책 강화 등의 노력이 시도되고 있으나, 근본적인 해결책이라기보다는 임시방편에 불과한 경우가 많아 보입니다. 일례로, 그동안 페이스북에 제기된 비판들을 정리한 위키백과의 문서의 상단에는 "문서가 너무 방대하므로 조치가 필요하다"는 편집 안내가 붙어있을 정도입니다.
3. 이용자들이 서비스를 더 자주, 더 오래 이용하도록 유도하기: 이용자들의 '주의력'을 더 많이 붙잡아두기 위해 활용하는 수집하는 데이터나 수행하는 실험들에는, 만약 대학에서라면 윤리적인 이유로 인해 허용될 수 없었을 것들도 포함됩니다. 사람들을 중독시키기 위해 의도적으로 디자인된 장치들은 도박 산업이 오랜 기간 연구하고 적용해온 장치들과 유사하거나 어떤 점에서는 더 강력하지만 이에 대한 규제나 사회적 경각심은 도박 산업에 비해 미미한 수준입니다. 게다가 광고를 주요 비즈니스 모델로 하는 거의 모든 서비스들은 이용자들의 주의력을 차지하기 위해 경쟁하기 때문에, 이 구도 자체가 변하지 않는 한 서비스들은 점점 더 집요하고 강력한 장치를 디자인하기 위한 무기 경쟁에서 빠져나올 수 없으며 그 피해는 이용자 개개인과 사회 전반으로 돌아가게 됩니다.

다큐에서는 우리가 보고 있는 휴대폰의 작은 화면 반대편에는 우리의 주의력을 더 잘 뽑아내기 위해 설계된 각종 알고리즘, 알고리즘을 실행하는 대규모 컴퓨터 서버들, 수많은 분야별 전문가들(UX 디자이너, 데이터 분석가, 퍼포먼스 마케터, 소프트웨어 개발자)이 있다는 점, 따라서 이용자에게 절대적으로 불리한 비대칭적 환경이라는 점을 강조합니다.

예를 들어, 다음 이미지는 구글에서 저를 분류하기 위해 붙인 수백 개의 태그 중 일부(A로 시작하는 태그들)입니다. 여러분들도 구글이 제공하는 광고 설정 사이트에 접속해보시면 본인을 구글이 어떻게 인식하고 있는지 확인해볼 수 있습니다. 참고로 여러분이 구글의 광고 타게팅에 동의했다면, 이 정보들이 구글 애널리틱스나 구글 애드워즈 등을 통해 광고주 및 퍼블리셔에게 익명화된 형태로 제공됩니다.

구글에서 이용자에게 붙여놓는 태그의 일부

대부분의 사람들은 자신도 모르게 정보 제공에 동의를 했을 텐데요, 이런 식으로 동의를 받아내는 것 또한 교묘한 디자인의 결과입니다. 관련된 내용이 궁금하시면 <넛지와 다크 패턴 사이>를 읽어보시기 바랍니다.

전통적인 인간-컴퓨터 인터랙션에서 다루던 인터페이스의 역할은 인간이 어떤 행동을 하고자 할 때 그걸 더 잘할 수 있도록 도와주는 것이었습니다. 하지만 소셜 미디어는 인간이 어떠한 행동을 하게끔 적극적으로 유도하고 개입한다는 점에서 전통적인 도구와는 사뭇 다릅니다.

관련된 이야기 1. 스탠포드대학의 설득기술연구소

주요 화자인 트리스탄 해리스Tristan Harris는 스탠퍼드 대학 출신입니다. 스탠퍼드에는 B. J. 포그Fogg 교수가 운영하는 설득기술연구소Persuasive Technology Lab가 있었습니다(현재는 행동 수정 연구소로 이름이 바뀌었습니다). 해리스는 해당 연구소 출신은 아니지만 당시에 포그 교수의 강의를 들었다고 합니다.

포그 교수는 기존의 설득 심리학 연구를 IT 기술에 접목하여, 기술을 이용해서 인간들이 특정 행동을 하도록 유도하는 기술인 소위 캡톨로지(Captology; Computers As Persuasive Technology)를 고안한 인물입니다. 2003년 <설득 기술: 컴퓨터를 이용하여 인간의 생각과 행동을 변화시키기Persuasive Technology: Using Computers to Change What We Think and Do> 출간합니다. 이 연구는 이후 컴퓨터를 매개로 한 대규모 인간-대-인간 설득 기술(MIP; Mass Interpersonal Persuasion), 모바일 기기를 이용한 설득 기술(Mobile Persuasion) 등으로 다양하게 확장됩니다. 이러한 연구들은 페이스북의 초창기 '소셜 게임' 설계에 다양하게 응용되었습니다. 2007년 한 수업에서는 이 이론을 활용하여 학생들이 페이스북 소셜 앱을 개발하였는데, 고작 10주 만에 100만 명이 설치하는 기록을 세우며 업계의 주목을 받기도 했습니다.

포그 교수는 당시 이러한 연구가 선한 방향으로 쓰일 것으로 전망했습니다. MIP를 소개하는 2008년 논문의 내용 일부를 발췌하여 요약해보면 이렇습니다.

• 2007년 경 대규모 인간-대-인간 설득 기술(MIP)이라는 새로운 형태의 설득 기술이 나타났습니다. 온라인 소셜 네트워크의 발전으로 인해 이제는 개개인이 대규모 대중의 태도와 행동을 변화시킬 수 있게 되었습니다. ... 이제 일반인들이나 소규모 그룹도 대규모 대중에 더 쉽게 도달하고 이들을 설득할 수 있게 되었습니다. 이 새로운 현상은 설득의 미래를 바꿀 것입니다.
• 구체적으로 어떤 기술을 사용하는지는 중요치 않습니다. 지금(2008년)은 페이스북이 MIP를 실행하기에 가장 적합한 기술 플랫폼이지만 미래에는 모바일 기기나 거실에 놓인 디바이스가 이런 역할을 수행하게 될 수도 있습니다.
• 지난 한 세기는 매스미디어가 대중 설득의 주요 채널이었습니다. 매스미디어를 소유한 집단이 스스로의 목적을 위해 이를 이용해왔습니다. 하지만 이제는 지형이 바뀌었습니다. MIP 덕분에 대중 설득에 필요한 권력이 점차 탈-집중화될 것입니다.

저도 당시에는 그의 견해에 동의했었지만 지금 돌이켜보면 이 희망적인 전망은 한 가지 잘못된 가정을 전제하고 있다고 생각합니다. 소셜 미디어 플랫폼 자체는 중립적인 공간이며 플랫폼 제공자는 MIP를 활용하지 않으리라는 가정이지요. 21세기에는 소셜 미디어 플랫폼이 20세기 매스미디어의 권력을 빼앗아 오고 있을 뿐, 탈-집중화되었다고 보기는 어려울 것 같습니다.

관련된 이야기 2. 인간적인 인터페이스

다큐멘터리의 화자 중 개인적으로 관심을 두고 있던 인물이 한 사람 더 있는데요, 서두에서 잠깐 언급했던 아자 래스킨Aza Raskin입니다. 그는 페이스북, 트위터 등 거의 모든 '소셜 피드social feed' 인터페이스에 적용되어 있는 '무한 스크롤infinite scroll' 인터페이스를 처음 고안한 디자이너이며, 2000년대에는 파이어폭스와 모질라 재단에서 UX 디자이너로 일했습니다.

A. 래스킨은 <인간중심 인터페이스The Humane Interface>의 저자이자 인지공학cognetics이라는 용어를 고안한 제프 래스킨Jef Raskin의 아들이기도 합니다(국내 번역서에서 "humane"을 "인간중심"으로 번역한 점이 좀 아쉽습니다). J. 래스킨은 61세의 비교적 젊은 나이에 췌장암으로 별세했는데, 어린 시절부터 아버지와 함께 연구를 해왔던 A. 래스킨은 아버지가 제시한 비전인 '인간적인 환경(THE; The Humane Environment)'의 사상을 담아내는 다양한 디자인을 시도합니다.

그도 역시 기술을 선한 방향으로 활용하는 일에 관심이 많았습니다. 2010년에는 좋은 정보 디자인을 통해 사람들이 건강한 삶을 살 수 있도록 도와주는 스타트업 매시브헬스Massive Health를 창업하였습니다. 이 회사는 이후에 조본Jawbone에 인수됩니다. 2019년에는 자신이 고안했던 무한 스크롤 인터페이스가 사람들을 소셜 미디어에 중독시키는 주요 장치 중 하나로 사용되는 것을 보며 "무한 스크롤 인터페이스를 고안한 일을 후회한다"라고 고백하기도 했습니다.

A. 래스킨은 현재 T. 해리스와 함께 기술이 인류에게 이로운 방향으로 활용되도록 장려하는 것을 목적으로 하는 재단인 <인간적인 기술 센터Center for Humane Technology>를 공동 설립하여 활동하고 있습니다.

관련된 이야기 3. 중독 디자인

다큐에서는 '끌어당겨서 새로고침Pull to Refresh' 인터페이스가 특히 카지노의 슬롯머신과 유사하다는 비유를 합니다. 슬롯머신의 손잡이를 당기면 가끔 보상이 주어집니다. 이와 마찬가지로 소셜 미디어에서는 스크롤을 끌어당기면 가끔 새로운 글이 나타납니다. 다큐에서 명시적으로 언급하고 있지는 않지만 이러한 유사성은 우연이 아닙니다. 도박 산업과 소셜 미디어 둘 다, 인간으로 하여금 그들이 원하는 행동을 하도록 유도하기 위해 오랜 노력을 기울여 왔기 때문에 수많은 공통점이 발견될 수밖에 없습니다.

예를 들어 라스베이거스의 카지노 산업을 분석한 책인 <설계된 중독Addiction by Design>에서는 카지노 업계에서 사람들이 도박을 더 자주 더 오래 하도록 유도하려고 도입한 다양한 디자인들을 소개하고 있는데요, 개인적으로 인상 깊었던 내용 중 하나는, 디자인이 카지노 건물 내부 뿐 아니라 주변의 도로와 길목에서부터 시작된다는 점이었습니다. 운전자가 최대한 쉽게 도로에서 카지노 건물로 진입할 수 있도록 디자인하는 방법, 보행자가 카지노 주변을 지나다가 자연스럽게 유입되도록 디자인하는 방법 등을 이야기하고 있습니다. 이와 유사하게 소셜 미디어도 우리가 소셜 미디어를 쓰지 않는 상황에서도 소셜 미디어로 유입을 시키기 위해 다양한 장치들을 디자인하고 있습니다. 예를 들면, 이메일로 "아무개가 당신을 언급하였습니다"라고는 나오지만 뭐라고 언급했는지는 나오지 않습니다. 이메일의 링크를 클릭해서 소셜 미디어로 접속을 해야만 내용을 볼 수 있도록 의도적으로 디자인을 한 것입니다. 이는 리텐션retention이라는 지표로 수치화되어 관리됩니다. 리텐션은 카지노 업계에서도 중요하게 관리하는 지표 중 하나입니다.

카지노와 소셜 미디어의 중독 디자인이 가지는 공통점에 대해 궁금하신 분들은 T. 해리스와 A. 래스킨이 운영하는 팟캐스트의 첫 번째 에피소드 <베이거스에서 일어난 일What Happened in Vegas>을 들어보시길 권합니다. 앞서 소개한 책 <설계된 중독>의 저자인 나타샤 다우 스컬Natasha Dow Schüll이 게스트로 출연합니다.

혹자는 '중독addiction'이라는 지나치게 용어가 남발되고 있으며, 약물의존증 등에 한하여 제한적으로만 써야 한다고 주장하기도 합니다. 하지만 미국 APA의 정신질환진단매뉴얼의 최신 버전인 DSM-V(2013년)에 행동적 중독behavioral addiction 범주가 추가되었고, 세계보건기구의 국제질병분류코드 최신 개정판인 ICD-11(2022년 도입 예정)에도 게임이용장애gaming disorder가 추가되는 등 행동 중독이라는 개념이 점차 널리 수용되고 있습니다. 게임 업계 등 일각에서는 이러한 움직임을 비판하는 견해도 있으나, 인간의 행동에 지속적이고 심대한 영향을 주기 위해 업계에서 시도하는 전문적이고 집요한 노력에 비하면 이용자 개개인이 이에 대항하여 할 수 있는 일이란 너무나 미약하다는 점에서 저는 이러한 움직임에 긍정적인 면이 더 크다고 생각합니다.

관련된 이야기 4. 성적대상화의 확대 재생산

다큐 내의 가족 드라마에는 한 10대 여성이 출연합니다. 셀카를 올렸다가 '좋아요'나 댓글 반응이 별로 안 좋으니 지우고 필터를 걸어서 다시 올립니다. 외모 품평("귀를 더 크게 확대해보면 어때? 🐘") 댓글이 달리자 귀가 크다고 놀리는 건가 싶은 마음에 머리카락으로 귀를 가려봅니다. 우울한 표정으로 거울을 보다가 결국 눈물을 흘립니다.

미국 CDC 통계 기준, 소셜 미디어가 모바일 기기에서 본격적으로 이용되기 시작한 2009년을 기점으로 10-14세 여성, 15-19세 여성의 자살률이 각각 151%, 70% 증가했다고 합니다. 다큐에 따르면 사춘기 또는 그 이전에 소셜 미디어를 접하기 시작한 첫 세대(미국 기준)라고 해요. (다만 이는 상관관계일 뿐 인과관계의 근거는 아니므로 지나치게 확정적으로 받아들여서는 안 됩니다)

대상화 이론objectification theory에 따르면, 타인들에 의해 지속적으로 성적 대상화sexual objectification되는 문화에서 살아가는 여성들은, 시간이 흐름에 따라 점진적으로 그러한 시선들을 내제화internalize하며, 그 결과 자기 스스로를 대상화하여 바라보는 자기 대상화self-objectification를 하게 된다고 합니다. 저자들의 분석에 의하면 여성들은 스스로를 다른 이들에 의해 평가받는 대상으로 간주하려는 경향을 보이게 되며 스스로의 신체를 습관적으로 감시합니다. 스스로에 대한 습관적 감시는 지적 활동 및 일상생활에 심대한 영향을 미칠 수 있습니다. 관련하여 <거울 앞에서 너무 많은 시간을 보냈다>라는 책을 추천합니다.

소셜 미디어를 비롯하여 인터넷에 만들어지는 가상의 공간들은 기존 문화와 분리된 새로운 세상이 아닙니다. 오히려 기존 문화를 확대 재생산하여 더욱 극단화하는 공간에 가깝습니다. 적어도 그 가상 공간을 운영하는 주체가 적극적으로 개입하지 않는다면요. 기울어진 운동장에서 중립을 유지해서는 운동장을 바로잡을 수 없습니다.

<소셜 딜레마>에 대한 페이스북의 의견

다큐가 출시된 직후 페이스북은 <'소셜 딜레마'의 잘못된 지점들What 'The Social Dilemma' Gets Wrong>이라는 문서를 공개했습니다.

이 문서에서는 복잡한 사회 문제를 소셜 미디어 플랫폼의 책임으로 돌리고 있으며, 과거에 퇴사한 사람들의 견해만 담고 있어서 페이스북이 최근에 하고 있는 노력들을 반영하지 못한다고 주장합니다. 문서에서 다루고 있는 일곱 가지 주제를 비판적으로 요약해봤습니다.

"첫째, 페이스북은 중독이 아닌 가치 창출을 위해 제품을 만듭니다." 문서에서는 페이스북이 중독을 유도하기 위한 의도가 없으며 이용자들의 정신 건강 증진을 위해 다양한 노력을 하고 있다는 점을 강조하고 있습니다. 환영할 일입니다. 다만 의도가 어떠한가와 결과가 어떠한가를 분리할 필요도 있다고 생각합니다. 모든 디자인에는 설계된 의도에 따른 결과도 존재하지만, 그 설계로 인해 생겨날 수밖에 없는 의도와 무관한 부산물도 동시에 존재하기 때문입니다. 예를 들어 전구는 빛을 내기 위해 설계되었으나 의도와 무관하게 열도 발생합니다. 열을 줄이려면 열을 줄이기 위한 목적으로 의도적이고 추가적인 노력을 해야 합니다. 의도가 없다고만 말할 게 아니라, 문제가 존재한다는 것을 인정하고 이를 해결하기 위해 노력을 하고 있다고 서술했으면 더 좋았을 텐데 아쉽습니다.

"둘째, 이용자는 제품이 아닙니다. 페이스북은 광고를 통해 수익을 창출하여 이용자들이 서비스를 무료로 이용할 수 있도록 합니다." 문서에서는 페이스북이 이용자를 파는 게 아니라 광고를 팔고 있으며 이 과정에서 개인 정보를 제공하지 않는다고 말합니다. 하지만 다큐에서 나온 '이용자가 제품이다'라는 표현이 은유법적 수사일 뿐이라는 점을 고려하면, '이용자가 아니라 광고를 판다'는 대응은 허수아비 비판의 오류로 보입니다. 그리고 '이용자가 동의하지 않는 한, 광고주에게 이용자 개개인을 식별할 수 있는 형태의 정보를 제공하지 않는다'는 표현이 나오는데 두 가지 부연이 필요하다고 생각합니다. 첫째, 이 말은 달리 말하면 이용자가 동의만 하면 광고주에게 개인을 식별할 수 있는 형태의 정보를 제공한다는 뜻입니다. 이용자가 동의를 하지 않으면 될 문제라고 생각할 수 있지만, 디자인을 통해 이용자의 동의를 쉽게 유도할 수 있는 수많은 방법들이 있다는 점도 함께 생각해볼 필요가 있습니다. 둘째, 개인을 식별할 수 있는 형태의 정보(PII; personally identifiable information)인지 여부는 이분법적으로 나뉠 수 없습니다. '개인을 식별할 수 없는 정보'들을 조합하여 개인을 식별해내는 기술들이 계속 발전하고 있기 때문입니다.

"셋째, 페이스북의 알고리즘은 '미치지' 않았습니다." 문서에 의하면 다른 모든 서비스들도 유사한 알고리즘을 써서 이용자들에게 유용한 기능을 제공하고 있으며, 페이스북도 다르지 않다고 말합니다. 예를 들면 많은 사람들이 <소셜 딜레마>라는 다큐를 본 이유도 아마 넷플릭스의 알고리즘이 그 다큐를 추천해주었기 때문일 것입니다. 타당한 주장이라고 생각합니다. 다만 저는 이 모든 알고리즘들에 의도치 않은 문제가 없는지 각 기업들이 더 진지하게 고민할 필요가 있다고 생각합니다. 예를 들어 상당수의 뉴스 개인화 알고리즘은 독자가 클릭할만한 뉴스를 추천해줍니다. 설계 의도는 클릭률 증대, 체류시간 증대, 광고수익 증대에 있겠으나, 이 의도의 부산물로 이용자의 확증 편향이 강화되기 쉽습니다. 앞서 말한 바와 마찬가지로, 의도가 무엇인지 뿐만 아니라 어떤 결과들이 나타나는지, 특히 설계에 따른 부산물이 무엇인지를 중요하게 살펴볼 필요가 있다고 생각합니다. ('미쳤다'는 표현을 비하적 의미로 사용하는 점은 유감스럽습니다.)

"넷째, 페이스북은 이용자의 개인 정보 보호를 위해 노력하고 있습니다." 문서에서는 연방거래위원회 조사 결과에 따라 페이스북이 이용자의 개인 정보 보호를 위한 다양한 장치를 마련했음을 강조하고 있습니다. 문서에서는 구체적으로 언급하고 있지 않지만, 여기에서 말하는 '조사'란 페이스북-케임브리지 애널리티카 개인정보 대량 유출 사태에 대한 연방거래위원회 조사를 말합니다. 이에 따라 페이스북은 약 50억 달러(한화 약 5조5천억원)의 벌금을 지불했습니다. 케임브리지 애널리티카는 현재는 허용되지 않지만 당시에는 허용되던 방식으로 페이스북을 통해 이용자의 개인정보를 대량으로 수집하였고 이를 2016년 미국 대선 당시 트럼프 당선을 돕기 위해 활용하는 등 다양한 정치적 목적으로 이용했습니다. 이 주제에 관심이 있다면 또 다른 넷플릭스 다큐 <거대한 해킹The Great Hack>을 보시길 권합니다.

"다섯째, 페이스북은 양극화 문제를 해소하기 위해 노력하고 있습니다." 문서는 페이스북이 존재하기 전에도 이미 양극화 문제는 존재하고 있었으며, 페이스북은 이 문제를 해소하기 위해 다양한 노력을 하고 있다고 말합니다. 다양한 노력을 하는 점은 물론 칭찬할 일입니다. 다만 '이미 존재하고 있었다'는 주장은 적절치 않다고 생각합니다. 소셜 미디어에 대해 사람들이 우려하는 바는 '없던 문제를 만들었다'는 점이 아니라, '이미 있던 문제를 더 극대화시켰다'는 점이기 때문입니다.

"여섯째, 페이스북은 공정한 선거를 위해 노력하고 있습니다." 2016년에 실수를 했음을 인정하며 그 이후 다양한 개선이 있었다고 설명하고 있습니다. '실수'란 앞서 언급한 페이스북-케임브리지 애널리티카 사태를 말합니다. 문제를 시인하는 표현이 처음으로 나왔습니다. 다른 항목들에서도 유사한 방식으로 서술했으면 더 좋았을 텐데 아쉽습니다.

"일곱째, 페이스북은 가짜 정보 및 가짜 뉴스에 대응하기 위해 전지구적 팩트체크 네트워크를 구축하였습니다." 페이스북은 가짜 정보나 증오 표현을 방치하지 않고 있으며 알고리즘 개발, 팩트체크 네트워크 구축 등 다양한 노력을 기울이고 있다고 주장합니다. 시스템이 완전할 수는 없기 때문에 놓치는 점들이 있음도 인정하고 있습니다. 이런 노력들은 정말 중요하다고 생각하며 깊게 환영합니다. 다만 스탠퍼드 인터넷 관측소Stanford Internet Observatory의 르네 디레스트라Renée DiResta가 지적한 바와 같이 이러한 노력들이 영어 및 몇몇 서구권 언어에 지나치게 집중된 점이 아쉽습니다. 데이터와 알고리즘에 의해 야기되는 불평등의 확대 재생산 문제는 소셜 미디어뿐 아니라 IT 전반에 걸친 문제일 텐데요, 다른 글에서 다루어보면 좋을 주제라고 생각합니다.

문제를 축소하거나 인정하지 않거나 원인을 다른 곳으로 전가하는 식의 표현들이 마음에 걸리지만, 그럼에도 불구하고 제기된 문제를 개선하기 위해 다양한 노력이 진행되고 있는 점은 정말 환영할 일입니다. 응원하는 마음으로 지켜볼 생각입니다.

경각심이 음모론으로 흐르지 않으려면

다큐에서는 소셜 미디어를 운영하는 회사들이 악한 의도를 가지고 있는 것처럼 종종 묘사되는데, 이런 점들은 좀 조심해서 수용할 필요가 있다고 생각합니다. 소셜 미디어에 대한 경각심이 음모론으로 흐르지 않으려면 이런 식으로 생각을 해보면 좋겠습니다.

• 나쁜 결과가 항상 나쁜 의도에서 비롯되는 것은 아닙니다. 소셜 미디어를 운영하는 회사들을 '악의 축' 정도로 치부해서는 아무런 긍정적인 논의도 이루어질 수 없다고 생각합니다.
• 밖에서 보기에 개선의 속도가 더디다고 해서 내부에서 노력하는 사람들이 없는 것은 아닙니다. 잘못된 방향에 대한 비판과 함께 좋은 변화에 대한 응원과 지지도 병행되면 좋겠습니다. 예를 들어 페이스북에서는 가짜 뉴스를 막기 위한 기술, 혐오 발언을 막기 위한 기술에 지속적으로 투자를 하고 있습니다. 구글은 프라이버시 침해를 최소화하면서도 맞춤 광고를 할 수 있는 기술을 실험 중이기도 합니다.
• 세상 거의 모든 일에는 다면성이 있습니다. 예를 들어 '개인화'는 어떤 면에서는 사생활 침해/스팸/주의력 착취이지만, 다른 면에서는 유용하고 편리한 기능이자 정보일 수 있습니다. 'X를 하지 말자'는 생각보다는 'X를 하려면 어떤 면을 지금보다 더 주의해야 한다'는 식의 생각이 더 긍정적입니다.

맺음말. 인간을 위한 기술

스탠포드 설득기술연구소의 목표는 '전 지구적 평화를 발명하기'였습니다. 포그 교수는 IT 기술을 활용하여 대중 설득 기술을 탈-집중화하면 사람들이 이를 선하게 이용할 것으로 예상했습니다. 그는 현재 사람들이 어떻게 하면 스스로에게 도움이 되는 작은 습관들을 만들고 이를 점차 키워나갈 수 있는지를 가르치고 있습니다. 관심이 있는 분들은 그의 저서인 <작은 습관들Tiny Habits>을 읽어보시길 권합니다.

뻔한 말일 수 있지만 결국은 기술 자체가 아닌 기술을 활용하는 방향이 문제입니다.

예를 들어 pxd 블로그도 독자가 어떤 글을 어떤 순서로 읽는지, 글의 어떤 부분에 가장 오래 머물렀는지 등을 수집하고 있습니다. 다만 이렇게 수집한 데이터를 어떻게 활용하는지에 차이가 있을 뿐입니다.

사람들이 pxd 스토리의 글을 읽는 패턴을 분석한 결과

다큐 말미에는 스티브 잡스Steve Jobs가 1980년에 했던 인터뷰의 한 장면이 인용됩니다. 이 인터뷰에서 잡스는 이런 말을 합니다.

12살 즈음 읽었던 잡지 글이 떠오릅니다. 아마 사이언티픽 아메리칸이었던 것 같아요. 그 글에서는 지구에 사는 다양한 종들의 보행 효율성을 측정했습니다. 한 지점에서 다른 지점까지 이동할 때 소모하는 칼로리를 기준으로요. 콘도르가 1위였고 인간은 한참 아래에 있었습니다. 그런데 누군가가 창의력을 발휘해서 '자전거를 타고 이동하는 인간'의 보행 효율성도 계산을 했더군요. 자전거를 탄 인간은 콘도르를 압도적으로 이겼습니다. 이 글이 정말 강한 인상을 남겼습니다. 우리 인간은 도구를 만듭니다. 인간은 도구를 만들어서, 타고난 능력을 엄청나게 증폭시킬 수 있습니다. 이런 맥락에서, 저에게 있어서 컴퓨터란 언제나 마음의 자전거였습니다. 타고난 지능을 크게 증폭시킬 수 있는 도구인 거죠. 그리고 우리는 이제 막 시작한 단계에 있습니다.

컴퓨터는 인간에게 심대한 영향을 줄 수 있는 도구입니다. 그 영향은 심대하게 긍정적일 수도, 심대하게 부정적일 수도 있습니다. 본인이 UX 디자이너라면, 또는 데이터 분석가라면, 또는 퍼포먼스 마케터라면, 어떤 방향의 영향을 줄 것인지에 적어도 일부는 관여할 수 있는 위치에 있는 것입니다.

'마음의 자전거' 비유는 체화된 인지주의embodied/embedded cognition라는 연구 전통과 자연스럽게 이어집니다. 체화된 인지주의에서는 '마음'이란 뇌 안에 갇혀 있는 게 아니라고 말합니다. 인간은 떠다니는 뇌가 아니라 특정한 몸을 가진 행위자이며embodied, 인간의 몸은 언제나 특정한 사회/환경 맥락에 놓여 있습니다embedded/situated.

이 관점에 따르면, 사용자를 관찰실에 데려와서 과업을 수행하도록 하는 연구 방법은 '마음의 일부'만 분리해서 연구하는 것과 유사합니다. 컨텍스츄얼 인쿼리contextual inquiry가 중요한 이유입니다. 또한 이 관점에 따르면 디자인을 하는 행위는 사용자의 마음 일부를 설계하는 행위입니다. 과장하자면, 디자이너가 하는 일은 어쩌면 신경외과 의사가 하는 일과도 유사합니다. 다만 훨씬 더 많은 대중에게 상시적인 영향을 미친다는 점에서 차이가 있을 뿐입니다.

디자인 윤리를 더 중요하게 고민할 필요가 있다고 생각합니다.

관련 자료

• 넷플릭스 <거대한 해킹The Great Hack>: 페이스북-케임브리지 애널리티카 스캔들을 소개하는 다큐입니다.
• 비메오 <위 약관에 동의합니다Terms and Conditions May Apply>: 소셜 미디어 등 각종 '무료' 서비스가 이용자 정보를 상품으로 취급하며 발생하는 개인 정보 침해 문제 등을 고발하는 내용입니다.
• 팟캐스트 <Your Undivided Attention>: 트리스탄 해리스와 아자 래스킨이 진행하는 팟캐스트입니다. 다양한 분야의 게스트를 초대하여 어텐션 착취 문제에 대해 이야기 나눕니다.
• 인간적인 기술 센터Center for Humane Technology: 트리스탄 해리스와 아자 래스킨 등이 공동으로 설립한 재단입니다. 어텐션 착취 문제에 개개인이 대처할 방법, 업계 관계자가 할 수 있는 일 등을 다양하게 소개합니다.