Humanizing Technology, <안드로이드는 전기양의 꿈을 꾸는가>를 읽고
1. 들어가며
SF 소설로 디자이너 역할 돌아보기
SF 소설의 고전 <안드로이드는 전기양의 꿈을 꾸는가>를 통해 기술이 사회로 진입하는 접점에서의 디자이너의 역할 및 윤리적 문제의식에 관련된 이야기를 하려 합니다. <안드로이드는 전기양의 꿈을 꾸는가>는 필립 K. 딕이 1968년 발표하고, 1982년 <블레이드 러너>로 영화화되었는데요. 재미있게도 2019년 11월을 상상 속 미래 시점으로 삼고 있습니다.
<안드로이드는 전기양의 꿈을 꾸는가> 줄거리
※ 아래 내용에는 책/영화 스포일러가 포함되어 있습니다. ※
소설 배경은 핵전쟁 이후 황폐해진 지구입니다. 지구에 남아있는 사람들은 사회, 경제적으로 소외된 사람들뿐, 중산층과 엘리트는 살기 좋은 화성으로 이주합니다. 지구 생태계는 오염으로 동물이 멸종하여 살아있는 동물 가격은 천정부지로 치솟습니다. 대다수의 사람은 전기 동물을 키우며 대리 만족을 합니다. 기업은 이제 외양, 지능 측면에서 인간과 구분하기 어려운 로봇을 생산할 수 있게 되었습니다. 특수한 테스트를 거쳐야만 로봇인지 인간인지 알 수 있는 것입니다. 주인공은 체제로부터 탈출한 로봇을 사살하는 현상금 사냥꾼입니다. 그 과정에서 로봇에 사랑을 느끼기도 하고, 자신이 로봇인지 인간인지 확신하지 못하기도 합니다. 결국 현상금을 손에 쥐고, 주인공은 꿈에 그리던 실제 양을 구매하게 됩니다. 외출 후 돌아온 주인공은 자신이 사랑에 빠졌던 로봇이 자기의 양을 죽였다는 사실을 알게 되고 자살을 고민하다 포기하는 걸로 이야기가 끝납니다.
2. 기술과 사회의 접점에서, UX의 역할
UX 디자이너로서 우리는 첨단 기술, 비즈니스, 사회의 접점에서 UX라는 렌즈를 가지고 미래를 상상하는 역할을 합니다. 우리가 만드는 제품 및 컨셉은 결국 미래의 사회에서 미래의 사용자가 사용할 것입니다. 프로젝트에 따라 시간 프레임이 더 가까운 미래냐, 먼 미래냐 하는 차이는 있지만요. 자식이 부모의 사고방식과 세계관을 어느 정도 따라가게 되듯, 우리가 설계하는 제품이나 서비스 역시 우리 사고방식이나 세계관 안에 존재합니다.
인간의 편향을 학습하는 인공지능
뉴욕대 논문에 따르면 인공지능이 사람과 마찬가지로 인종 차별, 성차별을 한다고 합니다. 인공지능 학습에 사용했던 기존 데이터가 불완전한 판단을 하는 인간으로부터 나왔기 때문입니다.
레스토랑, 교통 시설 등에서 무인화를 추진하면서 키오스크, 온라인 예약 시스템을 도입하고 있는데요. 노년층과 장애인을 고려하지 않은 디자인이 디지털 소외를 낳고 사회적 차별을 도리어 강화하고 있습니다. 경영적, 기술적 요구사항도 중요하지만 사용자인 '사람'을 옹호하는 게 저희라면, 저희는 사람의 범주를 어디까지로 한정해 사고하고 있는 것일까요.
윤리적 문제를 예측해 리스크 예방
AI를 인류의 보편적 가치와 윤리에 맞게 만드는 방안을 연구하는 ‘윤리관 정합성’ 분야가 있다. 초지능이 우리가 원하고 의도하는 바를 정확하게 이행하도록 하는 연구가 필요하다.
-Nick Bostrom, Founding Director of Future of Humanity Institute (Oxford)-
따라서 첨단 기술과 결합한 미래가 어떤 문제를 야기할지 고민할 수 있어야 하고, 내가 만드는 서비스/제품의 윤리적, 철학적 의의를 따져볼 힘을 길러야 합니다. 양산된 제품에서 윤리적 문제가 터지고서 수정하는 것은 기업 이미지에 데미지가 큽니다. 리스크를 미리 관리하는 것은 장기적으로 비용 절감에 도움을 줍니다.
<안드로이드는 전기양의 꿈을 꾸는가>에서는 첨단 기술의 미래에 대해 철학적 화두를 던집니다. '기술의 인간화'라는 고민의 줄기에서 인간성, 경제, 정치 시스템 3가지로 문제의식을 나눠 보았습니다.
3. Humanizing Technology
기계와는 다른, 인간다움은 무엇인가?
UN의 법률에 의거하여 모든 이민자는 각자가 원하는 특징을 지닌 하위 기종의 안드로이드를 받아 소유했다. 1990년에 이르자 이들의 종류는 상상을 초월할 만큼 많아졌는데, 이는 1960년대 미국의 자동차 상황과 비슷했다.
-p.34, <안드로이드는 전기양의 꿈을 꾸는가>
<안드로이드는 전기양의 꿈을 꾸는가>에서는 인간과 구분할 수 없는 로봇이 등장합니다. 외양, 행동, 대화, 표정... 모두가 인간과 똑같습니다. 기억을 이식하면 스스로도 로봇인지 아닌지 확인할 길이 없습니다. 심지어 요즘 자동차 숫자만큼이나 많은 로봇이 보급됩니다.
이런 상황에서 여러분은 어떻게 인간과 기계를 구분하시겠습니까? 로봇이 대중화되면서 일자리가 사라진다면, 인간이 할 수 있는, 살아남는 일자리는 무엇일까요? 이런 질문의 핵심에 '인간이란 무엇인가'라는 근본적인 질문이 숨어있습니다. 주변 사람들에게 이런 질문을 해봤을 때 직관, 영혼 등 각기 다른 대답이 나왔습니다. 각자 생각하는 인간다움이 다른 것이지요.
작가가 정의하는 인간다움을 크게 3가지의 테마로 나누어 보았습니다.
1) 감정이입 능력
"감정이입이야말로 우리가 못하는 어떤 일을 인간이 할 수 있다는 것을 보여주는 방법 아니야? 우리가 알 수 있는 것이라고는, 집단 경험에서 당신들이 느꼈다는 것에 대한 말 밖에는 없으니까."
-p.316, <안드로이드는 전기양의 꿈을 꾸는가>
소설에서는 특수한 테스트를 통해 인간과 안드로이드를 구분합니다. 테스트의 핵심은 감정이입 능력입니다. 생명체를 잔인하게 학대하는 사례를 들려주고, 동공의 반응 시간에 따라 인간과 기계를 구분합니다. 안드로이드의 감정 이입 반응은 학습된 두뇌 반응이기 때문에 즉시 반응이 일어나는 인간과 달리, 자극과 반응에 시간 차이가 발생한다는 논리입니다.
지능은 문제해결 능력이고 의식은 고통, 쾌락, 사랑, 증오를 느끼는 능력이다. 인류가 개발하는 것은 지능뿐이다. 지능 발전은 놀랍게 개발되었지만 의식은 전혀 개발되지 않았다.
-Yuval Noah Harari, Historian at the Hebrew University of Jerusalem, 2017년 방한 기자 간담회 인터뷰 중-
<사피엔스>, <호모 데우스>로 유명한 유발 하라리가 인터뷰 중에 한 이야기입니다. 유발 하라리가 이야기하는 '의식'이 소설에서 강조하는 '감정이입' 능력과 비슷하다고 생각하는데요. AI가 사람의 감정을 감지하는 능력은 날이 갈수록 발전하고 있습니다. 표정이나 목소리 톤과 같은 외부 신호를 분석해서 판단하지요. 그렇지만 AI는 불안감을 느끼거나, 즐거움을 느끼지는 않습니다. 그런 의식은 분석적 문제 해결력과 어찌 보면 대척점에 있을지 모릅니다. 이렇게 알고리즘은 아직 아무런 의식을 가지고 있지 않으며 의식을 개발하려는 필요성도 느끼지 못하고 있습니다.
2) 개별자로서의 존재
"우리는 기계죠. 병뚜껑처럼 찍어낸 존재예요. 내가 실제로, 개별자로 존재한다는 것은 환상에 불과했던 거죠."
-p.285, <안드로이드는 전기양의 꿈을 꾸는가>
로봇이 공산품으로 생산되는 반면, 인간은 개별자로서, 각 인간은 이 세상에 유일합니다. 쌍둥이라고 하더라도 각자 특징과 개성을 가지고 있습니다. 남과 완벽히 똑같은 사람은 존재하지 않습니다. 같은 것을 겪어도 자기 고통을 다른 사람보다 몇 배 크게 느끼기도 하고, 각자 자기만의 기준을 가지고 세상을 경험합니다.
3) 생명을 창조하는 능력
"안드로이드는 아이를 낳을 수 없죠. 그게 손해일까요? 아이를 갖는다는 것은 어떤 느낌일까요?"
-p. 292, <안드로이드는 전기양의 꿈을 꾸는가>
인간은 생명 창조를 꿈꾸고, 생명 공학 기술도 날로 발전하고 있습니다. 하지만 인간이 아닌 기계가 새로운 생명을 출산하는 날이 과연 올까요? 아직 출산은 기계와 인간(생명)을 구분하는 큰 차이로 보입니다.
기술과 결합한 자본주의는 어떤 방향으로 향하는가?
중요한 것은 몇몇 소수의 자본주의 엘리트가 AI를 전적으로 통제하지 않게 해야 한다는 점이다. AI, 생명공학 기술을 자유시장에 맡기면 시장을 위해 작동하지, 사람에게 무엇이 최선인가를 생각하고 작동하지 않는다.
-Yuval Noah Harari, 2017년 방한 기자 간담회 인터뷰 중-
소설에서는 안드로이드를 대량 생산하는 로즌 조합이라는 회사가 등장해 엄청난 부를 축적하는 모습을 보입니다. 또 핵전쟁으로 파괴된 지구에서 돈 있는 사람만이 살기 좋은 화성으로 이주합니다. 지구에 남아있는 사람들은 퇴보하는 사람들로 간주되며 정부로부터 이민을 강요받습니다.
유발 하라리 교수는 기술이 발전하면서 빈부격차가 더 커질 것이라 주장하는데요. 저임금 단순 기술직일수록 기술에 대체되기 쉽습니다. 지금부터도 마트의 계산대, 식당의 주문받는 과정은 자동화되고 있습니다. 이런 노동에 종사하는 사람일수록 사회경제적 취약 계층에 속할 가능성이 높겠지요. 반대로 기술을 소유한 사람, 기업, 플랫폼 소유자는 기하급수적 수익을 창출하게 됩니다.
4차 산업혁명은 선진국과 개도국 간 격차를 벌리게 될 것이라고 예상했다. 선진국은 4차 산업혁명이 가져올 변화에 적응할 준비가 돼 있는 반면, 라틴 아메리카와 인도 등 신흥국은 인공지능과 로봇 기술이 보편화할수록 상대적으로 낮은 노동비용을 바탕으로 한 경쟁력을 잃게 된다고 예상했다.
-2016년 UBS (스위스 최대 은행) 보고서-
개인과 개인 간 빈부격차뿐 아니라 국가 간 빈부격차도 커질 것이라고 이야기하는데요. 개도국 중에는 저임금 기반의 단순 노동 업종이 국가의 주 산업인 경우가 많습니다. 그런 국가일수록 세계 시장에서 밀려날 것이고, 기술을 소유한 기업이 소속된 국가, 이미 고부가가치 산업으로 전향한 선진국일수록 부를 축적하기 쉬운 구조가 됩니다.
기술을 활용한 공권력의 사회적 통제는 정당화되는가?
AI는 독재정권의 출현을 훨씬 쉽게 할 수도, 인간을 인간 자신보다 더 잘 알아서 우리를 조절하고 통제하는 알고리즘으로 이용될 수도 있다.
-Yuval Noah Harari, 2017년 방한 기자 간담회 중-
소설 속에서는 기술과 데이터를 통해 더욱 고도화된 사회적 통제가 진행됩니다. 국가는 특정 수준 이하의 건강을 가진 사람들을 '특수인'이라 분류하고 출산이 불가한 계층이라 딱지를 붙입니다. 이들은 사회, 경제 생활에 제약이 생깁니다. 인간과 로봇을 차별하여 멀쩡하게 살고 있는 안드로이드를 사살하는 데 현상금을 걸고, 인간과 인간을 차별하는 것을 당연하게 여기는 상황입니다.
입력 장치의 발달, 데이터 처리 속도의 발달에 힘입어 우리도 점차 우리의 일상을 지켜보는 카메라, 센서, 스마트 스피커에 익숙해지고 있습니다. 실제로 중국 경찰은 카메라와 AI 얼굴인식 기술을 범죄자 색출에 활용하고 있다고 합니다. 일면 안전한 사회를 향해 가는 것 같지만 개인의 사생활을 국가가 어디까지 침범할 수 있는지에 대한 합의가 이루어지지 않은 상황입니다. 비단 독재 국가뿐 아니라 자유민주주의 국가 역시도 AI 기술을 감시에 활용하고 있다고 합니다.
물론 사생활 침해에 대한 두려움으로 기술 발전을 멈춰서는 안 됩니다. 복잡한 정치적 이해관계 속에서 개인의 데이터가 어디까지 어떤 목적으로 사용되는지에 대한 논의 없이 진행된다면, 민주주의라는 개인의 자유를 지탱하는 뿌리가 흔들릴 위험이 있습니다.
4. 50년 전 상상한 미래 그리고 현재
<안드로이드는 전기양의 꿈을 꾸는가>에서 작가는 미래의 지구인이 사용하고 있을 제품을 디자인했는데요. 구체적인 사용 시나리오, 제품의 사용 목적, 장치와 사람이 상호작용하는 방법에 대한 묘사가 재미있었습니다. 작가가 상상한 장치를 읽어보면서 현재 같은 목적으로 구현되고 있는 제품들이 떠올랐습니다.
소설 속 2019년 기분 조절 오르간 (Penfield Mood Organ)
"우울을 겪는 것은 위험해. 어떤 종류의 우울이라도 말이야."
- p.18, <안드로이드는 전기양의 꿈을 꾸는가?>
소설에 나오는 기분 조절 오르간은 다이얼을 조합해 전기 자극으로 기분을 조절하는 장치입니다. 미래의 사람들은 우울, 절망감을 느끼는 것을 위험하다고 생각하고 오르간을 이용해 우울감을 느끼지 않으려 합니다.
사용 방법은 이미지처럼 중앙의 숫자 다이얼을 통해 원하는 기분을 선택합니다. ‘세상을 향한 호의적인 태도'로 설정할 수도 있고, ‘절망감'으로 설정할 수도 있습니다. 좌측 Favorites 리스트에서 자주 사용하는 감정을 저장할 수도 있습니다. 기분을 예약하는 기능도 있습니다. 예를 들어 미팅이 있다면 '사무적인 태도'로 설정해 둘 수 있습니다. 아내와 다툼이 발생하자, 아내의 기분 장치를 조정하여 다툼을 해결하기도 합니다.
실제 2019년 Headspace를 포함한 명상 서비스
비슷한 니즈를 타게팅 하는 현실 디지털 서비스 중 Headspace이나 국내 코끼리 같은 명상 서비스가 떠올랐습니다. 사람들은 스트레스와 불안감을 줄이고 정서적 행복을 증진하려는 목적으로 명상을 합니다. 기존에는 전문가에게 의존했다면 Headspace 등 서비스는 명상을 모바일로 옮겨와 각자의 공간에서 원하는 시간에 하도록 도와줍니다. Productivity, Happiness 등 자신에게 필요한 테마를 선택하면 10분가량의 오디오를 들으면서 명상을 하게 됩니다. 시간이 없는 사람들에게는 3~5분짜리 미니 프로그램을 선택할 수 있도록 합니다. 원하는 시간에 리마인더를 주게 하는 기능도 있습니다.
이미 해외에서는 B2C든 B2B 영역이든 마음/감정 관리는 중요한 테마였는데 최근 한국에서도 점차 확대되고 있습니다. 삼성 헬스 앱에서도 '마음챙김(Mindfulness)' 한국어 서비스를 시작했습니다. Calm과 파트너십을 맺으면서 정신적인 부분까지 관리하도록 신경 쓰는 것입니다. 스트레스 관리, 수면 관리와 연결되어 감정 관리, 정서적 건강은 앞으로도 중요한 니즈가 될 것입니다.
소설 속 2019년 호버카(Spinner)
소설과 영화에 플라잉카가 자주 등장합니다. 얼핏 헬리콥터와 비슷한 것 같기도 하지만 일반인이 직접 운전을 하고 접근성도 더 좋아 보입니다. 내부 인터페이스는 항공기를 떠올리게 합니다.
실제 2019년 플라잉카 개발 경쟁 진행 중
현재는 각국의 스타트업들이 플라잉카 상용화를 위해 박차를 가하고 있는데요. 우버에서도 플라잉카를 개발하고 있고 롤스로이스, 애스턴마틴 역시 컨셉카를 공개하며 2020년 상용화를 목표로 하고 있다고 합니다.
5. 마치면서
처음 이 글을 작성하다 말고 저장해둔 것이 2018년 12월이었으니, 이 글을 쓰기 시작한 지 1년이 지났습니다. 글을 마무리하지 못했던 이유는 '그래서 이런 문제의식이 내 일이랑 무슨 상관인데?'라는 생각이 계속 들었기 때문입니다. 1년간 또다시 여러 프로젝트를 거치면서 또 B2B 프로젝트를 진행하면서 생각이 바뀌었습니다.
기업의 사회적 가치 추구가 강조되고 있는 추세입니다. 윤리적 책임의 잣대를 고려하지 않는 것이 경제적 정책적 리스크로 다가오는 것이죠. UX 업계에도 이런 바람이 불어오고 있습니다. 기술의 빠른 발전이라는 거스를 수 없는 트렌드에 더해, 우리가 할 수 있는 역할은 '인간 중심의 사고'를 바탕으로 기술을 인간화하는데 어떤 고민이 필요한가를 제시해주는 것이죠. 무조건 긍정적으로 미래를 바라보기보다 다가올 수 있는 경우의 수를 고려하고 섬세하게 대비하는 데서 '인간 중심의' 경쟁력이 나온다 생각합니다.
글 쓰는 데 도움을 주신 많은 분께 감사합니다.
[참고]
<AI도 '인종·성차별' 한다…다른 접근법 필요한 이유>, 한국 경제, 2019.02
<무인·자동화 기술, 누구에게는 ‘차별’>, 주간 경향, 2019.03
<인류 무용계급化· 경제 붕괴… 석학들이 내다본 섬뜩한 미래>, 문화일보, 2019.02
<인공지능도 사랑할 수 있을까>, 윤석만 기자, 중앙일보, 2018.02.04
<'안드로이드는 전기양을 꿈꾸는가?' vs. '블레이드 러너'>, optimist가 되고싶은 feveriot:시즌2, 2009.04
<2049년으로부터 전송된 시그널... 원작 소설에 좀더 접근한 문제의식>, 박명진, 교수 신문, 2017.10
<[감상]안드로이드는 전자양을 꿈꾸는가?>, Leviathan, 2013.01
<[카카오AI리포트] 인간이 로봇에게 바라온 도덕의 변화>, 카카오 정책산업 연구, 2017.03
<Technology and Politics in the Blade Runner Dystopia>, Judith B. Kerman
<Do Androids Dream of Electric Sheep?>, Blade Runner Wiki
<Q&A: "Sapiens" - author Yuval Noah Harari on the future of mankind, AI and more>, Rasmus Palludan, 2017.04
<하늘을 나는 자동차, 플라잉카(Flying Car)>, SBA 아카데미, 2018.08
<세계 최강 감시 국가 중국엔 사생활이 없다>, 서울신문, 2019.12
<초예측 - AI가 빈부격차 확대하면 무용 계급 늘까?>, bsang, 책, 그곳에서 또다른 나를 만나다. 2019.04
<유발 하라리에게 묻다. <호모 데우스> 10문 10답>, 김영사, 2017.07
<유발 하라리 "인류 역사상 가장 불평등한 사회 될것">, 채널예스, 2017.07
<인류 무용계급화, 경제 붕괴... 석학들이 내다본 섬뜩한 미래>, 문화일보, 2019.02
<로봇·인공지능 '4차 산업혁명', 부익부 빈익빈 부추길 것>, 연합뉴스, 2016.01
[이미지 출처]
[그림1] Happy Blade Runner Day
[그림2] 키오스크로 주문을 하고 있는 모습, 사진 정준희 기자, 중대신문사
[그림 3] 동공 움직임을 활용한 보이드 캄프 테스트
[그림 4] 중국 안면인식 감시카메라
[그림 5] Penfield Mood Organ
[그림 6] Headspace, 명상을 통해 스트레스와 기분을 조절하는 서비스
[그림 7] 삼성 헬스 마음챙김 서비스
[그림 8] Spinner, 영화 Blade Runner 중
[그림 9] Spinner 내부, 영화 Blade Runner 중
[그림 10] 플라잉카 개발경쟁
이 글은 박재현 모니카의 brunch에서도 보실 수 있습니다.