2020 UX STRAT: East + West = Strategic Design #2
#2 “AI Innovation in Uncertain Times”
By Gabe Clapper Designer, People + AI Research, Google
지난 11월 3일, 구글의 People + AI Research에서 시니어 디자이너로 활동하고 있는 Gabe Clapper의 ‘AI Innovation in Uncertain Times’ 세션의 핵심 내용을 간략하게 공유합니다.
요약
빠르게 변화하는 세상에 맞추어 발전하는 AI 기술, 올바른 방향성과 역할에 대해 서로의 생각을 공유하는 시간을 가졌습니다. Clapper는 다음과 같은 두 가지 질문을 던졌습니다.
- Human-centered AI - “어떻게 하면 인간중심 AI 시스템을 디자인할 수 있을까?”
- Earning User Trust - “사용자는 어떤 기술과 기업 그리고 서비스를 신뢰할까?”
첫째로, 사람에게 이로운, 사람을 위한 AI 시스템 설계하기
“Human perception drives virtually every facet of artificial intelligence.”
인공지능(AI) 시스템의 설계에는 사람의 생각이 반영될 수 밖에 없습니다. 어떤 데이터를 수집할 것인지부터 어떤 지표(metrics)를 활용할지, 각 설계 단계마다 필요한 인간의 판단력과 결정력이 다르게 나타납니다. 결국, AI 시스템도 사람의 손길로 이루어지기에 사람의 탁월성 (Brilliance) 물론 약점 (Bias) 까지 모두 반영하게 됩니다.
통계적 특성상, AI 기술의 본질인 예측성에는 필연적으로 ‘오차'(bias)의 가능성이 따릅니다. 이러한 오차의 가능성은 단순히 고양이와 사람을 분류하는 일에는 큰 문제가 되지 않지만 이보다 더 복잡한(Complex Task) 태스크 수행 시 위험으로 다가옵니다. 범죄를 예측하는 시스템과 같이 사람의 안전에 직접적인 영향을 미치는 일에 있어서는 한 치의 오차도 허락될 수 없기에 안전망을 형성하는 것이 무엇보다 중요합니다.
Clapper는 이러한 오차를 최소화하기 위해 ‘Precision and Recall’ 방법론을 제시합니다.
구글 클립스는 친숙한 얼굴, 모습 그리고 상황을 인식하여 자동으로 일상을 촬영하여 기록하는 카메라입니다. 기존의 ‘라이프로깅’ 카메라와 차별성을 두기 위해 알고리즘에 전적으로 의존하기보다는 사용자가 언제든 개입하여 리콜 기능을 무효화할 수 있도록 합니다. '매뉴얼 셔터’ 기능을 통해 언제든지 사용자가 원하는 시점에 셔터를 누를 수 있게 하고 ‘큐레이션 스크립트’ 기능을 추가하여 사용자가 원하는 사진을 직접 선택하고 원하지 않는 사진들은 언제든지 삭제할 수 있도록 합니다. 본 프로덕트의 핵심은 사용자에게 언제든 자동화 시스템을 컨트롤할 수 있도록 하여 ‘주체성’(agency)을 제공하는 것이라고 강조했습니다.
*‘Precision and Recall’ 메커니즘은 ‘트레이드 오프’ 의 개념으로 이해해야 합니다. 둘 중 하나에 치우치는 것이 아닌, 알맞은 균형을 찾아가는 과정입니다. 그 균형 또한 사용자의 ‘니즈’에 맞추어 조율하는 것이라고 설명했습니다.
둘째로, ‘신뢰’할 수 있는 AI 시스템 설계하기
“More isn’t always better. Trust has to be properly calibrated. This means openness of what systems can do and can’t do.”
사용자들이 진심으로 기술을 신뢰할 수 있도록 하기 위해서는 시스템이 할 수 있는 일과 할 수 없는 일을 명확하게 구분해야 한다고 합니다. 사용자 스스로 판단하여 적절한 기대와 요구를 할 수 있도록 무리한 약속 없이 열려 있는 마음으로 사용자에게 다가가야 한다고 말합니다.
신뢰도는 ‘인식’(perception)에 기반하며 ‘이행적’(transitive)인 성질을 지니고 있습니다.
Clapper는 간단한 예시를 통해 신뢰성의 이행적 성질을 설명했습니다. 아래는 자동으로 포장 식품의 성분을 감지하여 분석해주는 서비스의 프로토타입입니다. 좌측 프로토타입에서는 정량적인 분석 결과를 알려주고 우측 프로토타입에서는 사용자가 속한 온라인 커뮤니티 구성원들의 검증 결과를 전달합니다. Clapper는 본 사용성 테스트에서 사용자들이 우측 프로토타입에 더욱더 높은 신뢰도를 보인다고 설명했습니다. 즉, 대부분 사용자들은 주로 본인이 이미 신뢰하거나 상호관련성이 높은 사람에게서 온 정보(Contextually relevant human source)를 가장 신뢰하는 것을 의미합니다.
마치며,
마지막으로, 바이러스 예방 측면에서 AI 기술의 획기적인 활용성에 대해 고찰할 필요가 있다고 강조했습니다. 인공지능의 본질, 그리고 한계점 또한 철저히 파악하여 사람을 이롭게 하는 시스템 연구와 개발에 중점을 두어야 한다고 덧붙이며 세션을 마무리했습니다.