2025. 9. 29. 07:00ㆍAI 이야기
들어가며
1편에서 살펴본 것처럼 Proactive AI는 단순히 ‘얼마나 높은 레벨까지 제공할 수 있는가’의 문제가 아닙니다. 어떤 상황에서, 어떤 기능을 통해, 어떤 방식으로 개입할 것인가가 더 중요합니다. 같은 Proactive 기능이라도 적용되는 영역에 따라 적절한 수준이 달라지기 때문입니다.
실제로 AI Assistant가 제공하는 기능을 살펴보면, 도메인에 관계없이 크게 세 가지 유형으로 나눌 수 있습니다. 첫째는 서비스·앱·기능 실행으로, AI Assistant와 연결된 앱이나 기기의 기능을 음성 명령으로 제어하는 영역입니다. 둘째는 일상 대화로, 인삿말이나 감정 표현, 잡담과 같은 가벼운 대화를 통해 사용자와의 친밀감을 쌓는 영역입니다. 마지막은 정보 탐색으로, 사용자의 질문에 답변하거나 필요한 경우 관련된 정보를 추천하는 기능을 포함합니다.
Proactive에도 영역별 적정선이 있다
세 가지 영역별로 요구되는 Proactive 수준은 서로 다릅니다.
먼저 서비스·앱·기능 실행의 경우에는 자동실행(레벨 3)까지 제공하는 것이 편리합니다. 이 영역은 본래 사용자가 직접 버튼을 누르거나 조작해야 하는 행동을 대신하는 것이 핵심이기 때문에, 패턴이나 맥락에 맞춰 자동 실행이 가능하다면 반복적인 수고를 줄여 편리함을 극대화할 수 있습니다. 예를 들어, 사용자가 매일 아침 같은 시간에 알람을 맞추거나, 퇴근길에 늘 같은 조명을 켜는 행동은 AI가 미리 학습하여 알아서 실행해주는 것이 훨씬 효율적입니다.
반면 일상 대화 영역에서는 자동실행(레벨 3)까지 제공하는 것이 오히려 사용자 경험을 해칠 수 있습니다. 일상 대화란 본질적으로 상호작용을 전제로 하기 때문에, 기능 실행처럼 맥락이나 패턴만으로 자동 발화를 판단하기에는 무리가 있습니다. 따라서 이 영역에서는 사용자의 감정이나 상황을 살펴 먼저 말을 건네되, 사용자가 응할지 말지 선택할 수 있는 선제안(레벨 2) 정도까지가 적절합니다. 사용자의 의사를 묻지 않고 자동으로 대화를 시작해버린다면, 이는 자연스러운 소통이 아니라 불필요한 간섭으로 느껴질 수 있기 때문입니다.
마지막으로 정보 탐색 영역은 기본적으로 사용자의 질문에 답하는 데 초점이 맞춰져 있습니다. 따라서 자동실행이 필요하지는 않지만, 단순히 질문에 응답하는 것에서 그치지 않고 관련된 추가 정보나 다음으로 궁금해할 만한 내용을 미리 제시하는 선제안(레벨 2) 수준이 적합합니다. 오랜 학습을 통해 사용자의 취향·관심사·맥락을 잘 파악한 뒤 적절한 타이밍에 정보를 선제안한다면, 직접 검색이나 발화 없이도 필요한 정보를 받아볼 수 있어 훨씬 더 효율적이고 편리한 탐색 경험을 제공할 수 있습니다.
레벨3, 아무리 자동실행이어도 맥락과 항목은 사용자가 정한다
레벨 3은 ‘자동실행’이라는 이름을 달고 있지만, 그렇다고 해서 시스템이 임의로 판단해 무조건 개입하는 방식은 바람직하지 않습니다. 오히려 어떤 기능을 어떤 맥락에서 자동실행할지 사용자가 직접 설정할 수 있도록 하는 것이 더 효과적입니다. 다시 말해, 서비스가 일방적으로 행동하는 것이 아니라 사용자가 지정한 명령과 조건을 토대로 자동실행이 이루어져야 한다는 것이죠.
예를 들어 단순히 이용 패턴만 보고 에어컨을 자동으로 켜버리거나, 아침마다 뉴스를 들었다고 자동으로 뉴스를 재생시켜버린다면 번거로운 경험이 될 수 있습니다. 대신 자동실행 설정 메뉴에서 사용자가 원하는 기능과 조건을 직접 선택할 수 있도록 한다면 훨씬 더 자연스럽고 유용한 경험이 됩니다.
물론 사용자가 원하는 모든 것을 자동실행으로 등록할 수는 없습니다. 따라서 서비스 도메인별로 어떤 변수를 기준으로 자동실행 조건을 설계할지, 어떤 기능까지 자동실행을 허용할지를 시스템 차원에서 먼저 정의한 뒤, 그 안에서 선택권을 주는 방식이 필요합니다.
2025년 CES에서 공개된 삼성전자의 Home AI 스마트 엠비언트 센싱은 SmartThings 기기 간의 움직임, 소리, 사용 패턴을 분석해 자동화 작업을 제안하거나 직접 실행합니다. 드라이기 사용을 감지하면 로봇청소기가 자동으로 작동하고, 영화 시청 중 사용자가 잠든 것으로 판단되면 조명이 꺼지거나 조도가 조절되는 식입니다. 이 사례는 사용자가 자동실행되는 기능을 직접 설정한다는 맥락은 아니긴 하지만, 스마트홈 영역에서 어떤 변수가 자동실행 조건으로 활용될 수 있는지 참고할 수 있는 예시라고 생각됩니다. 즉, 단순 루틴뿐 아니라 기기의 실시간 상태, 집 안 환경(조도·온도·소음) 등이 핵심 변수로 작동할 수 있다는 것이죠.
반면 자동차에서는 맥락이 조금 다릅니다. 동승자 유무나 동승자의 특성에 따라 자동실행 기능을 조절할 수 있는 옵션을 고려해볼 수 있습니다. 혼자 운전할 때, 아이와 함께 탔을 때, 혹은 동료와 동승했을 때 차에서 하는 행동이나 필요한 기능은 크게 달라지니까요. 또한 차량에서는 사용자의 상태 및 의지가 더 강하게 작용하는 목적지 선택, 주행 시간 등은 자동실행 대상에서 제외하고, 주행 보조 기능이나 실내 환경 세팅(에어컨, 조명, 음악 등)에 한정해 자동실행을 제공하는 것이 효과적일 수 있습니다.
이처럼 서비스의 종류에 따라 사용자에게 부여할 수 있는 선택권의 범위와 변수가 달라집니다. 각 서비스에서 자동실행의 효과가 큰 핵심 기능들과 조건 변수를 설정해두고, 사용자가 그 범위 내에서 변수를 조합해 조건을 설정하도록 한다면, 시스템이 임의로 판단해 실행하는 것보다 훨씬 만족스러운 경험을 제공할 수 있을 것입니다.
물론 안전이나 긴급 상황처럼 사용자의 의사보다 시스템의 즉각적 개입이 우선시되어야 하는 영역도 있습니다. 하지만 그 외 대부분의 경우에는 시스템이 허락할 수 있는 범위 내에서 자동실행의 주도권을 사용자에게 돌려주는 것이 바람직합니다. AI는 언제든 틀릴 수 있기 때문에, 자동실행이 강압적이거나 번거롭게 느껴지지 않으려면 실행의 시작권을 사용자에게 주는 설계가 필요합니다. 이때 비로소 자동실행은 진정한 편리함으로 받아들여지고, 사용자의 신뢰도 함께 쌓일 수 있습니다.
설정 방식에도 균형이 필요하다
다른 서비스에서는 Proactivity 사용자 설정을 어떻게 제공하는지 확인하기 위해, 자동차 AI Assistant의 설정 방식을 리서치했습니다.
벤츠는 BMW보다 다양한 기능에 대해 proactivity를 설정할 수 있었습니다. 그러나 음성 명령으로 제어 가능한 약 100여 개 기능 중 실제로 Proactivity를 설정할 수 있는 항목은 30개 수준에 불과했습니다. 어떤 기능이 가능한지 확인하려면 일일이 눌러봐야 했고, 조정도 개별 기능의 상세 화면에 들어가야만 가능했습니다. 설정 범위가 넓다는 장점은 있었지만, 접근성과 UX가 복잡해 번거롭다는 한계가 명확했습니다.
반대로 BMW는 아예 세부 기능별 proactivity 설정은 허용하지 않았습니다. 대신 제안 알림, 음성 안내, 자막 표시 정도만 On/Off로 조정할 수 있었습니다. 설정 과정의 번거로움은 적었지만, 맥락별·기능별 세밀한 조정은 전혀 불가능했습니다. 즉, 사용자가 주체적으로 맞춤화된 Proactivity 경험을 설계할 수 없는 구조였던 것이죠.
이처럼 벤츠는 항목이 지나치게 많아 피로감을 주고, BMW는 단순 On/Off만 제공해 융통성이 떨어지는 두 가지 극단에 치우쳐 있었습니다.
그렇다면 좋은 UX는 무엇일까요? 가장 이상적인 방식은 시스템 차원의 기본 가이드를 제공하면서, 사용자가 필요할 때 원하는 수준까지 개입할 수 있도록 설계하는 것입니다.
Proactivity 경험 설계를 위한 가이드
저희가 리서치를 바탕으로 정리한 고려 사항은 다음과 같습니다:
- 영역별 기본값 제공: 서비스·앱·기능 실행은 자동실행까지, 일상 대화는 선제안까지만, 정보 탐색은 후속 제안·선제안 수준까지만 시스템 차원에서 기본값을 제공합니다.
- 사용자 맞춤 설정: 기본값 위에 사용자가 원한다면 기능별·상황별로 Proactive 레벨을 세부 조정할 수 있도록 합니다.
- 간결한 설정 UX: 수십 개 항목을 일일이 확인하지 않아도 “Proactivity 허용 범위”를 한눈에 볼 수 있도록 하고, 주요 시나리오 단위로 묶어 선택할 수 있게 설계합니다. (예: 기능 실행, 대화, 정보 탐색의 세 축으로 구분)
- 피드백 기반 조정: 사용자가 특정 제안을 반복해서 거부하거나 수락한다면, 시스템이 이를 학습해 제안 빈도와 방식을 자동으로 최적화할 수 있어야 합니다.
서비스는 모든 권한을 사용자에게 떠넘기거나, 반대로 최소한의 On/Off만 제공하는 양극단을 피해야 합니다. 시스템이 기본 가이드를 제시하고, 사용자가 원하는 만큼 세부적으로 개입해 자신의 취향과 패턴에 맞게 만들어갈 수 있는 구조가 가장 바람직한 방향입니다.
마치며
이번 프로젝트를 통해 깨달은 점은, 사람들이 흔히 AI에게 기대하는 ‘완벽한 조력자 혹은 비서’’라는 모습은 사실 사용자 스스로의 설정과 개입 없이는 만들어질 수 없다는 것입니다. AI가 무조건 Proactive하다고 해서 더 좋은 서비스나 경험을 보장하는 것도 아니었습니다. 모든 것에는 적정선이 필요하고, AI Assistant라는 이름처럼 사용자를 돕는 조력자가 되기 위해서는 방대한 학습 데이터뿐 아니라 나의 선호와 맥락을 알려주는 사용자의 액션도 함께 필요합니다.
무조건적으로 ‘알잘딱깔센’을 기대하기보다는, AI와 사용자가 서로 발맞춰 나가는 과정 속에서 언젠가는 정말로 나를 잘 아는 AI Assistant를 만들어 갈 수 있지 않을까요.
글. UX Researcher - 최하은, UX Designer - 김슬기