2025. 10. 16. 07:00ㆍAI 이야기
요즘 AI 업계의 화두는 ‘에이전틱 AI(Agentic AI)’입니다. 그런데 에이전트 활용 경험은 이전과는 비슷하면서도 조금 다른 것 같습니다. 어떤 점이 달라야 할까요?
에이전틱 AI란?
에이전틱 AI는 고도의 자율성을 가지고 스스로 작동할 수 있는 인공지능 시스템을 의미합니다. 동적으로 변화하는 환경에서 효율적인 결정을 내리기 위해, 에이전트 AI는 스스로 해야 할 일을 인지하고(Perceive) - 추론하고(Reason) - 계획을 세우고 알아서 행동하며(Act) - 학습(Learn) 단계를 거칩니다. 반면, 비에이전틱 AI인 프롬프트 기반 AI는 사용자의 지시, 즉 프롬프트 입력이 매번 필요합니다. 내 판단이 필요한 순간에 AI가 판단하고 액션을 취하고 학습까지 하여 최적의 결과를 내주는 것이 에이전틱 AI입니다.
만약 AI에 테니스 경기를 보기 위한 여행 계획을 세워 달라고 한다면, 항공권과 숙소 예약을 내 일정에 기반하여 에이전트가 최적의 선택을 도와줄 수도 있겠지요.
그럼 어떤 점이 다를까?
파스타를 만들어야 하는데 재료가 없다?
오늘 저녁에 크림 파스타를 요리하려고 합니다. 그런데 재료가 부족한 상황이예요.
작은 아이에게 부탁합니다. “X마트에 들러서 A 브랜드의 스파게티 면 1개와 B브랜드 우유 1팩, C 브랜드의 베이컨 하나를 사 와”. 아이가 돌아오면 저는 봉투를 열어 ‘내가 말한 브랜드와 수량이 맞는지’ 확인하겠죠.
이번엔 큰 아이에게 부탁합니다. “저녁에 크림 파스타 하려고 하는데 재료가 없어. 파스타 재료 좀 사다줘”. 아이는 함께 요리한 경험이 있기 때문에 파스타 재료를 알아서 고를 것입니다.
작은 아이가 스파게티 면이 아니라 다른 면을 사왔다면 “스파게티 면이 아니라 펜네 면을 사 왔구나” 하고 정답을 알려줄 것입니다. 큰 아이가 만약 우유 대신 토마토소스를 사 왔다면 “크림소스 파스타를 만든다고 하지 않았니” 하고 우리의 목적이 서로 일치했었는지를 확인하겠지요.
에이전틱 AI에서 중요해 지는 사용 경험
작은 아이의 심부름은 정답 확인의 경험, 큰 아이의 심부름은 목표 얼라인의 경험입니다. 내 심부름을 찰떡같이 하는 큰 아이와 같이 에이전틱 AI에서는 AI가 내 목표를 얼마나 제대로 이해하고, 그 결과를 얼마나 신뢰할 수 있는지를 확인하는 경험이 중요해집니다.
AI와 사람, 서로의 신뢰를 쌓는 여정
그렇다면 실제 제품에서는 이 ‘목표 얼라인과 신뢰’ 경험이 어떻게 표현되고 있을까요?
사용자의 질문 의도 재확인
사용자의 요청을 AI가 제대로 이해하고 있는지 확인합니다. 딥리서치에서 사용자의 질문을 다시 정리하고, 세분화시키는 과정이 사용자에게 신뢰감을 주고 좀 더 명확한 결과를 도출하는데 도움을 줄 수 있습니다.
작업 예상 시간 및 진척도 공유
에이전틱 AI는 기존의 여러 단계로 이루어지던 작업을 AI가 스스로 탐색하며 결과로 가는 과정입니다. 이 과정이 얼마나 걸릴지 지금 어느 정도 진행되었는지 알려주는 것도 사용자를 안심하게 합니다.
명확한 근거 제시 - 참고 출처의 목록 수, 출처명, 참고 내용 등
에이전트가 얼마나 열심히 자료를 찾았는지를 확인시켜 주는 것도 신뢰감을 쌓는데 도움이 됩니다. 디자인 시스템의 어떤 버전을 사용해서 버튼을 수정했는지, 얼마나 많은 출처를 검색했는지, 어떤 자료를 참고했는지, 검색한 자료에서 어떤 부분을 참고했는지를 사용자가 원할 때 알 수 있게 하는 것은 사용자가 보고 있지 않을 때에도 믿을만한 조사와 추론을 하고 있다는 확신을 줄 수 있게 됩니다.
작업 단계를 눈에 보이게 - 검색 중, 읽는 중, 비교 중, 추론 중 등
에이전트가 어떤 작업을 통해 결과를 내는지 명확하게 제공합니다. 검색, 이해, 비교, 추론 등 생각의 유형을 명확히 하여 작업 과정에 대한 신뢰를 높이고 결론이 어떤 과정에 의해 도출되었는지 이해하는 것을 돕습니다.
에이전틱 AI UX 원칙
사용자의 목적을 능동적으로 이해하고 여러 대안을 제안하는 에이전틱 AI과 사용자 간의 경험을 설계할 때 고려해야 할 사항은 무엇일까요?
AI가 사용자의 목표를 이해했다는 신호를 보여줘야 합니다.
커뮤니케이션학에서 상대방의 목적을 이해했다는 것은 알려주기 위해 나의 언어로 다시 말하는 재진술(Paraphrasing) 방법을 사용합니다. 이런 방식으로 상대방과 내가 서로 같은 생각을 하고 있다는 것을 공유하는 것은 중요합니다. 사용자의 의도를 재진술 함으로써, 더 구체화시킴으로써, 사용자의 목적을 달성하기 위한 방법을 사전에 제시함으로써, 또 그 외의 다양한 방법으로 사용자와 목적을 공유하는 과정이 필요합니다.
AI의 사고 과정은 투명하게 드러나야 합니다.
사용자가 에이전트가 무엇을 하고 있는지, 왜 그렇게 판단했는지, 결과가 어떻게 나왔는지 알기 위해 명확한 근거와 작업 단계를 시각적으로 투명하게 설명하는 것은 중요합니다. 앞선 예와 단계별 배지를 달거나 타임라인을 제시하는 등 사용자가 꼭 알 필요는 없지만 AI의 활약상을 시각적으로 보여주어야 합니다.
AI와 사용자의 권한 경계를 명확하게 구분해야 합니다.
어디까지 AI가 자동으로 결정해도 되는지, 어디서부터는 사용자가 승인해야 하는지 구분해 주는 것도 중요합니다. AI가 한 것인지, 사람이 한 것인지 구분돼야 협업이 가능하기 때문입니다. 만약 디자인 시스템을 고도화 하는 과정이라면, “AI 제안”, “디자이너 승인”과 같은 라벨을 제공하거나 히스토리를 남김으로써 책임의 경계를 명확히 할 수 있습니다.
AI가 자율적으로 실행하더라도, 사용자가 즉시 개입할 수 있어야 합니다.
AI의 자율적인 판단과 실행과 함께, 언제든 사용자가 개입, 중단, 수정할 수 있는 장치를 잊지 말아야 합니다. 에이전트의 방향성이 잘못 됐을 때, 사용자의 계획이 변경됐을 때 즉시 행동을 취할 수 있도록 하여 사용자의 주체성을 유지시켜 주어야 합니다.
AI가 사용자 피드백을 통해 점점 나아지는 모습을 보여줘야 합니다.
에이전트가 제시한 결과에 대해서 사용자가 명확한 피드백을 남길 수 있게 도와야 합니다. AI가 실수를 하거나 기대에 못미치거나 불확실한 답변을 할 때 솔직한 피드백을 통해 사용자의 의도를 더 명확하게 파악할 수 있게 훈련하는 것이 필요합니다. 피드백 루프를 통해 성능의 개선되는 선순환이 중요하기 때문입니다. AI가 피드백을 통해 스스로 성장한다는 확신을 주면, 신뢰는 자연스럽게 쌓입니다.
AI가 목적에 맞는 멀티모달 방식으로 상호작용 해야 합니다.
AI가 목표 달성을 위해 적절한 입출력 방식을 스스로 선택할 수 있어야 합니다. 회의 중에는 음성을 텍스트로, 이동 중에는 텍스트를 음성으로 전환하는 등의 시나리오를 생각해 볼 수 있습니다. 에이전틱 AI가 사용자의 상황에 ‘반응’하는 수준을 넘어, 목적을 기준으로 상호작용 방식을 스스로 ‘조정’하는 경험을 제공해야 합니다.
오히려, 사람을 더 살펴야 할 때
최근 기업에서는 에이전틱 AI를 도입하고 정교하게 업무 흐름에 녹이는 것이 핵심 과제입니다. 최근 OpenAI나 구글의 발표에서도 에이전틱 AI를 효율적으로 구현하기 위한 프로덕트로 화제를 모았습니다.
다만, 맥킨지 리포트에 의하면 에이전틱 AI 도입에는 정교한 워크플로우 설계와 함께, 사용자의 니즈를 파악하고 재정의 하는 것이 중요하다고 합니다. Gemini at Work 서두에서도 앞으로의 혁신은 콘텍스트, 업무 흐름, 그리고 사람을 이해할 때 일어난다고 말한 바 있습니다.
역설적일 수 있지만, 에이전틱 AI를 효과적으로 도입하려면 사람을 더 깊이 이해해야 합니다. 조직이 어떻게 일하는지 더 잘 이해하고, 어떻게 해야 그들의 업무에 자연스럽게 스며들 수 있을지, 업무의 맥락과 일하는 방식을 이해하는 것이 필요할 것입니다. 지금이 사용자에 대한 이해가 더더욱 필요한 시기입니다.
참고 자료
Designing for Autonomy: UX Principles for Agentic AI Systems
Introducing ChatGPT agent: bridging research and action
One year of agentic AI: Six lessons from the people doing the work