에이전트 시스템 설계 및 UX디자인

오늘도 열심히 인프런 챌린지에 도전했습니다. 이번에 도전한 챌린지는 [4주 과정] 『AI 에이전트 엔지니어링』완독 챌린지 입니다. 그냥 마음 먹고 공부하면 잘 안하게 되어서. 굳이 돈을 지불하고 챌린지를 신청했습니다.

도서는 AI 에이전트 엔지니어링(한빛미디어) 입니다.

이번에는 1장, 에이전트, 2장 에이전트 시스템 설계, 3장 에이전트 시스템을 위한 UX디자인 부분을 공부하고 정리하고자 합니다. 

많은 책들이 에이전트 개발이라는 개발방법론에 매몰되어 있는데, 본 책은 사용자가 에이전트를 어떻게 잘 사용하도록 만들지에 대한 접근을 하고 있어서 많은 도움이 되었습니다. 특히 3장의 UX부분이 저에게 많은 도움이 되었습니다.

---

 

Chapter1. 에이전트

이 책에서는 Agent 시스템은 자율적인 의사결정 및 상호 작용 능력을 가진 스프트웨어 다자인이나 아키텍처를 의미하고, Agentic 시스템은 이 에이전트가 실행되는데 피룡한 모든 구성 요소(도구, 메모리, 인프라 등)를 포함하는 전체적인 지원 환경 또는 기능을 의미합니다. 

 

1. Agent 9가지 유형

1. 비즈니스 업무 에이전트

2. 대화형 에이전트

3. 리서치 에이전트

4. 분석 에이전트

5. 개발 에이전트

6. 도메인 특화 에이전트: 법률, 의료, 금융 등 전문 영역에 맞게 튜이되어 도메인 지식과 구조화된 워크플로를 결합해 전문가 수준의 지원을 제공함

7. 브라우저 활용 에이전트

8.음성 에이전트

9.비디오 에이전트

 

2. 활용사례

고객지원 에이전트: 빈번한 문의 처리, 환불, 주문 업데이트, 복잡한 이슈의 인계 등을 쉬지 않고 수행해 만족도 향상과 비용 절감을 동시에 달성

금융 서비스 에이전트: 계정 관리, 대출 처리, 사기 탐지, 포트폴리오 정리 등을 통해 보안 강화와 운영 효율 증대

의료 접수, 분류 에이전트: 신규 환자 등록, 보험 확인, 증상 기반 우선순위 결정, 예약, 의무기록 의뢰 관리로 워크플로 효율과 결과 개선

IT 헬프데스크 에이전트 : 접근 권한 관리, 네트워크/시스템 문제 해결, 업데이트 배포, 보안 사고 대응, 사례 전달 등으로 생산성 향상

법률 문서 검토 에이전트: 계약 검토, 리서치, 접수, 충돌 검사, 디스커버리 관리, 컴플라이너스 확인, 손해액 계산, 마감일 추적 등 정확도와 효율강화

보안 운영센터(SOC) 분석 에이전트: 경보 조사, 위협 인텔 수집, 로그 질의, 사고 분류, 결리, 팀 업데이트로 대응 속도와 보안 태세 강화

공금망, 물류 에이전트: 재고 최적화, 선적 추적, 공급업체 평가, 창고 협업, 수요 예측, 장애 대응, 규정 준수 관리 등ㅇ로 글로벌 네트워크의 회복력 효율 제고

 

3. 코드, 워크플로, 에이전트의 구분(P42)

특성	코드	워크플로	자율 에이전트
입력구조	완전 예측 가능 스키마	유한 분기로 대체로 예측 가능	고도로 비정형/새로운 입력
설명 가능성	완전 투명, 감사 용이	분기별 감사 추적 명시	블랙박스 요소(추가 도구 필요)
지연	초저지연	중간 지연	더 높은 지연
적응, 학습	없음	제한적	높음(피드백 학습)

 

4. 효과적인 에이전트 시스템 구축 원칙

확장성(Scalablity): 분산 아키텍처, 클라우드 인프라, 병렬 처리를 지원하는 효율적 알고리즘을 통해 증가하는 부하와 다양한 작업을 처리합니다. (실패 사례: 분당 10건을 처리하던 고객지원 에이전트가 오토스케일링 없이 1,000건으로 급증하면 다움되거나 지연될 수 있습니다. )

모듈성(Modularity): 명확한 인터페이스로 연결된 독립적이고 교환 가능한 구성요소로 설계합니다. 유지보수와 변경 적응이 쉬워집니다. (실패 사례: 에이전트 서비스에 도구를 하드코딩하면 ㅈ가은 수정에도 전체를 재배포해야 합니다.)

지속 학습(Continuous learning) 인컨텍스트 학습과 같이 경험에서 배우는 메커니즘을 구축하고 사용자 피드백을 통합니다. (실패 사례: 피드백 루프를 무시하면 같은 실수(계약 조항 오분류, 중요 이슈 미보고 등)를 반복합니다).

회복탄력성(Resilience): 오류, 보안 위협, 타임아웃, 예상치 못한 상황을 우아하게 처리하는 아키텍처를 갖춰야 합니다. 재시도, 폴백, 엄격한 보안, 중복화가 필요합니다(실패 사례: 재시도나 폴백이 없는 에이전트는 API 호출이 한 번 실패하는 것만으로도 과정 전체가 중단됩니다.).

미래대비(Future-proofing): 개방형 표준과 확장 가능한 인프라를 중심으로 설계하고 실험 문화를 유지합니다. (실패 사례: 특정 벤터의 프롬프트 형식에 과도하게 결합하면 모델 교체나 실험이 어려워집니다).

 

5. 에이전틱 프레임워크(P44)

1.랭그래프

- 강점 : 방향 그래프 기반 모듈식 오케스트레이션 프레임워크, 노드에는 개별 로직 단위가 포함되고 엣지는 복잡하고 순환 가능한 워크플로를 통해 데이터 흐름을 관리합니다. 개발자 경험이 우수하며, 비동기 워크플로와 재시도를 기본 지원합니다.

- 트레이드오프: 고급 계획과 메모리에 맞춤 로직이 필요하며 멀티 에이전트 협업에 대한 내장 지원이 상대적으로 부족합니다. 

- 적합 대상: 명시적이고 검증 가능한 흐름 제어가 필요한 견과한 단일 에이전트 또는 경량 멀티 에이전트 시스템을 구축하는 팀

2. 오토젠

- 강점: 강력한 멀티 에이전트 오케스트레이션, 동적 역할 할당, 메시지 기반 에이전트 간 유연한 상호작용

- 트레이드오프: 단순한 사용 사례에는 무겁거나 복잡할 수 있으며 에이전트 상호작용 패턴에 대해 다소 고집스러운 편입니다.

- 적합 대상: 여러 에이전트 간 대화가 핵심인 연구 및 프로덕션 시스템

3. 크루 AI

- 강점: 배우기 쉽고 사용하기 편리, 프로토타이핑을 위한 빠른 설정, 'Crew'와 'tasks' 같은 유용한 추상화

- 트레이드오프: 오케스트레이션 내부에 대한 세밀한 커스터마징과 제어가 제한적이며, 복잡한 워크플로에서 랭그래프나 오토젠보다 성숙도가 낮습니다.

- 적합 대상: 어시스턴트나 지원 에이전트 같은 실용적이고 인간 중심의 에이전트를 빠르게 구성하려는 개발자

4. 오픈AI 에이전트 SDK

- 강점: 오픈AI 도구 생태계와의 깊은 통합, 안전하고 사용하기 쉬운 함수 호출, 메모리 프리미티브, 도구 라우팅

- 트레이드오프: 오픈AI 인프라에 강하게 결합되어 있어 맞춤형 에이전트 스택이나 오픈소스 도구체인에서는 유연성이나 이식성이 떨어질 수 있습니다. 

- 적합 대상 : 이미 오픈AI API를 사용 중이며 최소한 스캐폴딩으로 도구를 활용하는 아전한 에이전트를 빠르게 구축하려는 팀 

 

Chapter2. 에이전트 시스템 설계

본 장에서 고객의 메일을 읽고 주문 취소를 하는 에이전트를 예로 들고 있습니다. 

 

에이전트의 작업 범위를 설정할 때는 늘 균형을 신경써야 합니다. 작업의 범위를 지나치게 좁히면 환불이나 배송지 변경처럼 자주 생기는 다른 요청을 놓쳐 큰 효과를 보지 못합니다. 반대로 범위를 너무 넓히면 에이전트가 가격 문의, 상품추천, 기술 지원 같은 수많은 엣지케이스를 대응하도록 준비해야 해서 작업 기간이 오래 걸립니다. 

처음에서는 좁은 범위로 시작: 주문 취소 같은 명확한 작업 하나를 자동화하는 것이 적당한가?

 

아래는 저자가 공개한 본 책의 코드가 있는 깃헙주소입니다.

https://github.com/TeeDDub/AI-Agent-Engineering

GitHub - TeeDDub/AI-Agent-Engineering

 

1. 우리의 첫 번째 에이전트 시스템

우선 저자의 uv 패키지에 windows에서 지원이 안되는 패키지가 일부 있었습니다. 추후 WSL이나 Docker 환경으로 리눅스 버전의 환경으로 세팅해야 할거 같습니다. 

급한 대로 pyproject.toml에서 3개의 패키지를 설치하지 않게 설정을 변경했습니다.

"bert-score>=0.3.13; sys_platform != 'win32'",
"vectordb2>=0.1.9; sys_platform != 'win32'",
"tensorflow-hub>=0.16.1; sys_platform != 'win32'",

 

 # PowerShell의 실행 정책(Execution Policy) 허용하기
 Set-ExecutionPolicy RemoteSigned -Scope CurrentUser
 powershell -c "irm https://astral.sh/uv/install.ps1 | iex"
 
 # uv 패키지 설치하기
 uv init
 uv add langchain
 uv sync
 
 .venv\Scripts\Activate

 

2. 에이전트 시스템의 핵심 구성요소

모델 : 의사결정, 입력 해석, 출력 생성

도구: 특정 작업 수행(API 호출, 계산 등)

메모리: 컨텍스트 유지, 과거 학습

오케스트레이션: 스킬 배치, 실행, 감독의 전체 흐름 관리

 

2.4.2 도구 통합과 모듈성

도구 개발에서 모듈형 설계는 필수입니다. 각 도구는 필요에 다라 쉽게 통합하거나 교체할 수 있도록 독립적인 모듈로 설계해야 합니다. 이렇게 하면 전체 시스템을 다시 구축하지 않고도 에인전트의 기능을 확장하거나 업데이트할 수 있습니다. 예를들어 고객 지원 챗봇은 처음에는 단순한 문의를 처리만 하는 기본 도구만 갖춘 상태에서 시작할 수 있습니다. 이후 분쟁 해결이나 고급 문제 해결 같은 복잡한 도구를 추가해주더라도 에인전트의 핵심 운영에는 영향을 주지 않습니다. 

 

2.5.1 단기메모리

고객 지원 에이전트가 한 세션 내에서 사용자의 이전 질문을 기억하면 보다 정확하고 컨텍스트에 맞는 응답을 제공해 사용자 경험을 향상시킬 수 있습니다. 

단기메모리는 종종 롤링 컨텍스트 원도 방식을 통해 구현됩니다. 이 방법은 최근 정보를 일정 범위 내에서 계속 갱신하면서 오래된 데이터를 버릴 수 있게 합니다. 

 

2.5.2 장기 메모리

시간이 지남에 따라 점차 발전해야 하거나 사용자 선호도에 기반한 개인화된 경험을 제공해야 하는 에이전트에 특히 중요함

장기메모리는 주로 데이터베이스, 지식그래프, 또는 파인튜닝된 모델을 통해 구현됩니다. 이러한 구조는 에이전트가 사용자 선호도나 과거 성능 지료 같은 구조화된 데이터를 저장하고 필요할 때 이를 검색할 수 있게 합니다. 예를 들어서 헬스케어 모니터링 에이전트는 환자의 생체 신호에 대한 장기 데이터를 보존해 추세를 감지하거나 의료진에게 과거 데이터를 기반으로 인사이트를 제공할 수 있습니다. 

 

2.6 오케스트레이션

오케스트레이션의 핵심은 도구나 스킬호출의 가능한 순서를 평가하고 그 결과를 예측하며 여러 단계를 거치는 작업에서 가장 성공 가능성이 높은 경로를 선택하는데 있습니다. 예들 들어, 교통 상화고 시간 제약, 차량 가용성을 고려해 최적의 배송 경로를 계획하거나 복잡한 데이터 처리 파이프라인을 구성하는 과정이 이에 해당합니다. 

 

2.8.2 멀티 에이전트 아키텍처: 협업, 병렬성, 조율

 

장점

협업과 전문화 : 각 에이전트는 특정 작업이나 영역에 특화되도록 설계할 수 있습니다. 예를 들어 데이터 수집을 맡은 에이전트, 데이터 처리를 담당하는 에이전트, 사용자 상호작용을 담당하는 에이전트가 협업할 수 있습니다. 이런 업무 분할은 단일 에이전트보다 복잡한 작업을 더 효율적으로 처리하게 합니다.

병렬성 : 멀티 에이전트 시스템은 여러 작업을 동시에 수행할 수 있습니다. 예를 들어 물류 시스템에서는 여러 에이전트가 각기 다른 배송 경로를 동시에 계획함으로써 전체 처리 시간을 단축하고 효율성을 높일 수 있습니다.

확장성 향상: 시스템이 성장함에 따라 새로운 에이전트를 추가해 더 많은 작업을 처리하거나 부하를 분산할 수 있습니다. 이를 통해 대규모 환경에서도 유연하게 대응할 수 있습니다.

중복성과 복원력: 에러 에이전트가 독립적으로 작동하므로 에이전트 일부가 작업에 실패하더라도 전체 시스템이 중단되지 않습니다. 다른 에이전트가 실패한 역할을 대신 수행할 수도 있어 시스템의 신뢰성이 높아집니다.

 

단점

조율과 통신의 복잡성: 에이전트 간의 통신을 효율적으로 관리해야 합니다. 각 에이전트는 중복 작업, 충돌, 자원 경쟁을 피하기 위해 정보를 교환하고 작동 방식을 조율해야 합니다. 적절한 오케스트레이션 없이는 시스템이 쉽게 비효율적이거나 혼란스러워질 수 있습니다. 

복잡성 증가: 멀티 에이전트 시스템은 강력하지만 설계, 개발, 유지보수가 훨씬 어렵습니다. 통신 프로토콜, 조율 전략, 동기화 메커니즘을 추가로 고려해야 하기 때문입니다.

효율성 저하: 모든 경우에 해당하지는 않지만 멀티 에이전트 시스템은 토큰 소비가 많아 효율이 낮아질 수 있습니다. 에이전트들이 빈번히 통신하고 컨텍스트를 공유하며 행동을 조율해야 하므로 단일 에이전트보다 처리자원과 계산 비용이 더 많이 듭니다. 이러한 비효율은 작업 속도를 늦출 수 있으며, 따라서 리소스 관리와 최적화가 중요합니다. 

 

2.9 모범 사례(중요)

2.9.1 점진적 사고

점진적 설계는 에이전트 개발의 핵심 접근법으로 초기부터 완벽한 결과물을 목표로 하기보다 작동하는 작은 프로토타입을 만들고 피드백을 반영해 여러 차례에 걸쳐 개선합니다. 이렇게 하면 결함을 빨리 발견하고 신속히 방향을 수정하며 시스템을 지속적으로 개선할 수 있습니다.

3가지 이점 : 문제의 조기발견, 사용자 중심 설계(사용자 및 이해관계자의 빈번한 피드백을 받을 수 있음), 확장성

3가지 원칙: 프로토타입을 빠르게 개발한다. 테스트하고 피드백을 수집한다. 개선하고 반복한다. 

 

2.9.2 평가 전략

견고한 평가 프로세스는 에이전트 기능의 모든 측면을 포괄하는 종합 테스트 프레임워크를 수립하는 일로 시작합니다. 이 프레임워크는 예상된 시나리오와 예상치 못한 시나리오 모두에서 에이전트를 철저히 검증합니다. 

기능 테스트는 에이전트가 핵심 작업을 올바르게 수행하는지 확인하는데 초점을 둡니다. 에이전트의 각 스킬이나 모듈은 다양한 입력과 시나리오에서 기대한 대로 작동하는지 개별적으로 테스트해야 합니다. 

정확성: 설계 기반해 에이전트가 일관되게 정확하고 기대한 출력을 제공하는지 확인합니다.

경계 테스트: 매우 큰 데이터셋, 이례적 질의 , 모호한 지ㅣㅁ과 같은 엣지 케이스를 에이전트가 어떻게 처리하는지 평가합니다.

작업별 지료: 법률 분석, 의료 진단처럼 도메인별 작업을 처리하는 에이전트의 경우 해당 도메인의 정확도와 컴플라이언스 요구사항을 충족하는지 확인합니다.

 

특히 머신러닝 모델로 구송되는 에이전트 시스템은 학습에 사용된 특정 시나리오를 넘어 일반 화할 수 있는 능력을 반드시 평가해야 합니다. 이러게 하면 정확도와 신뢰성을 유지하면서 보지 못한 새롱누 경우를 처리하는지 확인할 수있습니다. 에이전트는 종종 원래 학습 도메인 밖의 작업을 접합니다. 견고하 평가는 광범위한 재학습 없이도 이러한 새로운 작어베 적응하는 능력을 검증해야 합니다.

 

2.9.3 실환경 테스트

1) 실환경의 복잡성 노출, 2)앳지 케이스 발굴, 3) 부하 상태에서의 성능 평가

테스트 노하우

단계적 배포: 제한된 환경에서의 소규모 테스트로 시작해 전체 배포로 확장합니다. 단계적 접근은 시스템이나 사용자를 과부하하지 않고 문제를 점진적으로 식별해 해결합니다.

에이전트 작동 방식 모니터링: 모니터링 도구로 실환경 테스트 동안 에이전트의 작동 방식, 응답, 성능 니표를 추적합니다. 모니터링은 응답시간, 정확도, 사용자 만족도, 시스템 안정성과 같은 KPI에 집중해야 합니다. 

사용자 패드백 수집: 실환경 테스트 중 사용자와 소통해 상호작용 경험에 대한 피드백을 수집합니다. 사용자 피드백은 간극을 파악하고 사용성을 개선하며 에이전트가 실제 요굴르 충족하는지 호가인하는 데 매우 중요합니다. 

인사이트에 따른 반복: 실환경 테스트에서 얻은 인사이트를 개발 주기로 되돌립니다. 이를 활용해 에이전트 정료화하고 능력을 향상하며 향후 반복에서 성능을 최적화합니다. 

 

Chapter3. 에이전트 시스템을 위한 UX 디자인

 

3.1 모달리티

3.1.1 텍스트 기반 인터페이스

텍스트 인터페이스의 장점은 동기식(실시간) 대화와 비동기식 상호작용을 모두 지원하는 점입니다. 사용자가 나중에 돌아와도 컨텍스트를 잃지 않고 이어갈 수 있습니다. 또한 텍스트 상호작용은 교환 내역이 명확하게 남습니다. 문제가 생겼을 때 투명성, 책임성, 트블 슈핑이 쉬워집니다.

그러나 텍스트 기반 인터페이스의 핵심 한계는 발견 가능성입니다. 사용자가 에이전트가 지원하는 능력이나 효과적인 명령 표현 방식을 모르는 경우가 많습니다. 버튼과 메뉴로 가능한 기능을 시각적으로 알려주는 그래픽 인터페이스와 달리 텍스트 기반 인터페이스는 사요자가 제공 기능을 추축하거나 기억해야 합니다. 이처럼 행동 유도성이 부족하면 혼란이 생기고 에이전트 기능이 충분히 활용되지 않으며 요청이 지원 범위를 멋어날 때 사용자의 불편함이 커집니다. 따라서 효과적인 텍스트 기반 에이전트를 설계하려면 발견 가능성을 높이는 전략이 필요합니다. 온보딩 메시지, 주기적 기능 안내, 대화 중 동적 제안을 통해 지원 기능을 선제적으로 알려야 합니다. 예를 들어서 에이전트가 인사에 응답할 때 '오늘 무엇을 도와드릴까요?'라고만 말하지 않고, '주문 취소, 배송 상태 확인, 계정 정보 업데이트를 도와드릴 수 있어요'라고 덧붙일 수 있습니다. 사용자가 에이전트의 작동 범위를 이해하도록 해 시행착오를 줄입니다.

 

3.1.2.그래픽 인터페이스

그래픽 에이전트 인터페이스에서 새롭게 떠오르는 분야는 생성형 UI의 등장입니다. 정적인 대시보드나 사전 설계된 레이아웃에만 의존하지 않고 생성형 UI는 사용자 질의에 따라 인터페이스 요소, 데이터 시각화, 구조화된 출력을 동적으로 만듭니다. 예를 들어 퍼플랙시티 AI는 텍스트 답변뿐 아니라 질문에 맞춤 지식 카드, 참고 목록, 데이터 테이블을 생성합니다. 마찬가지로 AI코딩 코파일럿은 사용자 의도를 기반으로 전체 폼, 설정 파일, UI 구성요소를 생성합니다. 

 

3.1.3 음성 인터페이스

중단을 우하하게 처리하는 능력은 음성 인터페이스 설계에서 특히 중요합니다. 사람은 언제나 원하는 바를 정확하게 한 번에 말하지 못합니다. 말을 멈추고 설명을 덧붙이거나 내용을 바꾸거나 다듬기도 합니다. 효과적인 음성 에이전트는 이런 융연성을 반영해야 합니다. 사용자가 명령을 중간에 멈춰도 혼란 없이 받아드리고 입력을 자연스럽게 수정하게 하며 대화를 새로 시작하지 않고 중단했던 지점에서 이어가야 합니다. 예를 들어 사용자가 '식당 예약을...; 아 잠깐, 내일로 바꿔줘'라고 말하면 잘 설계된 에이전트는 재입력을 요구하지 않고 그 정정을 매끄럽게 반영합니다. 이 능력은 상호작용을 자연스럽게 만들 뿐 아니라 신뢰를 쌓고 사용자의 불편함을 줄입니다. 사요자가 에이전트가 검퓨터 같은 경직된 입력을 요구하는 대신 실제 소통 패턴에 반응한다고 느끼기 때문입니다. 

 

3.1.5 모탈리티 결합을 통한 매끄러운 경험

사용자는 모달리티의 경계를 의힉하지 않습니다. 가능한 수월하고 자연스럽게 목표를 달성하길 원합니다. 모달리티를 넘나들면서 상태와 컨텍스트를 유지하는 능력은 훌륭한 에이전트 시스템 설계의 핵심입니다. 

예를 들어 사용자가 운전 중에는 음성으로 에인전트와 상호작용을 시작하고 회의실로 걸어 들어가며 휴대폰에서 텍스트로 대화를 이어가고 나중에 노트북에서 결과를 요약한 그래픽 대시보드를 검토할 수 있습니다. 다른 시나리오로 음성 비서는 분석 보고서 요약을 소리내어 읽어 준 뒤 나중에 참고할 수 있도록 차트를 포함한 상헤한 텍스트 버전을 이메일로 보낼 수 있습니다. 이러한 유동적인 모달리티 전환은 사용자 컨텍스트를 보존하고 상황적 제약에 맞게 매 순간 적합한 상호작용 방식을 제공합니다.

  모달 리티 유동성을 설계하려면 저옵, 작업 실행 상황, 사용자 선호가 전환 과정에서 결코 유실되지 않도록 세심한 상태 관리와 컨텍스트 지속성이 필요합니다. 에이전트는 또한 모달리티에 맞게 커뮤니케이션 스타일을 조정해야 합니다. 예들 들어 음성에서는 간견한 요약을 제공하고 검토용 텍스트 출력에서 더 상세한 내용을 제공합니다. 

 

3.3 컨텍스트 유지와 연속성

순수 클라이언트 측 컨텍스트(예: 브라우저 메모리 저장)는 세션 내에서는 빠르게 느껴지지만 기기나 로그인 간 연속성을 잃어 매끄러운 UX를 해칩니다. 순수 서버 측 컨텍스트(예: 사용자 ID에 연결된 데이터베이스 저장)는 장기 메모리와 크로스 디바이스 경험을 가능하게 하지만 지연시간이나 프라이버시 고려 사항을 초래할 수 있습니다. 하이브리드 접근(반응성을 위해 단기 컨텍스트는 클라이언트에 연속성을 위해 장기 컨텍스트느 서버에 보존)은 대체로 최적의 UX 균형을 달성합니다. 전략 선택은 사용자 여정, 프라이버시요구사항, 의도한 개인화 수준에 달려 있습니다. 궁극적으로 컨텍스트는 곧 UX입니다. 에이전트가 기억하고 적응하고 응답한다면 사용자는 에이전트를 상태가 없는 도구가 아니라 인간 중심적으로 도움을 주는 동료처럼 느껴지게 만듭니다.

 

3.3.1 상호작용 간 상태 유지(중요)

상호작용이 매끄럽게 느껴지려면 에이전트느 지금까지 무엇이 일어났는지 사용자가 무엇을 달성하려하는지 다음 논리적 단계가 무엇인지 정확하게 추적해야 합니다. 이는 멀티턴 대화, 작업 인계, 중간 상태가 있는 워크플로에서 특히 중요합니다. 컨텍스트를 잃으면 좌절, 비효율, 작업 포기로 이어집니다. 

에이전트 시스템이 수천, 수백만 사용자로 확장되면 세션 상태를 메모리에만 두어서는 안됩니다. 상태를 데이터베이스나 분산 캐시에 유지하면 서버 재시작 이후에도 연속성을 보장하고 로드 밸런싱을 지원하며 멀티디바이스 경험을 가능하게 합니다. 사용자 기반 메모리(지속적, 개인화)와 세션 기반 메모리(휘발적, 세션 범위) 중 선택은 애클리케이션의 프라이버시 요구, 사용자 기대, 운영 아키텍처에 좌우됩니다. 

 

3.3.2 개인화와 적응성

선호보존: 알림 선호, 자주 선택하는 옵션 같은 사용자 설정을 기업합니다.

행동 적응:관찰된 사용자 패턴에 기반해 응답 스타일이나 상호작용 흐름을 조정합니다.

능동적 지원: 과거 행동을 바탕으로 사용자 필요를 예측하고 제안을 제공합니다. 

 

3.4 에이전트 능력 커뮤니케이션(어떻게 에이전트의 능력을 사용자에게 알릴까?) (중요)

에이전트 기반 시스템에서는 특히 텍스트나 음성 인터페이스에서 눈에 보이는 행동유도성이 부족해 사용자가 에이전트의 가능, 불가능을 짐작해야 하는 경우가 많습니다. 

효과적인 에이전트 UX는 인터페이스 자체를 통해 능력을 선제적으로 커뮤니케이셔해 이 문제를 해결해야 합니다. 예를 들어 많은 채팅 기반 에이전트는 입력창 아래에 제안 액션 버튼을 제공해 '주문 추적', '요약 생성', '회의 노트 작성'처럼 일반적이거나 컨텍스트적으로 관련 있는 기능을 강조합니다. 이 버튼은 시각적으로 행동을 유도해 사용자가 특정 명령을 기억하거나 가능한 범위를 추측하지 않아도 지원 워크플로로 안내합니다. 

개방형 텍스트 입력에 주로 의존하는 시스템에서는 에이전트가 대화 속에서 스스로 능력을 분명히 알릴 수 있어야 합니다. 예를 들어 세션 시작 시'콘텐츠 생성, 데이터 분석, 문서 요약을 도와드릴 수 있습니다.오늘은 무엇을 해볼까요?'처럼 주도적으로 소개합니다. 사용자가 현재 능력을 넘어서는 기능을 요청할 때는 단순 거절 대신 대안을 제시해야 합니다. '결제를 직접 처리할 수는 없지만, 청구설정을 업데이트하거나 도와드릴 상담사와 연결해 드릴 수 있습니다.'와 같은 응답은 좌절을 줄이면서 에이전트의 유용성을 강호합니다. 

 

3.4.2 사용자 지침과 입력 요청(중요)

효과적인 에이전트는 모호성에 직면했을 때, 초점을 맞춘 유용한 질문을 하도록 설계됩니다. 예를 들어 사용자가 '시카고행 티켓 예약해 줘'라고 하면 '편도일까요? 왕복일까요? 선호하는 여행날짜가 있으신가요?'처럼 응답하니다. 일반적 기본값으로 처리하거나 잘못된 자겅을 하느니 질문으로 이해를 정교하게 다듬습니다.

질문 방식도 중요합니다. 질문은 명확하고 공손하며 컨텍스트 인식적이어야 로봇 같거나 반복적인 표현을 피해야 합니다. 사용자가 이미 대화에 일부를 답했다면 처음부터 다시 묻지 말고 그 컨텍스트를 참조해야 합니다.

 

3.4.3 우아한 실패 (중요)

우아한 실패의 핵심은 문제를 투명하게 인정하고 유용한 설명을 제공하며 실행 가능한 다음 단계를 제시하는 것입니다. 예를 들어 답을 차지 못한경우, '찾으시는 정보를 확인하지 못했습니다. 사람 상담원으로 전달해 드릴까요?'처럼 잘못된 답이나 무의미한 응답 대신 안내합니다.

또한 에이전트는 흔한 실패 지점을 예측해 사전에 폭백 메커니즘을 갖추어야 합니다. 예를 들어 음성 기반 에이전트가 반복적으로 사용자를 이해하지 못하면 텍스트 입력으로 전환하거나 '요청을 이해하는데 어려움이 있습니다. 표현을 바꿔주시거나 질문을 직접 입력해 주시겠어요?'처럼 명확히 설명합니다.

다단계 작업에서는 실패 시 진행 상태 보존이 동일하게 중요합니다. 처름부터 다시 시작하게 하지 말고 문제가 해결되면 이어서 진행될 수 있도록 진행 상황을 유지해야 합니다. 

 

3.5 상호작용 설계에서의 신뢰(중요)

투명성은 에이전트의 능력과 제약을 명확히 전달하는 데서 시작합니다. 사용자가 에이전트가 작업을 처리할 수 있는지 의도된 범위 안에서 작동하는지 추측하게 해서는 안 됩니다. 에이전트가 자신의 행동을 설명하면(추천에 이른 과정, 요청을 거절하 ㄴ이유, 모호한 지침일 어떻게 해석했는지 등) 사용자는그 추론에 대한 가시성을 얻습니다. 이는 단지 신뢰를 쌓는 문제를 넘어서 사요자가 지침을 정교화하도록 도와 이후 상호작용의 품질을 높입니다. 

예측 가능성은 다양한 상황에서의 일관된 행동을 통해 투명성을 보완합니다. 사용자는 과거 상호작용을 바탕으로 에이전트의 반응을 예측할 수 있어야 합니다. 기술적으로 옳더라도 변덕스럽거나 일관되지 않은 행동은 신뢰를 빠르게 훼손합니다. 예를 들어 컨텍스트가 비슷한 상황인데 한 번은 신중한 접근을 제안하고 다른 한 번은 과도하게 자신만만해 보인다면 사용자는 에이전트의 신뢰성을 의삼하게 됩니다.