[AI Agent] AI Agent Review(6주차)

AI Agent의 가능성과 성과가 만들어지면서 다양한 애플리케이션이 만들어집니다. 하지만 Production에서 돌리기 위한 문제가 많이 발생하죠. 따라서 저희는 문제가 정말 Agent로 풀어야 하는 문제인가를 먼저 정리합니다.

[AI Agent] AI Agent Review(6주차)
Photo by Milli / Unsplash

개요

Agent의 출발점, 4대 구성요소, 4대 패턴까지를 정리했습니다.

이를 기반으로 Multi Agent로 넘어가기 전 더 자세히 확인해보겠습니다.

AI Agent 설계하기

학습자도, 사이드 프로젝트도, 사내 PoC도 일단 "AI Agent로 만든다"부터 시작합니다. 하지만 지금까지 AI의 환각 문제, 호출 당 비용, 데이터 구성에서도 많은 작업이 필요한 걸 확인했죠.

6주차에서 가장 중요했던 한 줄은 다음이었습니다.

  • AI Agent가 적합한가
    • 경로를 미리 그릴 수 있으면 Workflow, 그릴 수 없으면 Agent.

어떤 AI Agent 문서를 확인하던 가장 서두에 강조되는 부분입니다.

  • OpenAI — A Practical Guide to Building Agents
Before committing to building an agent, validate that your use case can meet these criteria clearly. Otherwise, a deterministic solution may suffice.

OpenAI — A Practical Guide to Building Agents

그래서 다음과 같은 경우도 작성해두었죠.

기준 Workflow Agent
경로 개발자가 미리 정의 LLM이 런타임에 선택
tool 사용 정해진 순서·조건 상태에 따라 선택·반복
종료 그래프 끝 done 선언 + 외부 budget
장점 예측 가능, 디버깅 쉬움, 저렴 열린 문제 대응, 예외 처리
단점 유연성 낮음 비용·지연·실패 전파

Workflow 사례

최근엔 Workflow / AI Agent의 구분이 점점 명확해지고 있습니다.

이유는 간단합니다. 운영 환경에서 자율성보다 중요한 것이 많기 때문입니다.

  • 내구성, 관측성, 장애 복구, 중간 승인, 감사 가능한 실행 기록 등
    • 8~9주차 AI Observability에서 자세히 다루겠습니다.
      • Human-In-The-Loop (HITL), Guardrail, Tool Risk 등
Workflows for work that runs the business | Mistral AI
Workflows is now in public preview.
Durable Execution Solutions
Build invincible apps with Temporal’s open source durable execution platform. Eliminate complexity and ship features faster. Talk to an expert today!

AI Agent가 필요한 경우

저번주 자료를 통해 다음과 같이 구분할 수 있다는 것을 확인했죠.

주요 키워드와 사례입니다. 매번 결정을 LLM 런타임에 하는 경우죠

  • 동적 경로, tool 선택, 예외 처리
    • 사용자 요청
      -> 지금 검색이 필요한가?
      -> 어떤 tool을 먼저 쓸까?
      -> 검색 결과가 부족한가?
      -> 다른 출처를 더 볼까?
      -> 계산 tool을 쓸까?
      -> 이제 답해도 되는가?
도메인 Agent가 되는 이유
여행 / 일정 관리 비, 폭염, 눈 예보에 따라 야외 일정을 실내 일정으로 바꾸고 예약/이동 경로까지 조정
농업 기상, 토양, 작물 상태를 보고 관수, 방제, 수확 시점을 판단
물류 / 배송 폭우, 폭설, 강풍에 따라 배송 경로, 출발 시간, 지연 안내를 조정
건설 / 현장 작업 강풍, 낙뢰, 폭염 기준에 따라 작업 중단, 인력 재배치, 안전 공지 수행
야외 행사 / 스포츠 우천 가능성에 따라 장소 변경, 취소 판단, 참가자 안내, 장비 준비
스마트홈 / 빌딩 관리 날씨와 실내 상태를 보고 냉난방, 창문, 제습, 에너지 사용을 최적화
보험 / 재난 대응 태풍, 홍수, 우박 위험 지역을 감지하고 고객 알림, 피해 접수, 대응 우선순위 결정
항공 / 해운 / 드론 기상 조건에 따라 운항 가능 여부, 경로, 대체 계획 판단. 단, 고위험 영역이라 human-in-the-loop 필요
커머스 / 수요 예측 날씨 변화에 따라 우산, 음료, 방한용품, 배달 수요 등을 예측하고 재고/프로모션 조정