[AI Agent] AI Agent OT 정리

AI Agent 과정의 간단한 개요입니다. AI Agent의 과정과 AI Agent의 간단한 구성, 사례. 그리고 달성하고자 하는 목표와 필요한 리소스까지 간단하게 정리했습니다.

[AI Agent] AI Agent OT 정리
Photo by Jametlene Reskp / Unsplash

개요

LLM 기반 애플리케이션이 어떻게 질문 응답에서 실행과 자동화로 확장되는지 이해하고 실제 현업에서 AI Agent를 설계·구현·운영하는 방법을 익히는 것을 목표로 합니다.

기존의 생성형 AI 활용이 프롬프트 작성이나 단일 응답 생성에 머물렀다면, 최근의 AI Agent는 목표 이해 → 계획 수립 → 도구 사용 → 실행 → 검증까지 포함하는 방향으로 빠르게 발전하고 있습니다.

즉 2025~2026년의 흐름은 단순한 모델 성능 경쟁을 넘어 AI가 실제 움직이는 계층(Action Layer)로 확장되고 있다는 것이며 변화를 정리하면 다음과 같습니다.

  • 챗봇형 AI가 브라우저, 파일, 코드, API를 직접 다루는 실행형 AI로 이동
  • MCP, A2A 같은 표준 등장으로 모델-도구-에이전트 연결 비용 감소
  • 단순 프롬프트 엔지니어링보다 평가, 관측성, 가드레일, 승인 흐름의 중요성 증가
  • 개인용 생산성 도구를 넘어 기업 운영 자동화, 내부 업무 시스템, 고객 대응 영역으로 적용 확대

AI Agent 과정 정리

AI Agent 커리큘럼을 정의하면 다음과 같은 키워드로 정리할 수 있습니다.

1. 컨텍스트 기반 프롬프트 엔지니어링

가장 쉽고 저비용으로 시작할 수 있는 방식입니다. 시스템 프롬프트, few-shot 예시, 역할 부여, 출력 포맷 제어 등을 통해 모델의 응답 품질을 개선합니다.

적용하기 쉽고 빠르게 효과를 볼 수 있지만, 외부 도구 호출이나 장기적인 상태 관리, 신뢰할 수 있는 AI를 구성하기엔 한계가 존재합니다.

2. RAG (Retrieval Augmented Generation)

외부 문서나 사내 지식을 검색해 모델의 응답에 반영하는 방식입니다. 모델이 학습하지 않은 최신 정보나 도메인 지식을 다룰 때 매우 유용합니다. 검색 품질과 문서 구조가 성능에 큰 영향을 주며, 답변 근거를 제시하기 좋다는 장점이 있습니다.

3. AI Agent

AI Agent는 사용자의 목표를 입력받아, 필요한 단계를 스스로 구성하고 여러 도구를 호출해 작업을 수행하는 애플리케이션 패턴입니다.

목표 해석과 계획 수립을 기반으로 다양한 도구를 사용하며 결과를 도출합니다.

4. 파인 튜닝 (Fine-tuning)

특정 도메인이나 태스크에 맞게 모델을 조정하는 방식입니다. 모델에 대한 이해 뿐만 아니라 모델 운영에 대해서도 고려가 필요합니다.

Workflow, AI Agent, Agentic AI

AI Agent의 개념만 간단히 설명하면 아래 표와 같습니다.

  • Workflow와 AI Agent의 가장 큰 차이점은 흐름(고정적인지, 가변적인지의 차이)
  • AI Agent와 Agentic AI의 가장 큰 차이점은 목적 함수(스스로 목표를 생성 가능한지의 차이)
구분 Workflow AI Agent Agentic AI
목적 고정된 절차 수행 사용자가 준 목표 수행 목표 지향적 시스템 설계 패러다임
흐름 사전 정의 상황에 따라 가변 다중 에이전트/장기 실행까지 포함 가능
자율성 낮음 중간~높음 높음
활용 예 문서 요약 파이프라인 고객 문의 처리, 리서치 자동화 운영 자동화, 복합 업무 오케스트레이션

AI Agent 사례 정리

그럼에도 감이 오지 않을 수 있으니 사례를 간단하게 정리했습니다.

AI Agent에 대해 잘 알고 계시겠지만 그럼에도 조금 헷갈릴 수 있는 분들에게 항상 말하는 대표적인 사례 2가지가 있습니다. Manus와 쏘카 AI 사례입니다.

기존 챗봇이 대화 중심이었다면 Manus는 목표를 받으면 작업을 진행하는 실행형 AI라는 감각을 대중적으로 보여준 사례입니다.Manus는 사용자가 목표만 제시하면 스스로 계획을 세우고, 웹 브라우징·데이터 분석·문서 작성·코드 실행 등 여러 도구를 수행하는 에이전트 패러다임을 증명했습니다.

마누스가 개인의 생산성이었다면 기업 환경에서는 AI Agent가 고객 경험 개선과 운영 효율화에 직접 연결됩니다.

공개 발표 사례 중 하나로 차량 반납이 임박한 사용자의 운전 패턴을 분석하고 과속이나 난폭 운전 등의 사고 가능성을 조기에 감지한 뒤 그 원인이 반납 시간 부족인지 판단해 반납 시간 연장 제안이나 도착 시간 조정 같은 액션으로 이어지는 흐름이 소개되었습니다. 사고가 발생하여 차량을 운용하지 못하는 손해보다 5~10분 시간을 할당하여 사용자에게 안전 운전 할 수 있는 환경을 마련해주는 CS 에이전트 입니다.

이런 방식은 단순한 예측 모델을 넘어, 상황 판단 -> 의사결정 -> 사용자 액션 제안까지 연결된다는 점에서 Agent 관점으로 볼 수 있습니다.

https://www.youtube.com/watch?v=_1mcVipuUYY

달성하고자 하는 것

  • 어떤 문제는 Workflow로 충분하고, 어떤 문제부터 Agent가 필요한가
  • AI를 활용해 생산성 증가와 한계 비용을 낮추는 방법
  • AI의 서비스를 개발하고 고도화 가능한 구성 방법

필요한 리소스

모델 접근 수단

실습 환경

  • 코드 실행 환경

데이터 및 평가 환경

  • RAG용 문서 데이터셋(테스트용 제공)
  • 각자 구성하고 계신 데이터 활용 or 생성 데이터

과제