AI 에이전트란 무엇인가

질문에 답만 하는 챗봇과 달리, 에이전트는 목표를 받아 도구를 쓰고 결과를 확인하며 일을 끝까지 진행합니다. 작동 원리와 잘 맞는 일, 맡기기 전에 정할 것을 정리했습니다.

핵심 정리

1. 1

   답하는 AI에서 일하는 AI로

   챗봇은 사람이 묻는 만큼 답합니다. 에이전트는 '지난달 환불이 왜 늘었는지 찾아 줘'처럼 목표를 받으면, 무엇부터 할지 스스로 정하고 자료를 찾고 계산하면서 일을 끝까지 진행합니다.

   둘 사이에는 워크플로가 있습니다. LLM을 쓰되 '분류 → 초안 작성 → 사람 확인'처럼 순서를 개발자가 미리 정해 둔 방식입니다. 에이전트는 이 순서까지 LLM이 상황을 보며 정한다는 점이 다릅니다.

   챗봇·워크플로·에이전트 비교

   방식	다음 단계를 정하는 쪽	예
   챗봇	사람 (질문할 때마다)	회의록을 붙여 넣고 요약을 받음
   워크플로	개발자 (미리 짜 둔 순서)	문의가 오면 분류 → 답장 초안 → 담당자 확인
   에이전트	LLM (결과를 보며 그때그때)	환불이 늘어난 이유를 찾으려고 자료를 조회하고, 계산하고, 다시 조회함

2. 2

   판단 → 도구 → 확인을 되풀이한다

   에이전트의 속은 대개 단순합니다. LLM이 목표를 보고 쓸 도구와 입력값을 정하면, 앱이나 서비스가 그 도구를 실행해 결과를 돌려줍니다. LLM은 결과를 보고 다음 단계를 정하고, 목표를 이룰 때까지 이 과정을 되풀이합니다.

   도구는 검색, 데이터베이스 조회, 파일 읽기, 계산, 메일 초안 작성처럼 미리 연결해 둔 기능입니다. 단계마다 실제 결과를 받아 보기 때문에, 처음 계획이 틀려도 중간에 방향을 바꿀 수 있습니다.

   '이번 달 환불 문의가 지난달보다 늘었는지 알려 줘'를 받은 에이전트의 진행 (예시)

   차례	LLM의 판단	도구 사용	받은 결과
   1	이번 달 문의 목록부터 봐야 한다	문의 DB 조회 (10월)	문의 412건
   2	환불 문의만 세야 한다	분류 기준으로 집계	환불 57건
   3	비교하려면 지난달 숫자가 필요하다	문의 DB 조회 (9월 환불)	환불 41건
   4	이제 답할 수 있다	(도구 없음)	"57건으로 지난달 41건보다 16건 늘었습니다"

   확인해 보기

   • 에이전트형 서비스를 쓸 때는 어떤 도구를 어떤 값으로 썼는지 단계별 기록을 보여 주는지 확인하세요. 기록이 있어야 틀린 결과가 어느 단계에서 생겼는지 찾을 수 있습니다.
3. 3

   잘 맞는 일과 아직 이른 일

   에이전트는 몇 단계가 필요할지 미리 알 수 없고 순서를 정해 둘 수 없는 일에 맞습니다. 대신 단계가 늘어나는 만큼 시간과 비용이 더 들고, 앞 단계의 작은 실수가 뒤로 이어질 수 있습니다.

   그래서 가장 단순한 방법부터 시작하는 것이 좋습니다. 한 번 요청으로 되는 일이면 챗봇으로, 순서가 늘 같은 일이면 워크플로로 충분합니다.

   일의 성격에 맞는 방식 고르기

   일의 성격	알맞은 방식	이유
   질문 하나에 답하기, 요약·번역	챗봇 (한 번 요청)	단계가 하나라 에이전트가 필요 없음
   순서가 늘 같은 반복 업무	워크플로	정해진 순서가 더 싸고 결과를 예측하기 쉬움
   몇 단계가 필요할지 모르는 조사·수정	에이전트	결과를 보며 다음 할 일을 정해야 함
   되돌리기 어려운 일 (송금, 대량 삭제)	사람이 하거나, 사람 승인을 반드시 거침	작은 판단 오류가 그대로 실행됨

   우리 팀 업무 중 에이전트에 맡길 만한 일을 고르고 싶어. 아래 세 가지가 '한 번 요청', '정해진 흐름', '에이전트' 중 무엇에 맞는지 이유와 함께 표로 알려 줘.
   1) 매주 월요일, 늘 같은 양식으로 주간 매출 보고서 만들기
   2) 고객 불만이 갑자기 늘어난 원인 찾기
   3) 영문 계약서 한 장 번역하기

   세 가지를 이렇게 나눌 수 있습니다.

   업무별로 알맞은 방식 (예시)

   업무	알맞은 방식	이유
   주간 매출 보고서	정해진 흐름	매주 같은 자료를 같은 순서로 모아 같은 양식에 채우므로 단계를 미리 정할 수 있음
   불만 증가 원인 찾기	에이전트	어떤 자료를 몇 번 찾아봐야 할지 미리 알 수 없음
   계약서 번역	한 번 요청	단계가 하나임. 다만 계약서를 넣어도 되는지 회사 보안 규정부터 확인

4. 4

   맡기기 전에 정할 것: 권한·승인·멈춤

   에이전트는 스스로 여러 단계를 실행하므로, 실수하거나 속았을 때의 피해도 그만큼 커질 수 있습니다. 처음에는 시험용 환경에서 충분히 돌려 보고, 아래 네 가지를 정한 뒤에 실제 업무에 연결하세요.

   특히 웹페이지, 메일, 문서를 읽는 에이전트는 그 안에 숨겨진 지시문에 속을 수 있습니다. 이를 프롬프트 인젝션이라고 하며, 데이터를 빼내거나 원치 않는 동작을 하게 만드는 공격에 쓰입니다.

   에이전트를 연결하기 전 점검표

   정할 것	왜	예
   권한은 최소로	실수나 공격이 미치는 범위를 줄임	처음에는 읽기만 허용하고 쓰기·삭제는 막기
   되돌리기 어려운 일은 사람 승인	작은 판단 오류가 그대로 실행되지 않게	메일 발송, 결제, 삭제 전에 사람이 확인
   멈춤 조건	끝없이 돌며 비용이 쌓이지 않게	최대 단계 수, 비용 상한
   읽어 온 내용은 자료로만	웹페이지·메일 속 숨은 지시에 속지 않게	외부 글 속 지시는 따르지 않게 하고, 한 일을 기록으로 검토

   확인해 보기

   • 처음에는 시험용 계정과 가짜 데이터로 돌려 보고, 단계별 기록에서 에이전트가 무엇을 왜 했는지 확인하세요.
   • 승인 단계가 실제로 작동하는지, 승인하지 않으면 정말 멈추는지도 시험해 보세요.