AI 에이전트란 무엇인가

1. 1

   답하는 AI에서 일하는 AI로

   “지난달 환불이 왜 늘었는지 찾아 줘”라는 요청을 받았다고 합시다. 이미 집계표가 있으면 한 번의 요약으로 끝날 수 있습니다. 자료가 여기저기 흩어져 있으면 매출표 조회, 문의 분류, 계산을 어떤 순서로 할지 정해야 합니다. 이 수업에서는 그런 조사 순서를 고르는 과정을 가상으로 연습합니다.

   에이전트라는 말의 범위는 제품마다 다릅니다. 여기서는 모델이 상황에 맞춰 다음 단계와 도구를 선택하는 구성을 뜻합니다. 개발자가 “분류 → 초안 → 사람 확인”을 미리 고정한 워크플로와 구분해서 설명하되, 실제 제품에서는 두 방식이 섞일 수 있습니다.

   목표를 주었다고 어떤 도구든 쓸 권한이 생기는 것은 아닙니다. 환불 증가 원인 조사라는 목표와 환불 실행은 다릅니다. 읽을 수 있는 집계표, 변경할 수 있는 파일, 보낼 수 있는 메시지는 별도로 정합니다. 모델의 계획은 그 허용 범위 안에서만 실행돼야 합니다.

   챗봇·워크플로·에이전트 비교

   방식	다음 단계를 정하는 쪽	예
   챗봇	사람 (질문할 때마다)	회의록을 붙여 넣고 요약을 받음
   워크플로	개발자 (미리 짜 둔 순서)	문의가 오면 분류 → 답장 초안 → 담당자 확인
   에이전트	LLM (결과를 보며 그때그때)	환불이 늘어난 이유를 찾으려고 자료를 조회하고, 계산하고, 다시 조회함

2. 2

   판단 → 도구 → 확인을 되풀이한다

   에이전트의 속은 대개 단순합니다. LLM이 목표를 보고 쓸 도구와 입력값을 정하면, 앱이나 서비스가 그 도구를 실행해 결과를 돌려줍니다. LLM은 결과를 보고 다음 단계를 정하고, 목표를 이룰 때까지 이 과정을 되풀이합니다.

   

   도구는 검색, 데이터베이스 조회, 파일 읽기, 계산, 메일 초안 작성처럼 미리 연결해 둔 기능입니다. 단계마다 실제 결과를 받아 보기 때문에, 처음 계획이 틀려도 중간에 방향을 바꿀 수 있습니다.

   가령 모델이 계산 도구에 30과 20을 넘겨 증가율 50%를 받았다고 합시다. 이 수치는 연습용 가정입니다. 계산이 맞아도 30과 20이 같은 기간과 같은 기준의 환불 건수인지 확인해야 합니다. 도구 출력이 성공했다는 사실은 입력 자료 선택까지 옳았다는 증거가 아닙니다.

   '이번 달 환불 문의가 지난달보다 늘었는지 알려 줘'를 받은 에이전트의 진행 (예시)

   차례	LLM의 판단	도구 사용	받은 결과
   1	이번 달 문의 목록부터 봐야 한다	문의 DB 조회 (10월)	문의 412건
   2	환불 문의만 세야 한다	분류 기준으로 집계	환불 57건
   3	비교하려면 지난달 숫자가 필요하다	문의 DB 조회 (9월 환불)	환불 41건
   4	이제 답할 수 있다	(도구 없음)	"57건으로 지난달 41건보다 16건 늘었습니다"

   확인해 보기

   • 에이전트형 서비스를 쓸 때는 어떤 도구를 어떤 값으로 썼는지 단계별 기록을 보여 주는지 확인하세요. 기록이 있어야 틀린 결과가 어느 단계에서 생겼는지 찾을 수 있습니다.

1. 3

   잘 맞는 일과 아직 이른 일

   에이전트는 몇 단계가 필요할지 미리 알 수 없고 순서를 정해 둘 수 없는 일에 맞습니다. 대신 단계가 늘어나는 만큼 시간과 비용이 더 들고, 앞 단계의 작은 실수가 뒤로 이어질 수 있습니다.

   그래서 가장 단순한 방법부터 시작하는 것이 좋습니다. 한 번 요청으로 되는 일이면 챗봇으로, 순서가 늘 같은 일이면 워크플로로 충분합니다.

   조사의 순서가 늘 같다면 먼저 워크플로로 시작합니다. 매주 같은 열의 매출표를 합산하는 일은 정해진 계산이 더 분명한 기준을 줍니다. “AI를 쓴다”는 이유로 매번 새 계획을 만들 필요는 없습니다. 반면 자료를 하나 읽을 때마다 다음 질문이 달라지는 조사는 단계 선택이 도움이 될 수 있습니다.

   일의 성격에 맞는 방식 고르기

   일의 성격	알맞은 방식	이유
   질문 하나에 답하기, 요약·번역	챗봇 (한 번 요청)	단계가 하나라 에이전트가 필요 없음
   순서가 늘 같은 반복 업무	워크플로	정해진 순서가 더 싸고 결과를 예측하기 쉬움
   몇 단계가 필요할지 모르는 조사·수정	에이전트	결과를 보며 다음 할 일을 정해야 함
   되돌리기 어려운 일 (송금, 대량 삭제)	사람이 하거나, 사람 승인을 반드시 거침	작은 판단 오류가 그대로 실행됨

   우리 팀 업무 중 에이전트에 맡길 만한 일을 고르고 싶어. 아래 세 가지가 '한 번 요청', '정해진 흐름', '에이전트' 중 무엇에 맞는지 이유와 함께 표로 알려 줘.
   1) 매주 월요일, 늘 같은 양식으로 주간 매출 보고서 만들기
   2) 고객 불만이 갑자기 늘어난 원인 찾기
   3) 영문 계약서 한 장 번역하기

   아래는 업무를 나누어 보는 편집용 판단 예시입니다. 같은 이름의 업무라도 자료 상태와 허용 범위에 따라 더 단순한 방법으로 끝날 수 있습니다.

   업무별로 알맞은 방식 (예시)

   업무	알맞은 방식	이유
   주간 매출 보고서	정해진 흐름	매주 같은 자료를 같은 순서로 모아 같은 양식에 채우므로 단계를 미리 정할 수 있음
   불만 증가 원인 찾기	에이전트	어떤 자료를 몇 번 찾아봐야 할지 미리 알 수 없음
   계약서 번역	한 번 요청	단계가 하나임. 다만 계약서를 넣어도 되는지 회사 보안 규정부터 확인

2. 4

   맡기기 전에 정할 것: 권한·승인·멈춤

   에이전트는 스스로 여러 단계를 실행하므로, 실수하거나 속았을 때의 피해도 그만큼 커질 수 있습니다. 처음에는 시험용 환경에서 충분히 돌려 보고, 아래 네 가지를 정한 뒤에 실제 업무에 연결하세요.

   특히 웹페이지, 메일, 문서를 읽는 에이전트는 그 안에 숨겨진 지시문에 속을 수 있습니다. 이를 프롬프트 인젝션이라고 하며, 데이터를 빼내거나 원치 않는 동작을 하게 만드는 공격에 쓰입니다.

   멈춤 기준은 “문제가 해결될 때까지”만으로 충분하지 않습니다. 이번 종이 실습에서는 도구 시도 5회 또는 같은 조회 실패 2회에서 보류로 끝내기로 정합니다. 이 숫자는 안전이 보장되는 보편 기준이 아니라 흐름을 배우기 위한 임의의 조건입니다. 실제 서비스는 작업 비용과 복구 가능성에 맞춰 정합니다.

   에이전트를 연결하기 전 점검표

   정할 것	왜	예
   권한은 최소로	실수나 공격이 미치는 범위를 줄임	처음에는 읽기만 허용하고 쓰기·삭제는 막기
   되돌리기 어려운 일은 사람 승인	작은 판단 오류가 그대로 실행되지 않게	메일 발송, 결제, 삭제 전에 사람이 확인
   멈춤 조건	끝없이 돌며 비용이 쌓이지 않게	최대 단계 수, 비용 상한
   읽어 온 내용은 자료로만	웹페이지·메일 속 숨은 지시에 속지 않게	외부 글 속 지시는 따르지 않게 하고, 한 일을 기록으로 검토

   확인해 보기

   • 처음에는 시험용 계정과 가짜 데이터로 돌려 보고, 단계별 기록에서 에이전트가 무엇을 왜 했는지 확인하세요.
   • 승인 단계가 실제로 작동하는지, 승인하지 않으면 정말 멈추는지도 시험해 보세요.
3. 5

   실패·재시도·승인을 상태로 남기기

   도구 호출이 실패하면 같은 동작을 무조건 반복하지 않습니다. 읽기 요청인지 상태를 바꾸는 요청인지 먼저 구분합니다. 조회를 다시 하는 것과 환불을 다시 실행하는 것은 영향이 다릅니다. 응답이 늦게 왔다고 처음 요청이 실행되지 않았다고 단정해서도 안 됩니다.

   

   상태를 “조사 중”, “자료 부족”, “검토 대기”, “완료”처럼 나누면 진행을 설명하기 쉽습니다. 검토 대기에서 답이 없다는 이유로 승인된 것으로 넘어가지 않습니다. 작업 담당자는 무엇을 확인해야 다음 단계로 갈 수 있는지 구체적으로 남깁니다. 승인 버튼이 있어도 거부했을 때 실행이 차단되는지 시험해야 합니다.

   로그에는 필요한 입력 요약, 호출한 도구, 성공·실패, 결과물 위치를 남깁니다. 비밀번호나 고객 원문 전체를 무조건 저장하지는 않습니다. 모델이 나중에 “성공했다”고 쓴 문장과 실제 시스템의 완료 기록이 다르면 완료 기록을 우선 확인합니다. 조사 보고서를 만들었다면 파일이 실제로 열리는지도 봅니다.

정답을 맞혀야 다음 수업으로 가는 시험이 아닙니다. 해설을 읽고 이해하는 데 사용하세요.

1. Q1환불 원인 조사 중 도구가 “환불 실행”도 제공합니다. 목표만으로 실행해도 될까요?

   내 생각 적기 (선택)

   내 생각 적기 (선택)

   작성 내용은 전송되지 않으며, 페이지를 떠나거나 새로고침하면 사라져요. 필요한 내용은 복사해 두세요.

   답과 해설 보기

   아닙니다. 조사와 금전 처리는 다른 작업 범위입니다. 허용된 읽기·계산·초안 범위에서 진행하고 실제 환불은 별도 권한과 절차를 따라야 합니다.

   해설을 읽고 이해했어요

   직접 비교한 표시이며 자동 채점은 아니에요.

2. Q230÷20으로 50% 증가를 계산했습니다. 원인까지 알 수 있나요?

   내 생각 적기 (선택)

   내 생각 적기 (선택)

   작성 내용은 전송되지 않으며, 페이지를 떠나거나 새로고침하면 사라져요. 필요한 내용은 복사해 두세요.

   답과 해설 보기

   증가율만으로 원인을 알 수 없습니다. 기간과 정의가 같은지도 확인해야 하고 원인 주장은 추가 자료가 필요합니다. 수치는 연습용으로 지어낸 값입니다.

   해설을 읽고 이해했어요

   직접 비교한 표시이며 자동 채점은 아니에요.

3. Q3검토 대기 상태에서 답이 없으니 다음 단계로 넘어가도 될까요?

   내 생각 적기 (선택)

   내 생각 적기 (선택)

   작성 내용은 전송되지 않으며, 페이지를 떠나거나 새로고침하면 사라져요. 필요한 내용은 복사해 두세요.

   답과 해설 보기

   답이 없는 것은 승인이 아닙니다. 대기 상태를 유지하고 필요한 판단과 자료를 남겨야 합니다. 정한 중단 조건에 도달했다면 미완료 상태를 정확히 보고합니다.

   해설을 읽고 이해했어요

   직접 비교한 표시이며 자동 채점은 아니에요.

1. 6

   직접 해 보기: 다섯 칸 실행 기록

   종이에 다섯 줄을 긋고 목표를 “가상 환불 증가의 근거 두 가지를 찾고 보고서 초안을 만들기”로 적습니다. 허용 도구는 미리 준비한 집계표 읽기와 계산, 보고서 초안 작성뿐입니다. 고객 연락, 환불 실행, 운영 설정 변경은 이번 목표의 작업 범위가 아닙니다.

   첫 줄에는 건수 표를 읽고 20건과 30건을 확인했다고 적습니다. 둘째 줄에서는 기간이 같다는 조건을 확인하고, 셋째 줄에서 증가율을 계산합니다. 넷째 줄의 문의 유형 표가 누락됐다면 둘째 근거를 지어내지 말고 자료 부족으로 끝냅니다. 모델이 더 그럴듯한 이유를 말해도 관찰 자료가 생긴 것은 아닙니다.

   초안에는 “건수는 50% 증가, 유형별 원인은 자료 부족으로 미확인”이라고 씁니다. 20·30과 50%는 연습용 값입니다. 목표를 다 이루지 못했어도 확인한 범위와 남은 자료를 정확히 알리면 유용한 결과입니다. 마지막에는 조회 실패를 두 번 넣어 멈춤 규칙이 정말 적용되는지도 종이 위에서 따라가 보세요.