챗봇은 대답만 합니다. AI 에이전트는 무엇을 할까요?

챗봇을 이미 쓰는 회사에 AI 에이전트가 따로 필요한지 판단하는 기준을 알려 드립니다. 챗봇과 AI 에이전트의 차이, 맞는 회사의 조건, 도입할 때 정할 일, 도입 뒤 확인할 항목을 설명합니다.

저녁 업무를 마치고 나서야 챗봇이 낮 동안 답한 문의 목록을 여는 날이 있으신가요? 챗봇은 손님의 질문에 답을 마쳤지만 그 내용을 표 문서에 옮겨 적고 담당자에게 전달하는 일은 아직 남아 있습니다. 퇴근이 늦어지는 원인이 답변 뒤의 일이라면 AI 에이전트를 알아볼 만합니다.

AI 에이전트(스스로 업무를 수행하는 시스템)는 대답으로 끝나는 챗봇과 달리 답변 뒤의 업무까지 맡을 수 있습니다. 챗봇을 이미 쓰는 회사에 AI 에이전트가 따로 필요한지는 직원이 답변 뒤에 반복하는 업무가 있는지로 판단할 수 있습니다.

챗봇이 답한 뒤의 일은 누가 합니까?

챗봇이 답변을 마치면 그 문의를 처리하는 일은 직원에게 남을 수 있습니다. 답변은 바로 나가더라도 문의 내용이 담당자에게 전달되고 기록으로 남기까지는 사람이 움직여야 하기 때문입니다. 학원의 상담 문의와 병원의 예약 문의, 제조 회사의 견적 문의가 그런 예입니다.

직원이 챗봇 뒤에서 반복하는 일은 다음과 같은 모양입니다.

1. 직원이 챗봇이 받은 문의 내용을 표 문서에 다시 옮겨 적습니다.

2. 직원이 문의 종류를 읽고 맞는 담당자에게 전달합니다.

3. 담당자가 처리 결과를 기록하고 손님에게 후속 안내를 보냅니다.

옮겨 적기와 전달, 기록은 한 건이면 금방 끝납니다. 하지만 문의가 몰리는 날에는 직원의 본업 시간이 그 일에 쓰이고 손님 응대와 상담에 쓸 시간이 그만큼 줄어듭니다. 옮겨 적는 동안 직원의 본업은 잠시 멈춥니다.

바쁜 주에는 전달이 늦어지고 기록이 빠지기도 합니다. 전달이 늦어진 문의는 손님이 처리 결과를 기다리는 시간이 길어지는 일로 이어집니다. 손님에게는 답변이 나갔는지보다 문의가 처리됐는지가 더 중요한 때가 있습니다.

고객 회사에 반복 업무가 있는지는 직원에게 지난주 한 일을 물으면 확인됩니다. 챗봇 답변 뒤에 따로 처리한 문의를 종류별로 적어 달라고 하시면 반복되는 일이 눈에 보입니다. 챗봇을 도입한 뒤에도 직원의 반복 업무가 그대로라면 줄어든 일은 답변 한 단계뿐입니다.

AI 에이전트는 챗봇과 무엇이 다릅니까?

IBM(IT·AI 서비스 기업)은 AI 에이전트를 업무 흐름을 직접 설계하고 작업을 스스로 수행하는 시스템이라고 정의합니다. 문의 접수 업무라면 접수 내용을 읽고 맞는 담당자 앞으로 전달하는 일까지 AI 에이전트가 수행하도록 만들 수 있습니다. 어떤 업무를 맡길지는 고객이 먼저 정하고 AI 에이전트는 정해진 업무를 수행합니다.

IBM은 도구 사용과 기억과 추론을 에이전트와 챗봇을 구분하는 기준으로 듭니다. 세 기능이 없는 챗봇은 비에이전트형 챗봇(에이전트가 아닌 챗봇)이라고 부릅니다. 도구는 일을 하는 데 쓰는 프로그램이고 기억은 앞서 나눈 내용을 보관하는 기능이며 추론은 주어진 내용에서 다음에 할 일을 따지는 기능입니다. 쓰시는 챗봇에 세 기능이 있는지는 챗봇 제공 업체의 기능 설명서에서 확인할 수 있습니다.

Anthropic(AI 모델 개발사)은 에이전트를 AI가 작업 방식과 도구 사용을 스스로 정하는 시스템이라고 정의합니다. 사람이 미리 정해 둔 순서대로 AI와 도구를 움직이는 시스템은 에이전트와 구분합니다. 둘 다 AI를 쓰지만 작업의 순서를 정하는 쪽이 사람이냐 AI냐가 다릅니다.

챗봇과 AI 에이전트의 차이는 답변 뒤의 업무를 사람이 하느냐 시스템이 수행하느냐에 있습니다. 정해 둔 순서대로 움직이는 시스템도 업무를 처리하므로 어느 쪽이 맞는지는 업무의 성격에 따라 달라집니다. 반복되는 순서가 분명한 업무인지 상황에 따라 판단이 필요한 업무인지가 그 기준입니다.

우리 회사에는 챗봇으로 충분합니까 아니면 AI 에이전트가 맞습니까?

Anthropic은 AI를 쓸 때 가능한 한 가장 단순한 해법부터 찾고 필요할 때만 구조를 복잡하게 하라고 권고합니다. 챗봇이 문의에 답하고 있고 답변 뒤에 사람이 할 일이 없다면 지금의 구성이 가장 단순한 해법일 수 있습니다. AI 에이전트는 그 구성으로 해결되지 않는 업무가 남을 때 검토할 대상입니다.

Anthropic은 에이전트 방식이 작업 성능을 높이는 대신 응답 속도와 비용 부담이 생기는 경우가 많다고 설명합니다. 답변만으로 끝나는 업무까지 AI 에이전트로 바꾸면 손님이 답을 기다리는 시간과 이용 비용이 늘 수 있습니다. 그래서 AI 에이전트를 붙일 업무는 직원 시간이 크게 줄어드는 업무로 좁힐 수 있습니다.

AI 에이전트를 검토할 만한 회사는 다음 조건에 가까운 회사입니다.

1. 같은 작업을 매주나 매달 직원이 손으로 반복하는 회사입니다.

2. 도입한 시스템이 있는데 실제로는 쓰이지 않는 회사입니다.

3. 사람을 더 뽑을지 시스템을 만들지 판단이 서지 않는 회사입니다.

도입한 챗봇이 쓰이지 않는 데에는 챗봇과 업무 사이의 연결이 비어 있는 상황이 있을 수 있습니다. 챗봇이 받은 문의를 직원이 다른 화면에서 다시 입력해야 하면 직원이 챗봇 화면을 열지 않을 수 있습니다. 이런 상황은 챗봇과 업무 사이에 연결이 비어 있는지 먼저 확인할 수 있습니다.

반대로 손님의 질문이 정해진 몇 가지로 좁혀지고 답변 뒤에 사람이 할 일이 없다면 챗봇만으로 충분할 수 있습니다. 답변만으로 끝나는 업무에는 챗봇이면 되고 답변 뒤에 사람이 반복하는 업무가 있을 때 AI 에이전트를 알아볼 만합니다. 챗봇을 빼고 AI 에이전트를 고르는 문제가 아니라 업무마다 맞는 방식을 따로 판단하는 문제입니다.

AI 에이전트를 도입하면 고객은 무엇을 정해야 합니까?

고객이 처음에 정하실 일은 맡길 업무와 처리 기준과 사람이 확인하는 지점입니다. 기준이 한 번 정해지면 같은 업무를 수행할 때마다 설명을 처음부터 반복하실 필요가 없습니다. 버튼 하나로 알아서 움직이는 모습에 가깝게 만들려면 고객이 정하는 기준이 구체적일수록 맡길 업무의 범위가 분명해집니다.

고객이 정하실 내용은 다음과 같습니다.

1. 고객이 맡길 업무를 한 가지 정합니다. 직원이 답변 뒤에 반복하는 일을 골라 한 가지로 시작할 수 있습니다.

2. 고객이 문의를 어떤 종류로 나누고 누구에게 전달할지 처리 기준을 정합니다.

3. 고객이 처리 결과를 확정하기 전에 직접 보고 승인할지 믿고 맡길지 정합니다.

도입은 업무 한 가지로 시작해 범위를 넓히는 순서로 진행할 수 있습니다. 첫 업무의 처리 결과가 기준에 맞는지 확인한 뒤에 다음 업무를 추가하면 영향을 받는 업무가 한 가지로 한정됩니다. 업무를 늘리는 속도는 확인 결과를 보고 고객이 정하시면 됩니다.

기준을 정할 때 필요한 자료는 직원이 지금 쓰는 문의 기록과 챗봇의 답변 내용입니다. 이미 쌓인 기록을 종류별로 나눠 보면 어떤 문의가 어느 담당자에게 가는지 기준이 눈에 보입니다. 업무마다 예외가 있다면 예외도 기준에 함께 적어 둘 수 있습니다.

맡길 업무를 한 가지로 정하기 어렵다면 직원이 하루 동안 한 일을 시간 순서로 적어 보는 방법이 있습니다. 같은 일이 여러 번 반복되는 모습이 보이면 맡길 후보가 드러납니다. 후보가 여럿이면 직원 시간이 많이 드는 일부터 검토할 수 있습니다.

도입한 뒤에는 무엇을 보고 잘 쓰이는지 확인합니까?

도입 뒤 확인은 도입 전에 적어 둔 기록과 도입 뒤 기록을 같은 항목으로 비교하는 방식으로 진행합니다. 비교할 항목은 다음과 같습니다.

1. 직원이 같은 업무에 쓰는 시간을 도입 전에 적어 둔 기록과 비교합니다.

2. 처리 결과 목록에서 몇 건을 골라 문의 종류와 전달 대상이 정한 기준과 맞는지 읽어 봅니다. 바쁜 날에 빠진 건이 없는지도 같은 목록에서 확인합니다.

3. 손님이 답을 받는 시간이 도입 전보다 길어지지 않았는지 챗봇 대화 기록의 시각으로 확인합니다.

4. 반복 업무에 쓰던 인건비 부담이 줄었는지 직원의 근무 시간으로 비교합니다.

도입 전에 직원이 쓰던 시간을 적어 두어야 도입 뒤에 줄었는지 비교할 수 있습니다. 비교할 기록이 없으면 느낌으로만 판단하게 되어 결과를 설명하기 어렵습니다. 도입을 결정하기 전에 일정 기간의 기록을 미리 모아 두는 방법이 있습니다.

처리 결과를 직접 보고 승인하는 방식을 고르셨다면 승인 목록에서 직원이 수정한 건이 줄어드는지도 볼 수 있습니다. 수정한 건이 줄면 기준이 업무와 맞아 가고 있다는 신호일 수 있습니다. 수정이 계속 나오는 항목은 그 항목의 기준을 다시 정하는 근거로 쓸 수 있습니다.

승인 없이 맡기는 방식으로 바꿀지는 승인 목록의 수정 기록을 보고 고객이 정하시면 됩니다. 수정이 거의 나오지 않는 업무부터 믿고 맡기고 수정이 남아 있는 업무는 승인 단계를 유지하는 선택도 가능합니다. 처리 결과 목록과 승인 목록은 사람이 확인하는 관리자 화면에서 볼 수 있게 만들 수도 있습니다.

비용은 무엇에 따라 달라집니까?

정해진 가격표는 없고 AI 에이전트에 맡길 업무가 얼마나 넓은지에 따라 범위가 달라집니다. 범위를 정하는 기준은 다음과 같습니다.

1. 맡길 업무의 수: 문의 전달 한 가지인지 정산과 보고서까지 포함하는지

2. 연결할 프로그램의 종류: 쓰시는 챗봇 외에 서로 이어야 하는 업무 프로그램이 몇 가지인지

3. 처리 기준의 준비 정도: 기준이 이미 문서로 있는지 업무 흐름을 확인하는 일부터 필요한지

4. 사람이 확인하는 화면: 처리 결과를 보고 승인하는 관리자 화면이 필요한지

맡길 업무와 연결할 프로그램, 처리 기준, 승인 화면 필요 여부를 알려 주시면 범위를 잡을 수 있습니다.

문의하면 어떤 순서로 진행됩니까?

문의에서 인계까지의 순서는 다음과 같습니다.

1. 문의를 남겨 주시면 쓰시는 챗봇과 직원이 답변 뒤에 반복하는 업무를 중심으로 상담합니다.

2. 상담 내용에 맞춰 범위와 견적을 안내합니다. 견적을 보고 진행할지는 고객이 정하시면 됩니다.

3. 진행하시기로 하면 정해진 범위의 자동화를 제작합니다.

4. 프로젝트를 마치면 고객이 직접 쓰실 수 있도록 자동화 장치와 계정을 전달합니다.

그래서 지금 챗봇에 AI 에이전트를 더해야 합니까?

업무의 처리 기준을 문장으로 적을 수 있고 직원이 그 업무를 반복하고 있다면 알아볼 만합니다. 판단이 필요한 예외가 잦은 업무는 직원이 계속 맡고 기준이 분명한 업무부터 AI 에이전트에 맡기는 순서로 시작할 수 있습니다.