고객이 메시지를 보내면 AI가 내용을 분석하고 답변까지 만들어 주는 시스템은 소규모 사업체에 상당히 매력적입니다. 반복해서 들어오는 문의에 매번 직접 답하지 않아도 되고, 영업시간이 아닐 때도 기본적인 안내를 줄 수 있기 때문입니다.
하지만 AI가 항상 정확한 답변을 만드는 것은 아닙니다. 고객 응대에서는 가격을 잘못 안내하거나, 예약 가능 여부를 틀리게 알려 주거나, 제공하지 않는 서비스를 제공한다고 답하는 작은 오류도 고객의 신뢰에 영향을 줍니다. 그래서 핵심은 "AI가 자동으로 답하게 만드는 것"이 아니라 AI가 답할 수 있는 범위와 사람이 최종 확인해야 하는 범위를 구분하는 것입니다. 이 글에서는 그 구분을 5단계로 설계하는 방법을 정리합니다.
고객 응대 AI는 무엇을 해야 할까?
고객 응대 AI의 가장 기본적인 역할은 고객의 질문을 이해하고, 필요한 정보를 찾아, 답변 초안을 만드는 것입니다. 식당이라면 "오늘 저녁 예약 가능한가요?", "주차할 수 있나요?", "메뉴에 어떤 음식이 있나요?", "이번 주말에 영업하나요?" 같은 질문이 반복해서 들어옵니다. 이런 질문은 일정한 기준에 따라 처리하기 비교적 쉽습니다.
하지만 모든 질문을 AI가 혼자 처리하도록 만드는 것은 다른 문제입니다. 고객이 환불을 요구하거나, 계약 조건을 바꿔 달라고 하거나, 특별한 예외를 요청하는 경우에는 사람의 판단이 필요합니다. 그래서 시스템을 만들기 전에 AI가 처리할 업무와 사람이 처리할 업무를 먼저 나누어야 합니다.
1단계: 자주 들어오는 고객 질문부터 정리한다
가장 먼저 할 일은 챗봇을 만드는 것이 아니라 고객이 실제로 어떤 질문을 하는지 정리하는 것입니다. 최근 고객 문의를 모아서 비슷한 질문끼리 분류해 보세요. 아래처럼 나누면 어떤 업무를 AI에게 맡길 수 있는지 훨씬 분명해집니다.
| 분류 | 질문 예시 |
|---|---|
| 기본 정보 | 영업시간, 주소, 주차 정보, 연락처, 서비스 지역 |
| 제품과 서비스 | 제품 종류, 서비스 내용, 가격 안내, 예약·이용 방법 |
| 주문과 예약 | 예약 가능 여부, 예약 변경·취소, 주문 상태 |
| 복잡한 문의 | 환불 요청, 불만 사항, 특별 할인 요청, 계약 변경, 개인적인 상황 상담 |
2단계: AI가 답변할 수 있는 범위를 정한다
AI에게 중요한 것은 "무엇이든 답하라"가 아니라 답변할 수 있는 범위를 분명히 제한하는 것입니다. 예를 들어 아래와 같은 규칙을 만들 수 있습니다. 이런 규칙이 있으면 AI가 모르는 내용을 임의로 만들어 내는 상황을 줄이는 데 도움이 됩니다.
- 회사가 제공한 공식 정보에 근거해서만 답변한다.
- 확실하지 않은 정보는 추측하지 않는다.
- 가격이나 예약 가능 여부를 임의로 만들어 내지 않는다.
- 답변에 필요한 정보가 없으면 사람에게 문의하도록 안내한다.
- 환불이나 계약 변경처럼 중요한 요청은 사람의 검토를 거친다.
3단계: AI에게 회사의 정보를 제공한다
AI가 정확하게 답하려면 답변의 근거가 되는 회사 정보가 필요합니다. AI에게 우리 회사를 가르치는 방법편 에서 설명한 것처럼 회사의 기본정보를 먼저 알려 주세요. 고객 응대용으로는 아래 자료를 정리해 두면 AI가 일정한 기준으로 답할 수 있습니다.
☑ 제품 및 서비스
☑ 가격 정보
☑ 영업시간, 주소, 연락처
☑ 예약 및 취소 정책
☑ 환불 정책
☑ 자주 묻는 질문(FAQ)
☑ 고객 응대 원칙과 금지사항
4단계: AI에게 답변 규칙을 가르친다
회사 정보를 주는 것만으로는 부족합니다. AI가 어떻게 답해야 하는지도 알려 주어야 합니다. 말투와 태도, 모르는 것을 대하는 방식, 사람에게 넘기는 조건을 규칙으로 정해 두면 AI가 단순히 정보를 전달하는 것을 넘어 회사가 정한 응대 기준에 맞춰 답하게 됩니다.
- 고객에게 항상 친절하고 전문적인 말투로 답변한다.
- 확인되지 않은 정보를 사실처럼 표현하지 않는다.
- 고객이 질문한 내용에 직접적으로 답변한다.
- 필요한 정보가 부족하면 추가 질문을 한다.
- 회사의 공식 정책과 다른 내용을 임의로 약속하지 않는다.
- 환불, 계약 변경, 민감한 불만 사항은 사람에게 전달한다.
5단계: Human-in-the-loop를 적용한다
여기서 중요한 개념이 Human-in-the-loop입니다. 직원이 만든 결과물을 상사가 검토하듯, AI가 모든 일을 혼자 처리하지 않고 중요한 단계에 사람이 개입하는 구조입니다. 고객이 질문을 보내면 아래와 같은 흐름을 만들 수 있습니다.
이 구조에서는 AI가 반복적인 작업을 맡고, 사람은 최종 판단과 승인을 맡습니다. 고객에게 직접 영향을 주는 중요한 답변일수록 이 검토 단계가 중요합니다.
AI와 사람의 고객 응대 업무 나누기
모든 문의를 사람이 검토할 필요는 없고, 모든 문의를 AI가 자동으로 처리하는 것도 적절하지 않을 수 있습니다. 영업시간이나 위치 안내처럼 공식 정보가 명확한 질문은 AI가 바로 답할 수 있습니다. 반면 환불, 계약, 가격 협상, 특별한 예외 요청처럼 판단이 필요한 경우에는 사람에게 전달하도록 설정할 수 있습니다.
| 구분 | AI가 담당 | 사람이 담당 |
|---|---|---|
| 기본 정보 | 영업시간·주소·서비스 안내 | 필요 시 정보 수정 |
| 반복 질문 | FAQ 기반 답변 | 예외 상황 판단 |
| 예약 문의 | 기본 절차 안내 | 예약 승인 및 변경 |
| 불만 사항 | 내용 정리 및 접수 | 문제 해결 및 최종 답변 |
| 환불·계약 | 요청 내용 분류 | 최종 판단 및 승인 |
이 표에서 중요한 것은 AI와 사람을 경쟁 관계로 보지 않고 업무를 분담하는 구조로 보는 것입니다. 환불이나 계약처럼 법적 의미가 있는 사안은 상황에 따라 판단이 달라지므로 사람이 확인해야 합니다. 이 글은 일반적인 정보이며 법률 자문이 아닙니다. 관련 책임은 AI가 잘못된 정보를 줬을 때 법적 책임 에서 다룹니다.
AI가 모르는 경우를 반드시 설계한다
AI 시스템을 만들 때 많은 분이 "AI가 어떻게 답할 것인가"만 생각합니다. 하지만 더 중요한 것은 AI가 모를 때 어떻게 행동할 것인가입니다. 예를 들어 고객이 "제가 받은 견적에서 추가 할인을 받을 수 있나요?"라고 물었는데 회사 정책에 할인 기준이 없다고 해 보겠습니다. 이때 AI가 임의로 "10% 할인해 드릴 수 있습니다"라고 답하면 안 됩니다.
이렇게 모르는 상황에서 쓸 답변을 미리 정해 두는 예외 처리 규칙이 AI 고객 응대 시스템에서 매우 중요합니다.
공개하기 전에 테스트한다
실제 고객에게 AI를 바로 공개하기보다 먼저 다양한 질문을 넣어 테스트해 보세요. 쉬운 질문만 테스트하면 안 됩니다. 각 상황에서 AI가 어떻게 답하는지 확인하고, 잘못된 답변이 나오면 프롬프트, 회사 정보, 업무 규칙, 사람에게 넘기는 조건을 고칩니다. 이 과정을 반복하면서 시스템을 개선할 수 있습니다.
☑ 애매한 질문
☑ 정보가 부족한 질문
☑ 잘못된 정보가 포함된 질문
☑ 불만 사항
☑ 환불 요청
☑ 예외 요청
☑ 민감한 질문
고객의 이름, 연락처, 예약 정보가 AI에 입력되는 구조라면 개인정보 취급 방식도 함께 점검해야 합니다. 이 부분은 AI 개인정보 보호 에서 자세히 다룹니다.
고객 응대 AI의 핵심은 자동화가 아니다
AI 고객 응대를 처음 시작하면 "사람이 얼마나 적게 일할 수 있는가"에 관심이 쏠리기 쉽습니다. 하지만 먼저 던져야 할 질문은 "어떤 업무를 AI에게 맡기고, 어떤 업무를 사람이 판단할 것인가"입니다. 모든 문의를 AI에게 맡기기보다 AI가 잘하는 반복 업무를 맡기고 중요한 판단은 사람이 하도록 설계하는 것이 현실적인 접근입니다.
결국 좋은 AI 고객지원 시스템은 AI 혼자 일하는 시스템이 아니라 AI와 사람이 역할을 나누어 일하는 시스템입니다.
자주 묻는 질문
Q. AI 챗봇이 모든 고객 문의에 자동으로 답변하게 만들 수 있나요?
A. 기술적으로 자동 응답이 가능한 영역은 많지만, 모든 문의를 자동화해야 하는 것은 아닙니다. 중요한 판단이나 예외 상황은 사람이 검토하도록 업무 범위를 나누는 것이 좋습니다.
Q. AI가 잘못된 답변을 하면 어떻게 하나요?
A. 먼저 회사의 공식 정보와 답변 규칙을 분명히 제공하고, AI가 확실하지 않을 때는 사람에게 넘기도록 설정할 수 있습니다. 실제 운영 전에 다양한 질문으로 테스트하는 것도 중요합니다.
Q. Human-in-the-loop란 무엇인가요?
A. AI가 업무를 처리하되 중요한 단계에서 사람이 결과를 검토하거나 승인하는 방식입니다. 고객 응대에서는 AI가 답변 초안을 만들고 사람이 최종 답변을 승인하는 식으로 적용할 수 있습니다.
Q. 소규모 사업체도 AI 고객 응대를 쓸 수 있나요?
A. 가능합니다. 처음부터 복잡한 시스템을 만들기보다 반복해서 들어오는 질문 몇 가지로 시작하고, 사용 결과를 확인하면서 범위를 넓혀 가는 방식이 현실적입니다.
핵심 정리
- 고객 응대 AI의 핵심은 자동화가 아니라 AI가 답할 범위와 사람이 확인할 범위를 나누는 것입니다.
- 5단계: 자주 묻는 질문 정리, 답변 범위 결정, 회사 정보 제공, 답변 규칙 교육, 사람의 검토(Human-in-the-loop).
- 환불, 계약, 불만, 예외 요청은 사람이 판단하도록 넘기세요.
- AI가 모를 때 어떻게 답할지(담당자 확인 안내)를 미리 설계하세요.
- 공개 전에 애매하고 까다로운 질문까지 테스트하고 계속 고치세요.
고객 응대 AI를 도입할 때 가장 먼저 할 일은 반복적인 문의를 찾아내고, AI가 처리할 업무와 사람이 처리할 업무를 나누는 것입니다. AI가 잘하는 일은 AI에게 맡기고, 사람이 해야 할 판단은 사람이 맡는 것. 이것이 고객 응대 AI를 설계할 때 가장 먼저 생각해야 할 원칙입니다.