고객센터 혁신을 이끄는 생성형 AI, NewAssist의 성공 사례와 교훈

고객센터 혁신과 AI

고객센터에 전화를 걸어본 경험, 아마 한 번쯤은 있으실 겁니다. 문의한 내용을 설명하고, 상담원이 답을 찾기까지 기다리는 그 시간. 때로는 몇 분이 걸리기도 하고, 원하는 답을 얻지 못해 다시 전화를 해야 할 때도 있죠. 영국의 금융 서비스 기업 NewDay는 이런 고객 경험을 개선하기 위해 생성형 AI 기술을 도입했습니다. 그리고 최근, 이들이 개발한 ‘NewAssist’라는 AI 기반 상담원 지원 도구가 90% 이상의 정확도를 달성하며 본격적인 실무 적용 단계에 들어섰다는 소식이 전해졌습니다.

AI 조력자의 역할

NewAssist는 단순한 챗봇이 아닙니다. 고객센터 상담원이 실시간으로 고객과 통화할 때, 필요한 정보를 빠르게 찾아주는 ‘AI 조력자’ 역할을 합니다. 예를 들어, 고객이 카드 분실 신고를 하며 절차를 묻는다면, 상담원은 수십 개의 내부 문서를 뒤질 필요 없이 NewAssist가 제시하는 요약된 안내를 바로 확인할 수 있습니다. 이 시스템은 음성을 텍스트로 변환하고, 질문의 맥락을 파악해 관련 지식을 찾아 제안하는 방식으로 작동합니다.

기술적 발전과 성능 향상

기술적으로 보면 NewAssist는 AWS의 클라우드 인프라 위에서 구축됐습니다. Amazon Bedrock과 같은 생성형 AI 플랫폼을 활용했고, OpenSearch Serverless를 통해 방대한 내부 문서를 빠르게 검색할 수 있도록 했습니다. 초기에는 정확도가 60% 수준에 머물렀지만, 데이터를 더 정교하게 가공하고 실제 사용자 피드백을 반영하면서 성능이 꾸준히 향상됐습니다. 특히 내부 약어나 줄임말(예: ‘dd’는 direct debit) 등을 AI가 이해하지 못했던 문제를 해결하기 위해, 자주 쓰이는 표현들을 미리 학습시키는 방식으로 대응했습니다.

현실적인 장벽과 극복 전략

물론 순탄치만은 않았습니다. 기존 시스템과의 연동 문제나 비용 부담, 경영진 설득 등 여러 현실적인 장벽도 있었죠. 처음에는 음성 기반 비서 형태로 시작했지만 현실적인 제약 속에서 방향을 바꿔 텍스트 중심의 챗봇으로 축소 운영하며 가능성을 검증했습니다. 이렇게 소규모 실험부터 시작해 점진적으로 확장하는 전략은 결과적으로 현명한 선택이었습니다.

조직 내 디지털 전환 흐름

이번 발표는 단순히 새로운 기술 도입 사례 이상의 의미를 가집니다. NewDay는 이미 2023년부터 자체 기술 역량 강화를 위한 다양한 시도를 해왔고, 이번 프로젝트 역시 사내 해커톤에서 출발한 아이디어였습니다. 즉흥적인 시도가 아니라 조직 전체의 디지털 전환 흐름 속에서 자연스럽게 이어진 결과라고 볼 수 있습니다.

작게 시작하는 접근법

특히 주목할 점은 이들이 ‘작게 시작해서 빠르게 실험하고 점진적으로 확장한다’는 원칙을 충실히 따랐다는 것입니다. 이는 최근 많은 기업들이 생성형 AI 도입 과정에서 참고할 만한 접근법입니다. 무턱대고 대규모 시스템을 도입하기보다는, 실제 사용자의 행동과 데이터를 관찰하면서 유연하게 방향을 조정하는 것이 오히려 성공 가능성을 높인다는 교훈이 담겨 있습니다.

사람 중심의 기술 활용

결국 NewAssist의 사례는 기술보다 사람이 중심이라는 점을 다시 한번 일깨워줍니다. 아무리 뛰어난 AI라도 실제 사용자가 어떻게 활용하느냐에 따라 성능과 효용은 크게 달라집니다. NewDay가 보여준 것처럼 데이터 품질 관리와 사용자 피드백 반영은 생성형 AI 성공의 핵심 요소입니다.

지속 가능한 혁신의 길

생성형 AI가 우리 일터에 스며드는 속도는 생각보다 빠릅니다. 하지만 그만큼 신중함도 필요합니다. 이번 사례처럼 작게 시작해 실질적인 효과를 검증하고 점차 확장해 나가는 방식이야말로 지속 가능한 혁신의 길일지도 모릅니다.