아마존의 AI Nova 모델, 문서 처리 효율성을 4배 향상시키다

문서 처리의 고민

기업이 커질수록 따라오는 고민 중 하나는 ‘문서 처리’입니다. 특히 보험 청구나 사고 보고처럼 복잡하고 다양한 정보를 담고 있는 문서는 시간이 지날수록 양도 늘어나고, 그만큼 관리도 어려워집니다. 아마존 역시 예외는 아닙니다. 전 세계 수많은 고객과 직원, 협력사를 상대하는 만큼, 각종 클레임(청구) 문서를 효율적으로 처리하는 일이 점점 더 중요해지고 있습니다. 최근 아마존은 이 문제를 해결하기 위해 자사의 생성형 AI 모델인 ‘Amazon Nova’를 내부 시스템에 적용한 사례를 공개했습니다. 이번 발표는 단순한 기술 도입을 넘어, 실제 비즈니스 운영에서 AI가 어떤 방식으로 실질적인 가치를 만들어낼 수 있는지를 보여주는 흥미로운 사례로 주목받고 있습니다.

AI의 도입과 효과

아마존의 기술팀은 기존에도 AI 기반 요약 시스템을 활용해 클레임 데이터를 500단어 이하로 정리하는 자동화 솔루션을 운영하고 있었습니다. 하지만 시간이 지나면서 새로운 문서가 계속 추가되자, 처리 속도와 비용이 큰 부담으로 떠올랐습니다. 한 건의 청구서를 요약하는 데 평균 3~5분이 걸리고, 그에 따른 연산 비용도 만만치 않았기 때문입니다. 이에 따라 팀은 보다 빠르고 경제적인 대안을 찾기 시작했고, 그 결과 Amazon Nova Foundation Models를 테스트하게 되었습니다.

Nova 모델의 성능

Nova 모델 중에서도 특히 Nova Lite와 Nova Micro가 주목받았습니다. 이 두 모델은 긴 문서나 다양한 형식의 데이터를 다루는 데 강점을 보였으며, 기존 시스템 대비 처리 속도는 최대 4배 빨라졌고 비용은 무려 98~99%까지 절감됐습니다. Nova Lite는 복잡한 문서에서 핵심 내용을 뽑아내는 데 효과적이었고, Nova Micro는 속도 면에서 뛰어난 성능을 보였습니다. 무엇보다 기존에 사용하던 프롬프트(지시문)를 그대로 사용할 수 있어 시스템 전환 시 별도의 재설계 없이 자연스럽게 통합할 수 있었다는 점도 큰 장점으로 작용했습니다.

전체 워크플로우 최적화

이러한 성능 향상은 단순히 모델 자체의 능력뿐 아니라 전체 워크플로우 설계에서도 비롯됐습니다. AWS Glue로 원시 데이터를 정리하고, Amazon S3와 SQS로 작업을 분산 처리하며, 최종 요약은 Lambda와 Bedrock 위에서 실행됩니다. 여기에 DynamoDB를 활용해 중복 작업을 줄이고 캐시를 저장함으로써 전체적인 효율성을 높였습니다. 요약하자면, AI 모델만 바꾼 것이 아니라 전체 데이터 흐름을 최적화해 실질적인 시간과 비용 절감을 이뤄낸 셈입니다.

AI 전략과 미래 가능성

이번 발표는 아마존이 최근 몇 년간 이어온 AI 전략과도 맞닿아 있습니다. 2023년부터 아마존은 자사 인프라를 활용한 생성형 AI 서비스인 Amazon Bedrock을 통해 다양한 기업 고객에게 LLM(대규모 언어 모델)을 제공해 왔습니다. Nova 시리즈 역시 이 흐름의 연장선에 있으며, 외부 고객뿐 아니라 내부 운영에도 적극적으로 적용되고 있다는 점에서 의미가 큽니다. 특히 금융이나 물류처럼 문서량이 많은 부문에서 실제 성과를 입증했다는 점은 앞으로 다른 산업군에서도 유사한 접근이 가능하다는 가능성을 보여줍니다.

실제 비즈니스 현장에서의 가치

정리하자면, 아마존의 이번 사례는 생성형 AI가 단순히 화려한 기술 시연에 머무르지 않고, 실제 비즈니스 현장에서 어떻게 문제 해결에 기여할 수 있는지를 잘 보여줍니다. 특히 장문의 복잡한 문서를 다루는 업무에서는 품질뿐 아니라 속도와 비용이라는 현실적인 요소가 중요합니다. Nova Lite와 Micro 모델은 이러한 요구를 균형 있게 충족시키며 실용성을 입증했습니다.

AI 도입에 대한 질문

AI 기술이 점점 더 일상 업무에 스며들고 있는 지금, 이번 사례는 우리에게 한 가지 중요한 질문을 던집니다. “우리 조직의 반복적이고 시간이 많이 드는 작업 중, AI로 더 나아질 수 있는 부분은 어디일까?” 답은 각자의 환경에 따라 다르겠지만, 아마존처럼 차근차근 실험하고 검증하는 과정이 결국 가장 확실한 길일지도 모르겠습니다.