[2026-05-13 | D-Log] 흩어진 사내 자료를 일일이 뒤지던 담당자, 어떻게 초안 검토에만 집중하게 됐을까? : 아마존(Amazon) 재무 기술팀의 생성형 AI 업무 혁신

아마존 재무 기술팀이 다룬 문제는 거창한 챗봇 출시가 아니었다. 규제기관이 보낸 질문에 답하려면 과거 답변, 내부 정책, 재무 문서, 표와 슬라이드를 뒤져야 했다. 담당자는 비슷한 질문을 찾고, 근거 문서를 확인하고, 답변 초안을 다시 써야 했다. 이 작업은 기업 규모가 커질수록 느려진다. 아마존은 이 병목을 생성형 AI 기반 검색·답변 시스템으로 줄였다.

핵심 데이터는 이미 회사 안에 있었다. 과거 규제 문의와 답변, PDF, 프레젠테이션, 스프레드시트, 내부 지식 문서가 재료가 됐다. 문제는 자료가 한곳에 있지 않고 형식도 제각각이었다는 점이다. 같은 사안도 문서 이름, 표 구조, 질문 표현이 달라지면 일반 검색으로는 놓치기 쉽다. 재무팀은 먼저 문서를 읽을 수 있는 단위로 바꾸고, 질문과 답변의 짝을 다시 찾을 수 있게 색인했다.

시스템의 기법은 검색 증강 생성(RAG, 필요한 문서를 먼저 찾고 그 근거로 답변을 쓰는 방식)에 가깝다. 사용자가 규제기관의 질문을 입력하면 시스템은 질문 문장을 그대로 검색하지 않는다. 질문의 의도를 여러 표현으로 풀고, 과거 문서에서 의미가 비슷한 조각을 찾는다. 단어가 같은 문서보다 문맥이 가까운 문서를 우선 찾기 위해 벡터 검색(문장의 의미를 숫자 좌표로 바꿔 가까운 항목을 찾는 방법)을 쓴다.

문서를 자르는 방식도 중요했다. 재무 문서는 표, 각주, 슬라이드 제목, 첨부 설명이 같이 붙어 있다. 너무 크게 자르면 필요한 근거를 찾기 어렵고, 너무 작게 자르면 숫자와 설명의 연결이 끊긴다. 아마존 팀은 문서를 계층적으로 나눴다. 작은 조각으로 검색 정확도를 확보하되, 답변을 만들 때는 상위 문맥을 함께 불러와 문장의 근거가 끊기지 않게 했다.

답변 생성 단계에서는 모델이 새 사실을 지어내지 못하게 하는 장치가 필요했다. 규제 대응 문서는 틀린 문장 하나가 위험하다. 시스템은 답변 초안과 함께 근거 문서를 연결하고, 어떤 문서 조각이 답변에 쓰였는지 추적한다. 개발팀은 OpenTelemetry 같은 관측 도구로 검색, 생성, 응답 흐름을 살폈다. 어디서 잘못된 문서가 선택됐는지, 어느 질문에서 답변 품질이 떨어지는지 확인하기 위한 데이터다.

기업 조직 안에서 더 까다로운 부분은 기술보다 운영이었다. 규제 대응 자료는 민감하고, 접근 권한도 다르다. 시스템은 모든 문서를 한 덩어리로 모델에 던질 수 없다. 누가 어떤 자료를 볼 수 있는지, 답변 초안에 어떤 근거를 붙일지, 사람이 최종 검토할 지점을 어디에 둘지 정해야 한다. 아마존 사례의 핵심은 AI가 사람 대신 규제 답변을 확정했다는 데 있지 않다. 사람이 검토할 초안을 더 빨리 만들고, 근거 찾기 시간을 줄였다는 데 있다.

성과는 응답 시간의 구조가 바뀐 데서 나온다. 담당자가 수동으로 문서를 뒤지고 비슷한 답변을 찾던 단계가 자동 검색으로 이동했다. 반복 문의는 과거 근거와 답변 패턴을 빠르게 불러올 수 있다. 새 문의도 관련 문서 후보를 먼저 좁혀 주기 때문에 검토자는 빈 화면에서 시작하지 않는다. 데이터와 기법이 만든 성과는 답변 자동화 그 자체보다, 규제 대응 업무의 첫 시간을 줄인 데 있다.

이 사례가 다른 기업에 주는 교훈도 분명하다. 생성형 AI 도입의 출발점은 모델 이름이 아니라 문서 구조다. 내부 문서가 흩어져 있고 권한 체계가 불명확하면 답변 품질도 흔들린다. 반대로 질문 이력, 근거 문서, 검토 로그가 잘 쌓여 있으면 RAG 시스템은 업무 지식을 다시 꺼내 쓰는 도구가 된다. 아마존 재무팀의 사례는 사내 데이터가 정리될 때 AI가 규제 대응 같은 보수적인 업무에서도 쓸모를 만들 수 있음을 보여준다.

참고 출처

• 참고자료 바로가기

How Amazon Finance streamlines regulatory inquiries by using generative AI on AWS | Amazon Web Services