[2026-05-07 | D-Log] 수십만 대의 펫 카메라 데이터, 어떻게 지연 없이 저렴하게 분석했을까?

수십만 대의 기기에서 쏟아지는 반려동물 행동 모니터링 데이터는 실시간 처리가 필수적이다. 사용자는 자신의 반려동물이 지금 무엇을 하는지 즉각 확인하고 싶어 한다. 영상 데이터를 지연 없이 분석해 의미 있는 행동을 포착하고 알림으로 전달하는 과정은 서비스의 핵심이다. 하지만 기기 대수가 늘어날수록 분석 인프라에 가해지는 부담은 기하급수적으로 커진다. 초당 수많은 프레임을 처리하면서도 비용을 합리적인 수준으로 유지하는 일은 엔지니어링의 난제다.

Tomofun은 반려동물 카메라 서비스를 운영하며 이 문제와 마주했다. 기존에는 그래픽 처리 장치(GPU) 기반 인프라를 사용해 영상 속 반려동물 행동을 추론했다. 서비스 규모가 커지면서 추론 비용이 급증했고 실시간성을 유지하는 일조차 버거워졌다. 고성능 연산 자원을 계속 늘리는 방식은 지속 가능하지 않았다. 인프라 운영 비용을 낮추면서도 사용자에게 끊김 없는 실시간 알림 서비스를 제공할 새로운 대안이 필요했다.

분석 과정은 반려동물 카메라 영상 프레임이 들어오면서 시작한다. 카메라에서 수집된 영상 데이터는 API 서버로 전송된다. 서버는 요청을 받아 모델 추론을 수행할 인스턴스 그룹으로 데이터를 전달한다. 여기서 행동 분석을 위해 이미지와 텍스트를 함께 처리하는 모델인 BLIP이 사용된다. 영상 프레임은 이 모델을 거쳐 반려동물의 현재 상태를 나타내는 결과값으로 변환된다. 최종적으로 감지된 행동 정보는 사용자에게 즉시 알림으로 전달된다.

모델을 인프라에 최적화하기 위해 컴포넌트 단위 컴파일 방식을 택했다. 복잡한 모델 전체를 한꺼번에 수정하는 대신 구성 요소를 잘게 분리했다. 각 요소별로 경량 래퍼(wrapper)를 작성해 하드웨어 가속기인 AWS Inferentia2에 맞게 변환했다. 파이토치(PyTorch)로 작성된 기존 모델 코드를 그대로 두면서도, 뉴런 소프트웨어 개발 키트(Neuron SDK)를 활용해 개별 컴포넌트를 컴파일했다. 이렇게 최적화된 요소들을 추론 파이프라인 내에서 순차적으로 통합해 실행했다.

방식은 모델의 모듈화 가능성을 전제로 한다. 전체 모델을 독립적인 기능 단위로 쪼갤 수 있어야 최적화가 가능하다. 또한 각 컴포넌트 사이를 오가는 입출력 텐서(tensor) 형태를 표준화해야 한다. 데이터 형식이 일치하지 않으면 파이프라인이 중간에 멈추는 오류가 발생하기 때문이다. 하드웨어 가속기가 지원하는 라이브러리와의 호환성도 사전에 확인해야 한다. 모델 구조를 직접 바꾸지 않고 입출력 어댑터만 구현하는 전략은 하드웨어 이식성을 높이는 효과적인 패턴이다.

기존 파이토치 코드베이스를 그대로 유지하면서도 비용 효율적인 추론 인프라를 확보했다. GPU와 Inferentia2 백엔드 사이를 실시간으로 전환하며 상황에 맞는 유연한 운영이 가능해졌다. 하드웨어 가속기를 도입하면서도 개발 환경의 변화를 최소화한 점이 특징이다. 인프라 운영팀은 모델을 재설계하는 수고를 덜고도 추론 비용을 절감하는 성과를 거뒀다. 현장에서는 복잡한 인프라 교체 없이도 서비스의 실시간성과 경제성을 동시에 잡는 환경이 구축됐다.

참고 출처

• 참고자료 바로가기

Cost effective deployment of vision-language models for pet behavior detection on AWS Inferentia2 | Amazon Web Services