2025.03금융·공공신규 구축

국가 연구과제 분석 파이프라인

전처리부터 추론까지를 노드로 연결해 연구원이 직접 구성하도록 했습니다.

웹서버·인프라

배경

연구원들이 매번 개발팀에 요청해야 데이터 전처리부터 모델 추론까지 파이프라인을 바꿀 수 있었다. 연구 방향이 자주 바뀌는 국가 연구과제 특성상, 개발팀을 거치지 않고 연구원이 직접 구성을 조정할 수 있어야 했다.

그 상황에서 무엇을 왜 골랐는지

연구원마다 필요한 전처리 단계와 모델 조합이 달라, 고정된 파이프라인 하나로는 대응이 안 됐다. 각 단계를 독립된 노드로 만들어 연구원이 필요한 노드만 골라 연결하게 하니, 새 실험 구성마다 개발팀 요청 없이 바로 시도할 수 있었다.

연구 과정에서 참고 논문이나 기존 실험 기록을 찾아야 하는 경우가 잦았다. 이를 별도 검색 노드로 만들어 다른 추론 노드와 자유롭게 연결할 수 있게 했다.

문제

노드를 자유롭게 연결하게 하니 연구원이 잘못된 순서로 연결해 실행이 중간에 실패하는 경우가 잦았다.

접근

노드마다 입력·출력 데이터 형식을 정의하고, 형식이 맞지 않는 연결은 실행 전에 화면에서 미리 표시하도록 했다.

결과

실행 후 실패를 확인하는 대신 연결 단계에서 문제를 미리 발견할 수 있게 됐다.

문제

PyTorch 기반 추론 노드가 무거운 모델을 쓸 때 실행 시간이 길어져, 같은 서버에서 다른 연구원의 파이프라인 실행이 밀렸다.

접근

추론 노드 실행을 대기열로 관리하고, 실행 중인 파이프라인 상태를 각 연구원 화면에서 확인할 수 있도록 했다.

결과

서버 자원이 겹치는 상황에서도 어떤 실행이 먼저 처리되는지 연구원이 파악할 수 있게 됐다.

연구원용 노드 구성 가이드와 파이프라인 저장·재사용 방법을 문서로 제공했다. 소스코드와 실행 환경 구성을 인계했고, 신규 노드 유형 추가는 과제 진행에 맞춰 별도로 지원했다.

PyTorchRAGVector DB