기술 포트폴리오 · 슬라이드
K8s · Airflow
데이터 수집 플랫폼 운영 & 장애 대응
데이터 수집 파이프라인을 Kubernetes 위 Airflow로 운영하며, 반복 장애를 근본 원인 분석으로 해소하고 안정성·가용성을 확보
래브라도랩스(LabradorLabs) · 데이터파트 · 2024–2026 · 데이터 엔지니어 · 인프라 운영
01 · 배경
왜 K8s로 옮겼나
- 수집 파이프라인(크롤러/DAG)이 초기 Docker Compose 단일 호스트로 운영
- Task 격리 부재 · 수동 DAG 배포로 형상 관리 어려움
- 수집이 멈추면 RAW 데이터·다운스트림 전체에 영향 → 격리·가용성 필요
02 · 아키텍처
K8s 기반 Airflow로 전환 (2024-08)
Git-SyncDAG-as-Code 사이드카
Airflow on K8sKubernetesExecutor · Task별 Pod
수집 DAG크롤러 Task
PostgreSQL메타DB · 상태
모니터링상태·자원 관측
Docker Compose → Helm Chart 전환. 컨트롤플레인/워커 노드, 스토리지 클래스·Ingress·cert-manager 직접 운영, WireGuard+NAT 하이브리드 확장.
03 · 장애 대응
근본 원인까지 추적
CrashLoopBackOffCoreDNS/scheduler 다운 — git-sync↔scheduler 통신 마비 복구
Pod Eviction노드 Inode 고갈·DiskPressure 원인 분석·해소
etcd 지연Task 실패 원인 추적 → etcd HA 검토
gitSshKey·권한키 장애·권한 만료·디스크 접근 실패 복구
04 · 역할 & 배움
내 역할
- 데이터 엔지니어 · 인프라 운영으로서 K8s 전환 → 클러스터 운영 → 장애 대응 → 안정화 담당
- 크롤러/DAG 정기 운영, RAW 데이터·DB 백업 경로 관리
- 성과: 수집 파이프라인 안정성·가용성 확보, 반복 장애를 근본 원인 분석으로 해소(HA 개선 포함)
- 배움: 운영 장애는 일회성 복구보다 근본 원인·HA 설계가 핵심