Platform Engineering / MLOps
EKS 클라우드 네이티브 플랫폼을 혼자 설계하고 운영하며 배운 것들
IDC 물리 서버 인프라에서 시작해, 사내 최초 EKS 플랫폼을 1인 아키텍트로 구축하기까지 — IaC, GitOps, Observability, FinOps, AI CI/CD 전 영역에서 실제로 겪은 판단과 트레이드오프를 기록한다. 유행보다 구조적 무결성을, 운영보다 플랫폼을 우선한다.
대표 사례
다섯 축마다 실제로 겪은 과정을 쓴 글로 이어진다.
- 설계Observability 스택을 Greenfield 로 세우다장애 조사 시 시스템 3개를 오가던 것을 Grafana 한 곳으로
- 안정화스케줄러 내부까지 파고들어 오토스케일링을 잡다중요 서비스 다운타임 0 · Pod 분산 ±10% 이내 · Ready 비율 50% 이상
- 제품화플랫폼을 개발자가 쓰는 제품으로 만들다새 서비스 환경 구성 며칠 → 10분 · 카탈로그 등록 수동 → Push 후 30분 내 자동
- AI 운영LLM 을 파이프라인의 운영 컴포넌트로 다루다파이프라인 온보딩 하루 → .gitlab-ci.yml 3줄 · 공통 로직을 중앙 템플릿 1곳으로
- 최적화비용을 감이 아니라 데이터로 줄이다메모리 요청이 실사용의 3~4배이던 것을 p95×1.5 기준으로 조정