여러 모델 백엔드 앞에 놓이는 LLM 게이트웨이가 라운드로빈 대신 캐시 지역성을 보는 이유와, 토큰 계량이 하필 이 계층에서 일어나는 구조를 정리합니다.

LLM 추론이 성격이 다른 두 구간으로 나뉘는 이유와, 요청 사이에 KV 캐시를 재사용하는 프리픽스 캐싱이 과금과 로드밸런싱 설계를 어떻게 바꾸는지 정리합니다.

LLM이 토큰을 하나씩 만들어 내는 과정에서 KV 캐시가 선택이 아니라 전제인 이유를, attention의 Query·Key·Value와 메모리 비용 계산으로 설명합니다.

개발자가 만든 PVC가 StorageClass와 CSI 드라이버를 거쳐 실제 볼륨이 되고, Pod에 연결되기까지의 과정을 운영자와 개발자 관점에서 설명합니다.

PV·PVC·StorageClass가 어떻게 연결되는지 살펴보고, 클러스터 운영자와 네임스페이스 개발자가 맡는 일과 데이터 삭제 정책을 설명합니다.

EKU가 TLS 서버와 클라이언트 인증서의 역할을 어떻게 구분하는지 알아보고, KU와의 차이와 Kubernetes 서비스별 인증서 설정을 설명합니다.

같은 namespace의 Worker와 Gateway가 서로 인증하도록 Service DNS와 SAN을 맞추고, cert-manager 인증서를 Pod에 연결하는 방법을 설명합니다.

OpenSSL 설정에 나오는 req, CN, SAN, KU, EKU가 무엇을 정하는지 살펴보고, 개인키와 CSR로 TLS 인증서를 만드는 흐름을 설명합니다.

OpenSSL로 RSA 개인키, CSR, 서버 인증서, 인증서 체인을 만드는 과정을 따라가며 TLS와 mTLS에서 각 파일을 어디에 쓰는지 설명합니다.

JWT의 header와 payload로 서명값을 만들고 확인하는 과정을 살펴봅니다. HS256과 RS256의 키 사용법부터 claim 검사 순서까지 설명합니다.