릴리즈

KServe v0.19.0은 LLMInferenceService의 관측 가능성, 오토스케일링, 라우팅 기능을 크게 강화한 릴리스입니다. CVE 패치 2건도 포함됩니다.

• securityCVE 두 건, 업그레이드 전 반드시 확인

  v0.19.0은 vLLM/Pillow CVE와 CVE-2026-21226(azure-core)을 수정합니다. vLLM 런타임이나 azure-core 의존성이 있는 환경이라면 v0.19.0으로 업그레이드하거나, 당장 업그레이드가 어렵다면 azure-core>=1.38.0을 수동으로 고정하세요. 커스텀 서버 이미지에 포함된 Pillow 버전도 확인하세요.

• breaking라우터 splitter off-by-one 수정으로 트래픽 분배 비율 변경

  pickupRoute의 난수 범위 계산에 off-by-one 오류가 있었고 이번에 수정됐습니다. 업그레이드 후 splitter 가중치가 올바르게 계산되므로, 기존 버그에 맞춰 가중치를 조정해두었다면 실제 트래픽 분배가 달라질 수 있습니다. 운영 환경 적용 전에 스테이징에서 분할 설정을 검증하세요.

• enhancementLLMISvc 오토스케일링 상태 모니터링 연동 권장

  HPA/KEDA 스케일링 조건이 LLMISvc status에 노출되고, 준비 상태 전환 시 k8s 이벤트가 발생합니다. LLMInferenceService를 운영 중이라면 이 조건들을 모니터링 대시보드와 알람에 추가하세요. kserve-install.sh의 --scaling 플래그를 쓰면 신규 설치 시 오토스케일링 설정이 간단해집니다.

v2.9.0은 HAMi-DRA(NVIDIA) 프로덕션 전환, Ascend HAMi-core 모드, VastAI 디바이스 지원을 추가하고 스케줄러 DoS 취약점을 패치합니다. Prometheus 메트릭 이름이 변경되어 업그레이드 전 대시보드 점검이 필요합니다.

• security스케줄러 DoS 취약점 및 Go 보안 업그레이드 적용 필요

  이번 릴리즈에서 스케줄러 HTTP 라우트에 io.LimitReader를 추가해 DoS 공격 경로를 차단했고(이슈 #554), Go를 1.26.2로 업그레이드해 upstream 보안 패치도 반영했습니다. HAMi 스케줄러가 신뢰할 수 없는 네트워크에 노출된 환경이라면 빠르게 업그레이드하세요.

• breakingPrometheus 메트릭 이름 변경 — 업그레이드 전 대시보드 점검 필수

  Prometheus 메트릭·레이블 이름이 best practices 기준으로 변경됐습니다. HAMi vGPU 메트릭 기반의 대시보드나 알림 규칙을 운영 중이라면, 업그레이드 전에 변경된 메트릭 이름을 반드시 확인하고 수정하세요. 업데이트된 dashboard.md를 참고하면 됩니다. Prometheus Operator를 쓴다면 새로 추가된 ServiceMonitor Helm 옵션도 함께 검토할 만합니다.

• enhancementHAMi-DRA(NVIDIA) 프로덕션 준비 완료 — 도입 검토 시작

  HAMi-DRA(NVIDIA)가 이번 버전부터 프로덕션 사용 가능 상태로 전환됐습니다. Kubernetes 1.26 이상을 쓰면서 기존 device plugin 방식 외에 세밀한 GPU 리소스 관리가 필요하다면 지금이 DRA를 검토할 시점입니다. DRA는 스케줄러가 GPU 리소스를 인식하는 방식 자체를 바꾸므로, 프로덕션 적용 전에 별도 클러스터에서 먼저 검증하세요.

v0.18.0은 LLMInferenceService 성숙화, CVE 3건 패치, 멀티노드 추론 기반 작업이 중심인 대형 릴리스입니다. LLM 워크로드를 운영 중이라면 업그레이드 전 꼼꼼히 검토해야 합니다.

• security즉시 적용 필요: 이번 릴리스에 CVE 3건 포함

  CVE-2026-32597(PyJWT 크리티컬 헤더 우회), CVE-2026-33186(gRPC 인증 우회), CVE-2026-30922(pyasn1 DoS)가 모두 패치됐습니다. gRPC 추론 엔드포인트나 Python 런타임을 외부에 노출 중이라면 선택 사항이 아닙니다. 특히 gRPC 인증 우회는 인증되지 않은 요청이 보호된 추론 엔드포인트에 도달할 수 있어 즉시 v0.18.0으로 업그레이드하거나 패치를 적용해야 합니다.

• breakingPYTHONPATH 웹훅 차단—ServingRuntime 사전 점검 필수

  이제 InferenceService나 ServingRuntime 스펙에 PYTHONPATH를 설정하면 어드미션 웹훅에서 거부됩니다. 커스텀 Python 모듈 경로 설정을 위해 PYTHONPATH를 쓰던 ServingRuntime이 있다면 업그레이드 후 배포가 막힙니다. 업그레이드 전에 모든 ServingRuntime과 ISVC 매니페스트를 점검하고 PYTHONPATH 사용을 제거하거나 대체 방법으로 바꿔야 합니다.

• breakingHelm 차트명 변경—기존 릴리스 마이그레이션 계획 필요

  KServe Helm 차트명이 'kserve'에서 'kserve-resources'로 바뀌었습니다. 기존 릴리스 이름으로 그냥 업그레이드하면 차트를 찾지 못합니다. 기존 Helm 릴리스 이름을 변경하거나 언인스톨 후 재설치하는 방식으로 마이그레이션을 계획해야 하며, 차트명을 참조하는 CI 파이프라인과 GitOps 설정도 함께 수정해야 합니다.

• enhancementLLMInferenceService 오토스케일링 실운영 수준 도달—LLM 워크로드에 검토 권장

  KEDA/HPA·WVA 기반 오토스케일링과 멀티노드 워크로드를 위한 LWS 오토스케일링 타겟이 추가됐습니다. vLLM 기반 추론을 대규모로 운영하면서 수동 스케일링에 어려움을 겪고 있다면 스테이징에서 llmisvc 오토스케일링을 테스트해볼 시점입니다. WVA 의존성이 v0.6.0-rc3으로 올라간 만큼 GA는 아니지만 근접한 상태로 봐야 합니다.

v0.17.0은 새로운 LLMInferenceService 베타 출시, 스토리지 병렬화 개선, vLLM 0.15.1 업그레이드, 그리고 프로덕션 환경에 영향을 미치는 주요 CVE 수정을 제공합니다.

• security중요 CVE 패치 즉시 적용 필요

  이번 릴리스는 경로 순회(storage-initializer), HTTP 파서 취약점(h11, starlette), 암호화 부분군 공격 등 여러 고위험 CVE를 해결했습니다. 특히 storage-initializer나 외부 모델 다운로드를 사용 중이라면 v0.17.0으로 신속히 업데이트하세요. 패치된 버전과 비교해 현재 CVE 스캔 결과를 검토하십시오.

• breakingLLMInferenceService 마이그레이션 계획 수립

  새로운 LLMInferenceService CRD는 기존 InferenceService와 다른 의미론을 가진 LLM 전용 API를 도입했습니다. LLM 모델을 운영 중이라면 더 나은 오토스케일링, 라우팅, 운영 기능을 위해 이 새 리소스 타입으로의 마이그레이션을 검토하세요. CRD는 API 구조에서 주요 변경사항을 포함합니다.

• enhancement병렬 스토리지 다운로드로 배포 속도 향상 활용

  Storage-initializer가 이제 S3와 Azure에서 블롭을 병렬로 다운로드해 대용량 모델의 로딩 시간을 획기적으로 단축합니다. 특히 LLM 워크로드에 유용하며, 업그레이드만으로 별도 설정 없이 자동으로 개선 효과를 누릴 수 있습니다.