KServe
v0.20.0AI & MLKServe v0.20.0은 LLMInferenceService에 라우팅, 분산 추적, KV 캐시 오프로딩, 트래픽 분할 기능을 추가한 기능 중심 릴리스이며, starlette 취약점(CVE-2026-48710)을 수정하고 InferencePool/InferenceObjective를 llm-d.ai CRD로 마이그레이션했습니다. 기존 InferencePool 사용자는 CRD 마이그레이션의 영향을 받습니다.
securitystarlette Content-Type 처리 취약점 수정
starlette의 Content-Type 처리 취약점(CVE-2026-48710)이 v0.20.0에서 starlette >=1.0.1로 의존성을 상향하여 수정되었습니다.
breakingInferencePool/InferenceObjective CRD를 llm-d.ai로 마이그레이션
InferencePool과 InferenceObjective CRD가 llm-d.ai로 마이그레이션되었습니다. 기존 InferencePool을 사용 중인 경우 API 그룹이 변경되었으므로 매니페스트를 업데이트해야 합니다.
breakingInferenceObjective API 그룹 변경
InferenceObjective API 그룹이 변경되었습니다. 기존 InferenceObjective를 참조하는 정의들은 새로운 API 그룹을 가리키도록 업데이트되어야 합니다.
주요 변경 (7)
- 보안: starlette Content-Type 처리 취약점 수정(CVE-2026-48710)
- InferencePool/InferenceObjective CRD를 llm-d.ai로 마이그레이션 — 기존 사용자는 매니페스트 업데이트 필요
- LLMInferenceService: 모델 기반 라우팅 게이트, 분산 추적, KV 캐시 오프로딩, 트래픽 분할 추가
- vLLM, AutoGluon Server 런타임 지원 추가
- 기밀 모델 서빙 지원, Managed DRA 지원, Anthropic Messages API(v1/messages) 추가
- GIE v1.5.0으로 상향, llm-d 컴포넌트/이미지를 v0.8.0으로 업그레이드
- 멀티노드 InferenceService Ready 상태 고정, EPP 우아한 종료/readiness 임계값 처리 개선 등 버그 수정
조치가 필요한 릴리스가 나왔을 때 주간 메일로 알려드립니다. 이번 릴리스의 보안 패치와 브레이킹 체인지 같은 것들입니다.