KServe
v0.17.0AI & ML2026년 3월 14일
v0.17.0은 새로운 LLMInferenceService 베타 출시, 스토리지 병렬화 개선, vLLM 0.15.1 업그레이드, 그리고 프로덕션 환경에 영향을 미치는 주요 CVE 수정을 제공합니다.
security중요 CVE 패치 즉시 적용 필요
이번 릴리스는 경로 순회(storage-initializer), HTTP 파서 취약점(h11, starlette), 암호화 부분군 공격 등 여러 고위험 CVE를 해결했습니다. 특히 storage-initializer나 외부 모델 다운로드를 사용 중이라면 v0.17.0으로 신속히 업데이트하세요. 패치된 버전과 비교해 현재 CVE 스캔 결과를 검토하십시오.
enhancement병렬 스토리지 다운로드로 배포 속도 향상 활용
Storage-initializer가 이제 S3와 Azure에서 블롭을 병렬로 다운로드해 대용량 모델의 로딩 시간을 획기적으로 단축합니다. 특히 LLM 워크로드에 유용하며, 업그레이드만으로 별도 설정 없이 자동으로 개선 효과를 누릴 수 있습니다.
breakingLLMInferenceService 마이그레이션 계획 수립
새로운 LLMInferenceService CRD는 기존 InferenceService와 다른 의미론을 가진 LLM 전용 API를 도입했습니다. LLM 모델을 운영 중이라면 더 나은 오토스케일링, 라우팅, 운영 기능을 위해 이 새 리소스 타입으로의 마이그레이션을 검토하세요. CRD는 API 구조에서 주요 변경사항을 포함합니다.
주요 변경 (5)
- 웹훅, 오토스케일링, Gateway API 통합을 포함한 LLMInferenceService CRD 도입
- S3와 Azure 스토리지에서 병렬 블롭 다운로드 추가로 모델 로딩 성능 대폭 개선
- 향상된 시작 프로브와 설정 유연성을 갖춘 vLLM 런타임 0.15.1로 업그레이드
- 경로 순회, HTTP 파서 취약점, 암호화 이슈를 포함한 다수 CVE 수정
- 확장된 모델 형식 지원을 위한 OpenVINO 모델 서버 런타임과 예측 추론 서버 추가