RATATOSK
← リリース一覧

KServev0.16.0

セキュリティ 2破壊的変更 19非推奨 1重大な修正 28機能・改善 43依存関係の更新 8その他の変更 49

KServeの通知を受け取る

週次メールは確認すべき変更がある週だけ、深刻度がcriticalのセキュリティアドバイザリは即時に届きます。

セキュリティ2

KServe コントローラーへの RuntimeDefault seccomp プロファイルの追加

影響対象KServe コントローラー、LocalModel コントローラー、または LocalModelNode エージェントのマニフェストを使用するデプロイメント(Helm chart のコントローラーのデプロイメントを含む)(推定)

従来、示されていた Pod セキュリティコンテキストでは seccompProfile が設定されておらず、Helm chart に記載されたコントローラーのセキュリティコンテキストのデフォルト値は {"runAsNonRoot":true} でした。今回対象となるコンテキストでは、seccompProfile.type: RuntimeDefault が指定されるようになりました。

原文を表示
* Fix pss restricted warnings by @akagami-harsh in https://github.com/kserve/kserve/pull/4327
github.com/kserve/kserve/releases/tag/v0.16.0

storage-initializer の Pod マニフェストにおける HF トークン露出の修正

影響対象Kubernetes Secret に保存された HF トークンを使用する storage-initializer ワークロード(推定)
追加の対応Pod マニフェストに平文値を埋め込まず、valueFrom と secretKeyRef で Kubernetes Secret を参照して HF_TOKEN を注入する方式

HF トークンが Pod マニフェスト内に平文で注入され、漏えいする可能性がありました。

原文を表示
* Fix HF Token Vulnerability in Storage Initializer Container by @brettmthompson in https://github.com/kserve/kserve/pull/4677
github.com/kserve/kserve/releases/tag/v0.16.0

破壊的変更19

InferenceService のサービスを default サフィックスなしで作成

影響対象default サフィックスを使用する InferenceService コンポーネント

これらのコンポーネントは、以前はこのサフィックス付きでサポートされていました。

根拠“With this PR, the support for compatibility with the "default" suffix has been removed. Any InferenceService component that is still using the "default" suffix will now have a new service created without the suffix.” kserve/kserve/pull/4178 ↗
原文を表示
* chore: remove 'default' suffix compatibility by @sivanantha321 in https://github.com/kserve/kserve/pull/4178
github.com/kserve/kserve/releases/tag/v0.16.0

OpenTelemetryCollector のデフォルトのリソースリクエストと上限の追加

影響対象InferenceService のオートスケーリングでデフォルトの OpenTelemetryCollector 設定を使用するインストール環境(推定)

デフォルト値として、CPU のリクエストと上限はいずれも 1、メモリのリクエストと上限はいずれも 2Gi に設定されます。

原文を表示
* add resource default for otel collector container limit in configmap by @andyi2it in https://github.com/kserve/kserve/pull/4633
github.com/kserve/kserve/releases/tag/v0.16.0

クイックインストールスクリプトのバージョン固定値の更新

影響対象hack/quick_install.sh を使った新規 kind クラスターへのインストール

新規 kind クラスターで hack/quick_install.sh -r を実行すると、Istio の Helm スキーマ検証エラーが発生して失敗し、KServe v0.16.0-rc0 のリリース候補も入手できませんでした。スキーマ検証との互換性に対応するため、スクリプトは Istio 1.27.1 を選択するようになりました。また、入手可能でサポートされているリリースである KServe v0.15.2 を選択します。

原文を表示
* fix: istio installation failures and update kserve to stable version  by @Ce11an in https://github.com/kserve/kserve/pull/4684
github.com/kserve/kserve/releases/tag/v0.16.0

LLMInferenceService の設定プリセットにおける SSL 無効化

影響対象変更された設定プリセットを使用する LLMInferenceService デプロイメント

以前のプリセットでは、--enable-ssl-refresh と証明書および鍵の引数で SSL を有効にし、HTTPS のヘルスプローブを使用していました。現在はこれらの SSL 引数を省略し、HTTP のヘルスプローブを使用します。PRでは、BackendTLSPolicy が実装されるまでの一時的な変更と説明されています。

原文を表示
* Temporarily disable SSL to unblock e2e tests by @Jooho in https://github.com/kserve/kserve/pull/4731
github.com/kserve/kserve/releases/tag/v0.16.0

LLMInferenceService のプリセットで runAsNonRoot を false に設定

影響対象影響を受ける構成プリセットを使用する LLMInferenceService のデプロイメント(推定)

このリリース以前は、プリセットで runAsNonRoot が true に設定されていました。

根拠“+ runAsNonRoot: false” kserve/kserve/pull/4731 ↗
原文を表示
* Temporarily disable SSL to unblock e2e tests by @Jooho in https://github.com/kserve/kserve/pull/4731
github.com/kserve/kserve/releases/tag/v0.16.0

自動スケーリング指標の数量で入力時の表現を保持

影響対象value または averageValue を使う自動スケーリングのメトリクスターゲットを設定した InferenceServices(KEDA 互換経路を含む)(推定)

以前は、JSON シリアライズ時に value と averageValue が正規化され、シリアライズ後の表現が入力時と異なることがありました。現在は、利用できる場合は元の生入力を使ってシリアライズし、検証用のパース済み resource.Quantity も保持します。

根拠“// MarshalJSON implements custom JSON marshaling using the original raw value for KEDA compatibility” kserve/kserve/pull/4699 ↗
原文を表示
* Use a wrapper struct to accept resource.Quantity and keep the original input by @houshengbo in https://github.com/kserve/kserve/pull/4699
github.com/kserve/kserve/releases/tag/v0.16.0

S3 の設定元と空値の処理の変更

影響対象サービスアカウントまたは Secret のアノテーション、Secret データ、inferenceservice-config ConfigMap を通じて設定された S3 ストレージ

以前は、空の S3_ENDPOINT または S3_USE_HTTPS のアノテーション値もコンテナ環境変数に設定されることがありました。現在は、S3 の値を Secret データからも取得できます。アノテーションは Secret データより優先され、Secret データは S3 設定より優先されます。いずれの取得元でも、空文字列はコンテナ環境変数から除外されます。

根拠“Regardless of where their value is set (annotation, secret data, or s3 config) they will always be set in the container env unless the value is an empty string.” kserve/kserve/pull/4727 ↗
原文を表示
* Add Support for Configuring S3 Storage via Secret Data by @brettmthompson in https://github.com/kserve/kserve/pull/4727
github.com/kserve/kserve/releases/tag/v0.16.0

llmisvc-resources チャートへの推論サービス用 ConfigMap の追加

影響対象llmisvc-resources Helm チャート(推定)

このチャートには gateway-inference-extension.yaml が含まれなくなりました。新しい inferenceservice.yaml テンプレートで inferenceservice-config ConfigMap が定義されます。

根拠“+ name: inferenceservice-config” kserve/kserve/pull/4729 ↗
原文を表示
* Add llmd e2e tests by @andresllh in https://github.com/kserve/kserve/pull/4729
github.com/kserve/kserve/releases/tag/v0.16.0

LLMInferenceService の CRD と webhook を専用の Kustomize 設定へ移行

影響対象Kustomize ベースの LLMInferenceService インストール(推定)

独立したインストール用の構成は、kustomize build config/overlay/llmisvc でビルドできます。

原文を表示
* refactor: separate llmisvc manifests from default kustomization by @Jooho in https://github.com/kserve/kserve/pull/4763
github.com/kserve/kserve/releases/tag/v0.16.0

KServe Python での Pydantic v1 のサポート終了

影響対象Pydantic v1 を使用する Python SDK の環境(推定)

これまでは、Pydantic v1 と v2 の両方がサポートされていました。

根拠“Currently both v1 and v2 pydantic is supported, dropped support for v1 for the support overhead.” kserve/kserve/pull/4353 ↗
原文を表示
* chore: drop pydantic v1 support by @sivanantha321 in https://github.com/kserve/kserve/pull/4353
github.com/kserve/kserve/releases/tag/v0.16.0

Python Model クラスからの predictor_host と PredictorConfig の削除

影響対象Model クラスで predictor_host または PredictorConfig を使用する Python KServe SDK のモデル(推定)

以前は、Python の Model クラスがモデルのスコープで両方の属性を公開していました。現在、PredictorConfig はコンテキストから取得します。これを必要とせずに、既存の機能を引き続き利用できます。

根拠“Breaking: Remove predictor_host and PredictorConfig from the Model class” kserve/kserve/pull/4526 ↗
原文を表示
* Refactor KServe to use global context for PredictorConfig by @sivanantha321 in https://github.com/kserve/kserve/pull/4526
github.com/kserve/kserve/releases/tag/v0.16.0

学習済みモデルのシャーディング Strategy インターフェースの削除

影響対象学習済みモデルのシャーディングパッケージの Strategy インターフェースをインポートまたは参照する Go コード(推定)

このインターフェースは GetOrAssignShard を宣言していました。

原文を表示
* Remove unused Strategy interface from sharding package by @houshengbo in https://github.com/kserve/kserve/pull/4590
github.com/kserve/kserve/releases/tag/v0.16.0

name が空でない標準 Predictor の作成ブロック

影響対象name フィールドが空でない標準 Predictor を使用する InferenceService
根拠“This PR adds validation to catch misconfiguration in the `name` field of standard predictor in creation time.” kserve/kserve/pull/4535 ↗
原文を表示
* disallow `name` field in standard predictor by @HutakiHare in https://github.com/kserve/kserve/pull/4535
github.com/kserve/kserve/releases/tag/v0.16.0

並列度 CRD の形式を int32 に限定

影響対象parallelism.pipeline または parallelism.tensor の値が int32 の範囲外である LLMInferenceService および LLMInferenceServiceConfig リソース(推定)
根拠“+ format: int32” kserve/kserve/pull/4596 ↗
原文を表示
* update CRDs for LWS based multi node support by @VedantMahabaleshwarkar in https://github.com/kserve/kserve/pull/4596
github.com/kserve/kserve/releases/tag/v0.16.0

LLMInferenceService CRD と API 型からの storage spec の削除

影響対象storage を設定する LLMInferenceService または LLMInferenceServiceConfig マニフェスト(推定)

以前の LLMInferenceService CRD には、ModelMesh を使用しないデプロイとの互換性のために storage が含まれていました。

根拠“The Storage Spec was added to InferenceServices because this is the format that ModelMesh supports. For non-ModelMesh deployments, KServe added support for compatibility.” kserve/kserve/pull/4622 ↗
原文を表示
* Remove storage spec from LLMIsvc by @israel-hdez in https://github.com/kserve/kserve/pull/4622
github.com/kserve/kserve/releases/tag/v0.16.0

LLMInferenceService 検証 Webhook の追加

影響対象ルーターのルートまたはワークロードの並列処理を設定した LLMInferenceService リソース

ルーターの複数フィールド間の制約を確認します。たとえば、インラインのルート仕様とカスタム HTTPRoute の参照の併用を禁止し、ワークロードの並列処理に関する制約も検証します。

原文を表示
* feat(webhook): introduces Validating Webhook for LLMInferenceService by @VedantMahabaleshwarkar in https://github.com/kserve/kserve/pull/4631
github.com/kserve/kserve/releases/tag/v0.16.0

LLMInferenceService LoRA API の LLMModelSpec 使用への変更

影響対象LLMInferenceService CRD で LoRA API を使用する構成

以前、LoRA API は既存の ModelSpec 型を使用していました。

根拠“The LLMInferneceService CRD LoRA API wasn't meant to use the existing ModelSpec but the LLMModelSpec type” kserve/kserve/pull/4663 ↗
原文を表示
* [llmisvc] Improve config merge and update well-known presets by @pierDipi in https://github.com/kserve/kserve/pull/4663
github.com/kserve/kserve/releases/tag/v0.16.0

EnableDirectPvcVolumeMount フラグの削除

影響対象EnableDirectPvcVolumeMount を使用するストレージ初期化設定(推定)

このフラグのデフォルト値は、複数のリリースにわたって true でした。PRでは、従来の false の経路は事実上使われていないと説明されていますが、そのコードとテストはまだ残っていました。

根拠“EnableDirectPvcVolumeMount has been defaulted to true for several releases, making the legacy false path effectively dead.” kserve/kserve/pull/4694 ↗
原文を表示
* deprecate: remove EnableDirectPvcVolumeMount flag by @anurags25 in https://github.com/kserve/kserve/pull/4694
github.com/kserve/kserve/releases/tag/v0.16.0

llmisvc-resources Helm チャートへの検証 Webhook の追加

影響対象LLMInferenceService または LLMInferenceServiceConfig リソースを管理する llmisvc-resources Helm チャートのインストール(推定)

検証 Webhook は CREATE と UPDATE 操作を対象とします。

原文を表示
* llmisvc dev & kustomize setup, add webhook config to helm chart  by @sivanantha321 in https://github.com/kserve/kserve/pull/4712
github.com/kserve/kserve/releases/tag/v0.16.0

非推奨1

KServe のデプロイモードを Standard と KNative に改称

影響対象デプロイモードの値を設定する、またはデフォルトモードに依存する KServe 構成
削除予定不明

デフォルトは Standard になりました。従来の値は非推奨フィールドとして残り、設定コンストラクターによってアップコンバートされます。

原文を表示
* refactor: 4602 - Refactor "RawDeployment" to "Standard" and "Serverless" to  "KNative" to clarify usage by @cjohannsen-cloudera in https://github.com/kserve/kserve/pull/4608
github.com/kserve/kserve/releases/tag/v0.16.0

重大な修正28

  • HuggingFace TextIteratorStreamer による特殊トークンのスキップ
    影響対象HuggingFace バックエンドのテキスト生成ストリーミング

    この機能により、以前はストリーミング応答に含まれていた <|im_end|> や <|endoftext|> などの特殊トークンがスキップされます。

    * fix: Update TextIteratorStreamer to skip special tokens by @sivanantha321 in https://github.com/kserve/kserve/pull/4490
    github.com/kserve/kserve/releases/tag/v0.16.0
  • InferenceGraph のエンドポイント解決における ServingRuntime プロトコルの反映
    影響対象V2 専用の ServingRuntime を使用し、protocolVersion が設定されていない InferenceService を持つ InferenceGraph ワークロード

    従来、このケースではエンドポイント解決によって V1 エンドポイントが返され、InferenceGraph ルーターの設定が誤っていました。現在はワークロードに V2 エンドポイントが設定されます。

    * Resolve inference endpoint using runtime protocol when applicable by @israel-hdez in https://github.com/kserve/kserve/pull/4527
    github.com/kserve/kserve/releases/tag/v0.16.0
  • KEDA OpenTelemetry スケーリングメタデータの修正
    影響対象KEDA で OpenTelemetry メトリクストリガーを使用する InferenceService(推定)

    KServe が KEDA の OpenTelemetry メトリクストリガーを生成する際、スケーリング自体の範囲を指定するフィールドであるにもかかわらず、clampMin と clampMax に InferenceService のレプリカ数の上下限を設定していました。KServe が生成するトリガーのメタデータから、これら2つのフィールドが除外されるようになりました。

    * fix: unset clampMax and clampMin, since they are not for replicas by @houshengbo in https://github.com/kserve/kserve/pull/4556
    github.com/kserve/kserve/releases/tag/v0.16.0
  • HTTPRoute 再調整時の再キュー処理を修正
    影響対象HTTPRoute ingress の再調整を行う InferenceService(推定)

    再調整中に HTTPRoute が見つからない、または準備ができていない場合、再調整が再キューされず、準備ができていないルートが通知なくスキップされることがありました。現在は、準備ができていないルートや見つからないルートについて再キューし、望ましい状態への収束を支援します。

    * refactor: Enhance HTTPRoute readiness checks by @sivanantha321 in https://github.com/kserve/kserve/pull/4543
    github.com/kserve/kserve/releases/tag/v0.16.0
  • OpenTelemetryCollector のスケーリングで指定したすべての指標を使用
    影響対象OpenTelemetryCollector のスケーリング指標を複数指定している InferenceService(推定)

    以前は、指定した指標のうち最後の指標だけが含まれていました。現在は、指定したすべての指標がスケーリングに含まれます。

    * Fix: Support multiple metrics in OpenTelemetryCollector for autoscaling by @houshengbo in https://github.com/kserve/kserve/pull/4591
    github.com/kserve/kserve/releases/tag/v0.16.0
  • 名前空間とデプロイメント単位で分離された KEDA オートスケーリング
    影響対象KEDA/OpenTelemetry オートスケーリングを使用する InferenceService のデプロイメント(推定)

    異なるデプロイメントや名前空間のメトリクスが混在し、オートスケーリングが誤る可能性がありました。OTelCollector は namespace と deployment のラベルを追加し、KEDA のクエリはこれらのラベルを使ってメトリクスを絞り込みます。

    * Fixed the issue of the same metrics across different deployments under different namespaces by @houshengbo in https://github.com/kserve/kserve/pull/4593
    github.com/kserve/kserve/releases/tag/v0.16.0
  • Hugging Face 分類タスクの確率処理の修正
    影響対象return_probabilities=True を使用する Hugging Face の分類タスク(推定)

    return_probabilities=True の場合、シーケンス分類では確率ではなく生のロジットが返されることがありましたが、fill-mask では確率が返されていました。タスクの種類にかかわらず、Softmax が一貫して適用されるようになりました。

    * feat: Add disable postprocessing option for raw logits by @sivanantha321 in https://github.com/kserve/kserve/pull/4566
    github.com/kserve/kserve/releases/tag/v0.16.0
  • InferenceService の Stopped condition 処理の修正
    影響対象停止/再開コントローラーによってリコンシルされる InferenceService(推定)

    Stopped condition がない場合は、false に初期化されます。再開時は、以前の値が true の場合に限り、condition が false に設定されます。

    * [Followup] Improve the stop/resume Inference Service tests and status by @hdefazio in https://github.com/kserve/kserve/pull/4636
    github.com/kserve/kserve/releases/tag/v0.16.0
  • GPU 検出での NVIDIA MIG リソース認識
    影響対象NVIDIA MIG GPU リソースの上限を設定したワークロード

    nvidia.com/mig で始まるリソース名により、ワークロードが GPU 対応として識別されます。

    * fix: Adds support for NVIDIA MIG GPU resource detection by @sivanantha321 in https://github.com/kserve/kserve/pull/4642
    github.com/kserve/kserve/releases/tag/v0.16.0
  • 進行中および失敗状態のコンポーネントデプロイ状態への反映
    影響対象KServe コンポーネントのデプロイ(推定)
    * Last Deployment Status Should Reflect Deployment Status by @HotsauceLee in https://github.com/kserve/kserve/pull/4667
    github.com/kserve/kserve/releases/tag/v0.16.0
  • すべての状態における InferenceService のモデルコピー数ステータス更新
    影響対象モデルが Pending、Loading、FailedToLoad、または Loaded 状態にある InferenceService(推定)

    以前は、モデルが Loaded に達した後にのみ ModelCopies が更新されていたため、Pending、Loading、FailedToLoad の間は totalCopies がステータスに含まれていませんでした。現在は、すべてのモデル状態で ModelCopies.TotalCopies が保存され、準備完了の Pod 数が記録されます。

    * Fix: Update ModelCopies.TotalCopies for all model states  by @hardik-menger in https://github.com/kserve/kserve/pull/4676
    github.com/kserve/kserve/releases/tag/v0.16.0
  • 推論ログ設定で入力済みの埋め込み logger spec を優先
    影響対象埋め込み logger spec とグローバル logger ConfigMap の両方を使って推論ログを設定している推論サービス

    以前は、設定が入力された埋め込み logger spec が無視され、代わりにグローバル ConfigMap が使われていました。現在は埋め込み spec が優先され、埋め込み spec に設定が入力されていない場合はグローバル設定が使われます。

    * 4739 - Fix: blob storage for inference logging recognizes embedded spec by @cjohannsen-cloudera in https://github.com/kserve/kserve/pull/4740
    github.com/kserve/kserve/releases/tag/v0.16.0
  • 推論ログのレスポンスメタデータにリクエストメタデータヘッダーを追加
    影響対象メタデータヘッダーを含む推論ログ記録リクエスト(推定)

    これまでは、メタデータヘッダーを含むリクエストでも、ログに記録されるレスポンスメタデータからそのヘッダーが除外されていました。

    * 4778 - Fix: apply metadata headers to inference logging response by @cjohannsen-cloudera in https://github.com/kserve/kserve/pull/4779
    github.com/kserve/kserve/releases/tag/v0.16.0
  • InferenceGraph のルータータイムアウト設定
    影響対象ルーターまたはサービスクライアントのタイムアウトをカスタマイズする必要がある InferenceGraph リソース

    ルーターサーバーのタイムアウトが短いと、グラフ内の InferenceService の起動中に EOF が返されることがあります。たとえば、モデルのダウンロード中や Kubernetes ノードのプロビジョニング中に発生します。InferenceGraph.spec.routerTimeouts にカスタム値を設定することで回避できます。ソースの例では、serverRead、serverWrite、serverIdle を 300 に設定し、応答が成功したことを報告しています。

    * Allow to set custom timeouts for `InferenceGraph` router by @lifo9 in https://github.com/kserve/kserve/pull/4218
    github.com/kserve/kserve/releases/tag/v0.16.0
  • S3 SSL での単独指定 AWS_CA_BUNDLE パスの適用
    影響対象SSL 検証を有効にし、ローカル CA ファイルを AWS_CA_BUNDLE に設定した S3 ストレージ(推定)

    以前は、CA_BUNDLE_CONFIGMAP_NAME が未設定の場合、SSL 検証を有効にした S3 ダウンロードでこのパスが無視されていました。

    * fix: Allow CA bundle path without config map by @fabiendupont in https://github.com/kserve/kserve/pull/4451
    github.com/kserve/kserve/releases/tag/v0.16.0
  • HuggingFaceServer の FlashInfer ビルド失敗の修正
    影響対象vLLM の EngineCore を FlashInfer とともに実行する HuggingFaceServer イメージ

    EngineCore の起動時に実行時の JIT コンパイルが行われると、Ninja のビルドが「RuntimeError: Ninja build failed.」で失敗することがありました。イメージにサンプリングカーネルを事前コンパイルして含めることで、実行時のビルドとその失敗を回避できるようになりました。

    * Add AOT flashinfer build to huggingfaceserver dockerfile to precompil… by @AyushSawant18588 in https://github.com/kserve/kserve/pull/4567
    github.com/kserve/kserve/releases/tag/v0.16.0
  • Python パッケージのエクスポートへの LLMInferenceService 型の追加
    影響対象LLMInferenceService または LLMInferenceServiceConfig をインポートする Python SDK の利用者(推定)

    これらの型は Python のインポート対象に含まれていませんでした。

    * fix(deps): adds missing LLMInferenceService types for python imports by @bartoszmajsak in https://github.com/kserve/kserve/pull/4604
    github.com/kserve/kserve/releases/tag/v0.16.0
  • ClusterServingRuntime のイメージダイジェスト処理の修正
    影響対象イメージダイジェストを使用する ClusterServingRuntime リソース(特に GPU クラスター)

    GPU クラスターでは、イメージダイジェストに -gpu 接尾辞を追加すると、ランタイムが失敗することがありました。イメージタグの更新処理では、ダイジェストベースのイメージ参照が変更されなくなりました。

    * fix: allow digests in runtimes' images by @tmvfb in https://github.com/kserve/kserve/pull/4653
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceService コントローラーの RBAC 権限拡張
    影響対象LLMInferenceService コントローラーを実行しているクラスター(推定)

    追加された権限により、コントローラーの機能強化とリーダー選出が可能になります。

    * llmisvc: fix RBAC, templating, and adds quick install script by @sivanantha321 in https://github.com/kserve/kserve/pull/4698
    github.com/kserve/kserve/releases/tag/v0.16.0
  • InferenceService のリコンシリエーションにおける nil ポインターによるパニックの修正
    影響対象InferenceService のデプロイメント、HPA、KEDA のリコンシリエーション(推定)

    これらのリコンシリエーション処理で componentExt が nil の場合に、InferenceService のリコンシリエーションでパニックが発生することがありましたが、発生しなくなりました。

    * Fixed the panic nil pointer issue componentExt being nil by @houshengbo in https://github.com/kserve/kserve/pull/4704
    github.com/kserve/kserve/releases/tag/v0.16.0
  • llmisvc コントローラーの Dockerfile エントリーポイント修正
    影響対象この Dockerfile から llmisvc コントローラーのイメージをビルドまたは実行するインストール環境(推定)

    Dockerfile のエントリーポイントは以前 /llmisvc に設定されていましたが、現在は /manager に設定されています。

    * Fix incorrect entrypoint in llmisvc Dockerfile by @Jooho in https://github.com/kserve/kserve/pull/4730
    github.com/kserve/kserve/releases/tag/v0.16.0
  • Hugging Face のダウンロード時のメモリ使用量削減
    影響対象ストレージ初期化コンテナを介した Hugging Face モデルのダウンロード

    最新の Hugging Face Hub Python ライブラリを使った大規模モデルのダウンロードでは、一貫してメモリ不足が発生していました。ストレージ初期化コンテナに HF_HUB_ENABLE_HF_TRANSFER=1、HF_XET_HIGH_PERFORMANCE=1、HF_XET_NUM_CONCURRENT_RANGE_GETS=8 が設定されるようになりました。報告されたテストでは、ダウンロード時間を維持したまま、メモリ使用量が 2 GB 超から 0.5 GB 未満に減少しました。

    * Configure HF Downloads to Lower Memory Usage by @brettmthompson in https://github.com/kserve/kserve/pull/4726
    github.com/kserve/kserve/releases/tag/v0.16.0
  • デフォルトの Kustomize コントローラーイメージ参照の修正
    影響対象デフォルトの Kustomize マネージャーイメージパッチを使用するインストール環境(推定)

    kserve-controller:latest を使用していたため、デプロイ時にイメージのプルがバックオフ状態となっていました。現在は kserve/kserve-controller:latest を使用します。

    * fix: wrong kserve controller image url by @Jooho in https://github.com/kserve/kserve/pull/4773
    github.com/kserve/kserve/releases/tag/v0.16.0
  • ストレージ初期化時の環境変数重複修正
    影響対象HuggingFace 最適化または CA バンドルの環境変数を定義したカスタムストレージコンテナでのストレージ初期化(推定)

    既存のユーザー定義環境変数が一致する場合は保持され、自動的に重複追加されません。HuggingFace の最適化用デフォルト環境変数は、存在しない場合にのみ追加されます。

    * Fix the issue of Invalid value for env[1].valueFrom by @houshengbo in https://github.com/kserve/kserve/pull/4765
    github.com/kserve/kserve/releases/tag/v0.16.0
  • modelcars からの .ubj/.json モデル読み込みの修正
    影響対象modelcars から .ubj または .json モデルを読み込む XGBoost サーバーのデプロイメント

    この読み込みは、modelcars 内のモデルパスが仮想ファイルシステム上にあるため失敗していました。サーバーは、ライブラリに仮想パスを読み込ませるのではなく、ファイルの内容を bytearray として XGBoost に渡すようになりました。

    * Fix XGBoost .ubj and .json models with modelcar by @balazsprehoda in https://github.com/kserve/kserve/pull/4746
    github.com/kserve/kserve/releases/tag/v0.16.0
  • CA バンドル注入で既存の環境変数を保持
    影響対象CA バンドル注入を使用する LLMInferenceService ワークロード(推定)

    CA バンドルの ConfigMap 名またはボリュームマウントパスを指定する環境変数がすでに存在する場合は、別の環境変数を追加せず、既存の環境変数をそのまま残します。存在しない場合は、設定値またはデフォルト値を追加します。

    * Fixed the CA bundle env var logic by @houshengbo in https://github.com/kserve/kserve/pull/4777
    github.com/kserve/kserve/releases/tag/v0.16.0
  • HuggingFace の mean pooling におけるランタイムエラーの修正
    影響対象文埋め込みに mean pooling を使用するモデルの HuggingFace ランタイムデプロイ(CPU のみのデプロイと GPU を利用するデプロイを含む)

    attention_mask と token_embeddings のデバイスが異なる場合や、データ型が一致しない場合に、mean pooling でランタイムエラーが発生することがありました。現在はマスクを埋め込みのデバイスとデータ型に合わせ、マスクがない場合にも対応し、ゼロ除算を防ぐために分母をクランプします。これにより、CPU と GPU の両方で推論できます。

    * huggingfaceserver: fix mean_pooling device/dtype mismatch and add regression test by @JohnsonWang1015 in https://github.com/kserve/kserve/pull/4744
    github.com/kserve/kserve/releases/tag/v0.16.0
  • InferenceGraph ステップでの予測結果からインスタンスへの任意マッピング
    影響対象V1 Inference Protocol サービスをチェーンする InferenceGraph のステップ

    上流サービスの出力が predictions に格納されている一方、下流サービスが instances を想定している場合、単純なチェーン接続はできませんでした。mapPredictionsToInstances を true に設定すると、ルーターが上流の predictions を下流の instances にマッピングします。この設定がない場合、マッピングは有効になりません。

    * Allow mapping predictions to instances in sequential inference graphs by @tmbochenski in https://github.com/kserve/kserve/pull/4738
    github.com/kserve/kserve/releases/tag/v0.16.0

機能・改善43

  • 組み込みサービングランタイムごとの無効化設定

    利用条件 各ランタイムの disabled 設定を true に変更(既定値は false)

    * Update kserve-resources helm chart to disable desired servingruntimes by @jmlaubach in https://github.com/kserve/kserve/pull/4485
    github.com/kserve/kserve/releases/tag/v0.16.0
  • KServe ストレージモジュールを独立した kserve-storage パッケージとしてリリース
    * Initial segregation of the storage module from KServe SDK by @spolti in https://github.com/kserve/kserve/pull/4391
    github.com/kserve/kserve/releases/tag/v0.16.0
  • Raw Deployment の InferenceServices の停止と再開

    利用条件 停止時は serving.kserve.io/stop を 'true' に、再開時は 'false' に設定

    * Stop and resume a model [Raw Deployment] by @hdefazio in https://github.com/kserve/kserve/pull/4455
    github.com/kserve/kserve/releases/tag/v0.16.0
  • 元のモデルソース URI のユーザーコンテナへの注入

    利用条件 リモートストレージが有効

    * feat: support remote storage URI injection for serving runtimes by @de0725 in https://github.com/kserve/kserve/pull/4492
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceService と LLMInferenceServiceConfig の API および CRD の追加
    * [API] Define LLMInferenceService and LLMInferenceServiceConfig types and CRDs by @pierDipi in https://github.com/kserve/kserve/pull/4522
    github.com/kserve/kserve/releases/tag/v0.16.0
  • Transformer の停止・再開対応

    利用条件 serving.kserve.io/stop アノテーション

    * Stop and Resume a transformer by @hdefazio in https://github.com/kserve/kserve/pull/4534
    github.com/kserve/kserve/releases/tag/v0.16.0
  • マルチノード/マルチGPUのInferenceServiceでOCIストレージ検証を有効化
    * Allow OCI for multi-node/multi-gpu by @israel-hdez in https://github.com/kserve/kserve/pull/4441
    github.com/kserve/kserve/releases/tag/v0.16.0
  • モデルのリクエスト/レスポンスログ向け S3 オプトインストレージ
    * 4380 - Inference logging to blob storage by @cjohannsen-cloudera in https://github.com/kserve/kserve/pull/4473
    github.com/kserve/kserve/releases/tag/v0.16.0
  • Ready 状態の InferenceService の自動更新オプトアウト
    * Auto-update annotation for isvc. by @andresllh in https://github.com/kserve/kserve/pull/4342
    github.com/kserve/kserve/releases/tag/v0.16.0
  • Explainer の停止・再開対応

    利用条件 InferenceService に constants.StopAnnotationKey を設定し、停止時は true、再開時は false にする

    * Stop and resume an explainer by @hdefazio in https://github.com/kserve/kserve/pull/4546
    github.com/kserve/kserve/releases/tag/v0.16.0
  • KServe Helm chart でのストレージ初期化コンテナのリソース requests と limits の設定
    * feat: refactor storage initializer resources configuration by @takamai06 in https://github.com/kserve/kserve/pull/4411
    github.com/kserve/kserve/releases/tag/v0.16.0
  • 初期の LLMInferenceService コントローラーの雛形と Helm チャート
    * llmisvc: Initial controller scaffold and helm chart by @sivanantha321 in https://github.com/kserve/kserve/pull/4557
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceServiceSpec の戦略的マージ
    * Add logic to merge specs for LLMInferenceService  by @VedantMahabaleshwarkar in https://github.com/kserve/kserve/pull/4563
    github.com/kserve/kserve/releases/tag/v0.16.0
  • KEDA 外部メトリクスソースの認証設定
    * feat: support secure access to prometheus in keda by @andyi2it in https://github.com/kserve/kserve/pull/4384
    github.com/kserve/kserve/releases/tag/v0.16.0
  • utils のコレクションヘルパーを collections.go に移動
    * feat: improves collection helpers by @bartoszmajsak in https://github.com/kserve/kserve/pull/4579
    github.com/kserve/kserve/releases/tag/v0.16.0
  • Hugging Face サーバーの生ロジット出力

    利用条件 sequence_classification、fill_mask、token_classification でサポートされ、return_probabilities とは同時に指定できない --return_raw_logits オプション

    * feat: Add disable postprocessing option for raw logits by @sivanantha321 in https://github.com/kserve/kserve/pull/4566
    github.com/kserve/kserve/releases/tag/v0.16.0
  • サーバーレス InferenceGraph の停止と再開

    利用条件 グラフの停止には serving.kserve.io/stop アノテーションを "true" に、再開には "false" に設定

    * Stop and resume an inference graph by @hdefazio in https://github.com/kserve/kserve/pull/4588
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceService と LLMInferenceServiceConfig の CRD に LWS ベースのマルチノード用フィールドを追加
    * update CRDs for LWS based multi node support by @VedantMahabaleshwarkar in https://github.com/kserve/kserve/pull/4596
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceServiceConfig のベースプリセット追加
    * Add LLM InferenceService base configurations by @VedantMahabaleshwarkar in https://github.com/kserve/kserve/pull/4613
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLM 負荷分散向け llm-d スケジューラーのリコンシリエーション
    * Adding Llm-d scheduler reconcilier by @andresllh in https://github.com/kserve/kserve/pull/4614
    github.com/kserve/kserve/releases/tag/v0.16.0
  • KEDA オートスケーリング動作の設定
    * Added advanced config for ScaleUp and ScaleDown by @andyi2it in https://github.com/kserve/kserve/pull/4570
    github.com/kserve/kserve/releases/tag/v0.16.0
  • raw deployment モードの InferenceGraph の停止と再開

    利用条件 InferenceGraph を停止するには serving.kserve.io/stop: "true"、再開するには serving.kserve.io/stop: "false" をアノテーションに設定

    * Stop and resume an inference graph [Raw Deployment] by @hdefazio in https://github.com/kserve/kserve/pull/4637
    github.com/kserve/kserve/releases/tag/v0.16.0
  • 単一ノード/マルチノードの LLMInferenceServices ワークロード用リコンサイラーの追加
    * llm-d workload reconciliation by @brettmthompson in https://github.com/kserve/kserve/pull/4616
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceServices のルート調整
    * Llm d http route reconciler by @andresllh in https://github.com/kserve/kserve/pull/4617
    github.com/kserve/kserve/releases/tag/v0.16.0
  • 一部の LLMInferenceService コントローラー処理の追加
    * Add logic for LLMISVC controller by @VedantMahabaleshwarkar in https://github.com/kserve/kserve/pull/4632
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceServiceConfig 既知のプリセットの更新
    * [llmisvc] Improve config merge and update well-known presets by @pierDipi in https://github.com/kserve/kserve/pull/4663
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceService の設定マージでスケジューラー未設定と外部 InferencePool オブジェクトに対応
    * [llmisvc] Improve config merge and update well-known presets by @pierDipi in https://github.com/kserve/kserve/pull/4663
    github.com/kserve/kserve/releases/tag/v0.16.0
  • クラスター スコープリソースと nil owner に対応する汎用 CRUD
    * [llmisvc] Support cluster-scoped objects in generic CRUD functions by @pierDipi in https://github.com/kserve/kserve/pull/4664
    github.com/kserve/kserve/releases/tag/v0.16.0
  • KServe Storage の別モジュールへの分離
    * Promote new KServe Storage module by @spolti in https://github.com/kserve/kserve/pull/4625
    github.com/kserve/kserve/releases/tag/v0.16.0
  • raw および Standard デプロイメント向けのロールアウト戦略設定

    利用条件 コンポーネントの deploymentStrategy、ConfigMap の deploymentRolloutStrategy、または defaultRollout の設定。ConfigMap のデフォルトが適用されるのは、defaultDeploymentMode が "Standard" の場合のみ

    * Implement the progressive rollout for raw deployment by @houshengbo in https://github.com/kserve/kserve/pull/4623
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceService コントローラーのイメージと Helm chart の公開
    * ci: publish llmisvc container image by @yuzisun in https://github.com/kserve/kserve/pull/4686
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceService の依存関係とコンポーネントのクイックインストールスクリプト
    * llmisvc: fix RBAC, templating, and adds quick install script by @sivanantha321 in https://github.com/kserve/kserve/pull/4698
    github.com/kserve/kserve/releases/tag/v0.16.0
  • kserve-resources Helm chart の OpenTelemetry とオートスケーラー設定のカスタマイズ

    利用条件 関連する kserve.opentelemetryCollector または kserve.autoscaler の値を設定した kserve-resources Helm chart

    * Enabled the configuration options in Helm for opentelemetryCollector and autoscaler by @houshengbo in https://github.com/kserve/kserve/pull/4725
    github.com/kserve/kserve/releases/tag/v0.16.0
  • 時系列予測エンドポイントとタスクの統合
    * Time Series Forecast API Endpoint by @jinan-zhou in https://github.com/kserve/kserve/pull/4615
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceService の Kustomize デプロイ設定
    * llmisvc dev & kustomize setup, add webhook config to helm chart  by @sivanantha321 in https://github.com/kserve/kserve/pull/4712
    github.com/kserve/kserve/releases/tag/v0.16.0
  • 推論アーティファクト向けの複数ストレージ場所

    利用条件 Knative デプロイメント向けの Kubernetes init-container フィーチャーフラグ

    * Support Multiple Storage URIs for InferenceServices by @anurags25 in https://github.com/kserve/kserve/pull/4702
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceService クイックインストールスクリプトへの Cert Manager インストール追加
    * Add Cert Manager installation to llmisvc quick install script by @sivanantha321 in https://github.com/kserve/kserve/pull/4733
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceService の S3 ストレージ初期化コンテナへの CA バンドル注入

    利用条件 サービスアカウント、シークレットのアノテーション、または inferenceservice-config ConfigMap で定義された CA バンドル設定

    * Injecting CA Bundle Into Storage Initializer Container for S3 Storage on LLMISVC Reconciliation by @brettmthompson in https://github.com/kserve/kserve/pull/4728
    github.com/kserve/kserve/releases/tag/v0.16.0
  • LLMInferenceService の Kueue メタデータ伝播
    * Add metadata propagation for Kueue configurations to both Deployment and LeaderWorkerSet workloads by @hdefazio in https://github.com/kserve/kserve/pull/4747
    github.com/kserve/kserve/releases/tag/v0.16.0
  • GCS と Azure への推論ログ保存対応
    * feature: 4553 - Support inference logging to GCS and Azure by @cjohannsen-cloudera in https://github.com/kserve/kserve/pull/4582
    github.com/kserve/kserve/releases/tag/v0.16.0
  • KServe 依存関係向けのモジュール式セットアップスクリプト
    * Add centralized installation scripts for KServe dependencies by @Jooho in https://github.com/kserve/kserve/pull/4774
    github.com/kserve/kserve/releases/tag/v0.16.0
  • KServe v0.16.0 のインストールマニフェストと Helm チャート

    利用条件 Helm の --version v0.16.0

    * Prepare for 0.16.0 release by @houshengbo in https://github.com/kserve/kserve/pull/4786
    github.com/kserve/kserve/releases/tag/v0.16.0
  • 最小構成の LLMInferenceService CRD 用の新しい Helm チャート

    利用条件 最小構成の LLMInferenceService CRD のデプロイに必要な、バージョン v0.16.0 の llmisvc-crd-minimal Helm チャートのインストール

    * fix llmisvc-crd-minimal chart by @yuzisun in https://github.com/kserve/kserve/pull/4789
    github.com/kserve/kserve/releases/tag/v0.16.0

依存関係の更新8

    ほか8件(いずれもセキュリティへの言及なし)
    • * Upgrade Torch to v2.6.0 everywhere by @ashahba in https://github.com/kserve/kserve/pull/4450
    • * upgrade vllm to v0.9.0 and Torch to v2.7.0 by @ashahba in https://github.com/kserve/kserve/pull/4501
    • * upgrade vllm to v0.9.0 and Torch to v2.7.0 by @ashahba in https://github.com/kserve/kserve/pull/4501
    • * Upgrade vLLM to v0.9.0.1 by @ashahba in https://github.com/kserve/kserve/pull/4507
    • * Upgrade vllm to v0.9.2 by @AyushSawant18588 in https://github.com/kserve/kserve/pull/4586
    • * Protobuf version bump by @karolpustelnik in https://github.com/kserve/kserve/pull/4634
    • * Update the kserve-storage module to the latest version by @spolti in https://github.com/kserve/kserve/pull/4754
    • * bump up istio version to 1.27.1 by @Jooho in https://github.com/kserve/kserve/pull/4775
    その他の変更49
    • Jooho の OWNERS 承認者への追加
      * Add Jooho to approvers in OWNERS file by @terrytangyuan in https://github.com/kserve/kserve/pull/4504
      github.com/kserve/kserve/releases/tag/v0.16.0
    • テスト用 CRD ファイルを test/crds/serving.kserve.io_all_crds.yaml に名称変更
      * Rename CRD file to reflect all KServe CRDs (Fixes #4396) by @WHITE-ICE-BOX in https://github.com/kserve/kserve/pull/4494
      github.com/kserve/kserve/releases/tag/v0.16.0
    • HuggingFace の CPU 依存関係ロックで他の依存関係を更新しないように変更
      * Fix: do not update poetry dependency when install hf cpu deps by @yuzisun in https://github.com/kserve/kserve/pull/4516
      github.com/kserve/kserve/releases/tag/v0.16.0
    • HuggingFace リクエストのトレースログ形式を修正
      * [Bug] Fixes error in trace logging by @gavrissh in https://github.com/kserve/kserve/pull/4514
      github.com/kserve/kserve/releases/tag/v0.16.0
    • コード生成スクリプトによる生成ツールバイナリの CODEGEN_VERSION 固定
      * fix(codegen): pins code-generator binaries version by @bartoszmajsak in https://github.com/kserve/kserve/pull/4533
      github.com/kserve/kserve/releases/tag/v0.16.0
    • BentoML サンプルコードとマニフェストの更新
      * Fix outdated BentoML import in sample code (BentoService no longer available in v1.x) by @YehCC52 in https://github.com/kserve/kserve/pull/4540
      github.com/kserve/kserve/releases/tag/v0.16.0
    • EnvTest の CRD 検索時に go.mod からプロジェクトルートを特定
      * feat(envtest): simplifies CRD lookup by @bartoszmajsak in https://github.com/kserve/kserve/pull/4564
      github.com/kserve/kserve/releases/tag/v0.16.0
    • OpenShift cert-manager operator ガイドのマニフェストから無効なフィールドを削除
      * docs: fixes invalid openshift subscription by @bartoszmajsak in https://github.com/kserve/kserve/pull/4572
      github.com/kserve/kserve/releases/tag/v0.16.0
    • プルリクエストのカバレッジチェックと比較レポートの追加
      * Add Code Coverage change report for PRs by @andyi2it in https://github.com/kserve/kserve/pull/4487
      github.com/kserve/kserve/releases/tag/v0.16.0
    • Python 依存関係のインストールを Poetry から uv に切り替え
      * feat: switch kserve from poetry to uv by @andyi2it in https://github.com/kserve/kserve/pull/4407
      github.com/kserve/kserve/releases/tag/v0.16.0
    • ジェネリクスを使ったコードの簡素化
      * chore(utils): simplifies code using generics by @bartoszmajsak in https://github.com/kserve/kserve/pull/4578
      github.com/kserve/kserve/releases/tag/v0.16.0
    • WORKSPACE_DIR に追従する HuggingFaceServer の PYTHONPATH
      * Add AOT flashinfer build to huggingfaceserver dockerfile to precompil… by @AyushSawant18588 in https://github.com/kserve/kserve/pull/4567
      github.com/kserve/kserve/releases/tag/v0.16.0
    • 欠落していたコードカバレッジ設定ファイルの追加
      * Add Missing config file for code coverage by @andyi2it in https://github.com/kserve/kserve/pull/4581
      github.com/kserve/kserve/releases/tag/v0.16.0
    • Downloader テストの接続先をローカル httptest サーバーの URL に変更
      * fix(test): uses local httptest server urls for downloader tests by @bartoszmajsak in https://github.com/kserve/kserve/pull/4601
      github.com/kserve/kserve/releases/tag/v0.16.0
    • テストにおける pytest-asyncio のセッションスコープマーカー漏れの修正
      * fix: missing pytest-asyncio session scope marker in test_kserve_logger_cipn by @sivanantha321 in https://github.com/kserve/kserve/pull/4607
      github.com/kserve/kserve/releases/tag/v0.16.0
    • LLMInferenceServiceで未指定のGIEプールセレクターとEPPサービスアカウントを補完
      * Add LLM InferenceService base configurations by @VedantMahabaleshwarkar in https://github.com/kserve/kserve/pull/4613
      github.com/kserve/kserve/releases/tag/v0.16.0
    • e2e テストスクリプトの並列実行数情報の修正
      * fix: fixes misleading print for parallelism when $# > 2 (#784) by @bartoszmajsak in https://github.com/kserve/kserve/pull/4619
      github.com/kserve/kserve/releases/tag/v0.16.0
    • CI の高速化
      * feat: speed up ci by @ls-2018 in https://github.com/kserve/kserve/pull/4600
      github.com/kserve/kserve/releases/tag/v0.16.0
    • リポジトリ内の誤記の修正
      * Fix typos: in the repo by @mwaykole in https://github.com/kserve/kserve/pull/4641
      github.com/kserve/kserve/releases/tag/v0.16.0
    • LLMInferenceServiceConfig のテンプレート検証の追加
      * feat(webhook): introduces Validating Webhook for LLMInferenceServiceConfig by @VedantMahabaleshwarkar in https://github.com/kserve/kserve/pull/4630
      github.com/kserve/kserve/releases/tag/v0.16.0
    • クイックスタートのリンク修正
      * Fix quickstart link by @thesteve0 in https://github.com/kserve/kserve/pull/4654
      github.com/kserve/kserve/releases/tag/v0.16.0
    • Markdown のみの変更時に CI ワークフローをスキップ
      * ci: skip workflows when only markdown files are changed by @Jooho in https://github.com/kserve/kserve/pull/4650
      github.com/kserve/kserve/releases/tag/v0.16.0
    • README内リンクのKServeウェブサイトへの更新
      * fix: README links to KServe website updated by @dominikkawka in https://github.com/kserve/kserve/pull/4656
      github.com/kserve/kserve/releases/tag/v0.16.0
    • Snyk スキャンの SARIF ファイルアップロードの修正
      * fix: fix snyk scan sarif file upload by @sivanantha321 in https://github.com/kserve/kserve/pull/4660
      github.com/kserve/kserve/releases/tag/v0.16.0
    • Graph テストイメージのタグのデフォルト値を latest に設定
      * fix: defaults GITHUB_SHA for graph images by @bartoszmajsak in https://github.com/kserve/kserve/pull/4620
      github.com/kserve/kserve/releases/tag/v0.16.0
    • API コメント内の HTML エスケープによるウェブサイトドキュメントの構文エラー修正
      * fix: escape HTML characters in api comments to fix syntax errors in website docs by @sivanantha321 in https://github.com/kserve/kserve/pull/4662
      github.com/kserve/kserve/releases/tag/v0.16.0
    • KEDA と OpenTelemetry の調整処理で API サーバーのデフォルト値を考慮
      * fix: dry run update for keda autoscaling loop by @andyi2it in https://github.com/kserve/kserve/pull/4587
      github.com/kserve/kserve/releases/tag/v0.16.0
    • KEDA pod-metric の targetValue で固定小数点6桁形式を使用しない変更
      * fix: dry run update for keda autoscaling loop by @andyi2it in https://github.com/kserve/kserve/pull/4587
      github.com/kserve/kserve/releases/tag/v0.16.0
    • Kafka サンプルのドキュメントパスの更新
      * docs: update Kafka sample path after file relocation by @1lyvianis in https://github.com/kserve/kserve/pull/4680
      github.com/kserve/kserve/releases/tag/v0.16.0
    • リポジトリの 0.16.0-rc0 リリース準備
      * Prepare for 0.16.0-rc0 release by @houshengbo in https://github.com/kserve/kserve/pull/4678
      github.com/kserve/kserve/releases/tag/v0.16.0
    • テストセットアップでのインメモリ GatewayClass の置き換え
      * chore(test-setup): replaces gatewayclass in-memory by @bartoszmajsak in https://github.com/kserve/kserve/pull/4605
      github.com/kserve/kserve/releases/tag/v0.16.0
    • LLMInferenceService ワークロード向けのロール付与可能なサービスアカウント
      * [llmisvc] Update workload and router reconciliation by @pierDipi in https://github.com/kserve/kserve/pull/4666
      github.com/kserve/kserve/releases/tag/v0.16.0
    • LLMInferenceService のルーター調整ステータス更新
      * [llmisvc] Update workload and router reconciliation by @pierDipi in https://github.com/kserve/kserve/pull/4666
      github.com/kserve/kserve/releases/tag/v0.16.0
    • オートスケーリングテストの所要時間とクラッシュの修正
      * Fix autoscaling tests duration and crashes by @andyi2it in https://github.com/kserve/kserve/pull/4688
      github.com/kserve/kserve/releases/tag/v0.16.0
    • LLMInferenceService の認証情報調整でのアカウント未検出エラーのログ解消
      * Avoid Pervasive Logging of SA Not Found Errors by Credential Builder by @brettmthompson in https://github.com/kserve/kserve/pull/4696
      github.com/kserve/kserve/releases/tag/v0.16.0
    • LLMInferenceService コントローラーイメージに manager を同梱
      * fix: correct llmisvc Dockerfile reference in image publish workflow by @sivanantha321 in https://github.com/kserve/kserve/pull/4705
      github.com/kserve/kserve/releases/tag/v0.16.0
    • LLMInferenceService の Helm テンプレートの互換性向上
      * llmisvc: fix RBAC, templating, and adds quick install script by @sivanantha321 in https://github.com/kserve/kserve/pull/4698
      github.com/kserve/kserve/releases/tag/v0.16.0
    • Docker 公開ワークフローでのディスク容量のクリーンアップ
      * fix: Add disk space cleanup step to Docker publish workflows by @sivanantha321 in https://github.com/kserve/kserve/pull/4717
      github.com/kserve/kserve/releases/tag/v0.16.0
    • README に Star History セクションを追加
      * Add Star History section to README by @terrytangyuan in https://github.com/kserve/kserve/pull/4719
      github.com/kserve/kserve/releases/tag/v0.16.0
    • プロジェクトの README に CNCF を追加
      * docs: Mention CNCF in project README by @terrytangyuan in https://github.com/kserve/kserve/pull/4718
      github.com/kserve/kserve/releases/tag/v0.16.0
    • KServe README の概要・機能セクションの改訂
      * Revise KServe overview and enhance features section by @terrytangyuan in https://github.com/kserve/kserve/pull/4721
      github.com/kserve/kserve/releases/tag/v0.16.0
    • Controller イメージのビルド・プッシュコマンドでの KO_DOCKER_REPO の使用
      * Fix: prepend the KO_DOCKER_REPOSITORY to the base docker build to allow local publishing of the controller by @cjohannsen-cloudera in https://github.com/kserve/kserve/pull/4736
      github.com/kserve/kserve/releases/tag/v0.16.0
    • LLMInferenceService のエンドツーエンドテストと GitHub Actions ワークフロー
      * Add llmd e2e tests by @andresllh in https://github.com/kserve/kserve/pull/4729
      github.com/kserve/kserve/releases/tag/v0.16.0
    • 0.16.0-rc1 リリースに向けた準備
      * Prepare for 0.16.0-rc1 release by @houshengbo in https://github.com/kserve/kserve/pull/4732
      github.com/kserve/kserve/releases/tag/v0.16.0
    • kserve-resources Helm チャートのモデルサイドカー UID 設定
      * fix(helm-chart): expose `uidModelcar` in the chart by @maciej-tatarski in https://github.com/kserve/kserve/pull/4689
      github.com/kserve/kserve/releases/tag/v0.16.0
    • Python テストワークフローによる破損したキャッシュ済み仮想環境の再作成
      * fix(ci): recreate root venv when cached symlink is broken by @Jooho in https://github.com/kserve/kserve/pull/4768
      github.com/kserve/kserve/releases/tag/v0.16.0
    • Raw-controller テストのリファクタリング
      * clean-up raw-controller tests by @spolti in https://github.com/kserve/kserve/pull/4781
      github.com/kserve/kserve/releases/tag/v0.16.0
    • LLMInferenceService のサンプル設定と README の更新
      * Add/Update llm sample including README.md by @Jooho in https://github.com/kserve/kserve/pull/4780
      github.com/kserve/kserve/releases/tag/v0.16.0
    • KServe Storage の PyPI 公開ワークフローで使用する KSERVE_STORAGE_PYPI_TOKEN
      * update kserve-storage pypi token by @yuzisun in https://github.com/kserve/kserve/pull/4788
      github.com/kserve/kserve/releases/tag/v0.16.0

    整理した内容は AI が作成するため誤っている可能性があり、無保証で提供されます。