GA

Dokümantasyon / Başlangıç

Kurulum

Çevrimdışı Kubernetes teslimat sırası ve ön koşulları.

Ön koşullar

  • Kubernetes kümesi ve namespace
  • İç container registry
  • Yerel çıkarım için GPU düğümleri
  • DemirTech tarafından sağlanan çevrimdışı paket ve imzalı lisans

Sıra

  • Sağlanan imajları iç registry'ye yansıtın
  • Registry, depolama ve lisans değerleriyle Helm chart'ı kurun
  • Onaylı genel sağlayıcıları ve yerel vLLM uç noktalarını kaydedin
  • Her tüketici için ilişkilendirilmiş ayrı bir anahtar oluşturun
  • Denetim veritabanı yedeğiyle yükseltme ve geri dönüşü deneyin