Karar sırası
- Tüketiciyi anahtar üst verisinden tanımlayın
- Ön ek jokerleri dahil istenen modeli eşleştirin
- İş yükünün dışarı çıkıp çıkamayacağını değerlendirin
- Onaylı sağlayıcıya veya yerel vLLM uç noktasına yönlendirin
Varsayılan ret
Bir sınır, ancak izin listesi bilinçli olarak genişletildiğinde var olur. Özel, hibrit ve genel modeller arasında geçiş bir taşıma değil, politika değişikliğidir.