Her modelin önünde tek uç nokta
Alan adınızda çalışan OpenAI uyumlu uç nokta, genel sağlayıcıları ve kendi GPU'larınızdaki modelleri kapsar.
Denetlenebilir yapay zeka veri sınırı
Genel sağlayıcıların ve kendi GPU'larınızda çalışan modellerin önünde tek bir OpenAI uyumlu uç nokta ve yönetilen her geçişin kaydı.
Uç nokta teslimat biçimidir
Ürün, sınırın kendisi ve sınırın korunduğunu gösteren kanıttır. Kayıt; kimin, hangi anahtarla, hangi modeli istediğini, isteğin nereye gittiğini, ne döndüğünü ve maliyetini yanıtlar.
Bugün sunulanlar
Çoklu sağlayıcı yönlendirmesi
Ön ek jokerleri, yeni model kimliklerini yapılandırma değişikliği olmadan yönlendirir.
Anahtar başına kimlik
Her anahtar tüketici üst verisini taşır; çağrılar anonim ortak trafik olarak gelmez.
Tam istek ve yanıt denetim izi
Gövde kaydı tüketici bazında seçilir; kayıt kimliği, modeli, hedefi, token sayılarını ve maliyeti tutar.
Token düzeyinde maliyet hesabı
Kullanım, büyük sağlayıcılar için güncel tutulan tarife kataloğuna göre fiyatlanır.
Kubernetes tabanlı çevrimdışı teslimat
Çevrimdışı kurulum paketi ve imzalı çevrimdışı lisans içeren GitOps uyumlu iş yükü. Dışarıya lisans kontrol çağrısı yoktur.
Abonelik geçişli yönlendirme
Ağ geçidi, desteklenen abonelikleri müşterinin sağlayıcı kimlik bilgisini tutmadan yönlendirir.
Planlananlar
Türkçe kişisel veri algılama ve maskeleme
Sağlama toplamıyla doğrulanan kimlikler ile Türkçe istemlerde kişi ve adres algılama. Uyum kontrolü yönlendirme olmaya devam eder.
Ekip bazında limitler, kotalar ve bütçeler
Ağ geçidinin uyguladığı ekip bazında sınırlar, harcama tavanları ve uyarılar.
Anahtar bazında model erişim kontrolü
Hangi anahtarların hangi modellere ulaşabileceğini tanımlayan politika.
Yerel ve genel sağlayıcı maliyet karşılaştırması
Aynı iş yükünün müşteri GPU'larında ve genel sağlayıcılarda fiyatlanması.
Teknik yapı
- Arayüz
- OpenAI uyumlu HTTP
- Çalışma ortamı
- Kubernetes, GitOps uyumlu
- Dağıtım
- İş yüküne göre özel, hibrit veya genel
- Yerel çıkarım
- Müşteri GPU'larında vLLM üzerinden açık ağırlıklı modeller
- Kurulum
- Helm chart ve registry aynası içeren çevrimdışı paket
- Lisans
- Süreli imzalı çevrimdışı dosya, dışarıya kontrol çağrısı yok
- Sahip ve destek
- DemirTech
Güvenlik ekiplerinin sorduğu sorular
Maskeleme yurt dışı aktarımını uyumlu hale getirir mi?
Hayır. Kişiyle bağ yeniden kurulabiliyorsa maskeleme ve takma adlandırma veriyi KVKK kapsamından çıkarmaz. Kontrol yönlendirmedir: düzenlemeye tabi iş yükü sınır içinde kalır. Maskeleme yalnızca politikanın dışarı çıkmasına zaten izin verdiği trafikte maruziyeti azaltır.
Infegate internet bağlantısı olmadan çalışabilir mi?
Evet. Kurulum paketi ve lisans çevrimdışıdır. Yalıtılmış ortamda yalnızca açık ağırlıklı modeller çalışabilir; iddia kapalı öncü modellere erişim değil, iyi işletilen açık ağırlıklı çıkarımdır.
Burada GA ne anlama geliyor?
Yalıtılmış teslimat yolu dahil bu sayfada listelenen yedi sunulmuş yetenek için geçerlidir. Planlanan uyum ve kontrol özellikleri bu iddianın açıkça dışındadır.