LiteLLM — Kurumsal AI Ağ Geçidi (Self-Hosted)

Kurulum & Uyumluluk

Lisans	⚖️ MIT — açık kaynak, kullanımı ücretsiz
cPanel ile kolay kurulur mu?	Hayır — Docker/VPS gerekir
Sunucu ihtiyacı	VPS/sunucu, işçi başına 1 vCPU / 4 GB
Veritabanı	PostgreSQL + Redis
Yerelde (local) çalışır mı?	Evet (Docker)
Barındırma şekli	Sunucuda host gerekir

Kısaca nasıl kullanılır?

LiteLLM vekil sunucusu (proxy) Docker ile kurulur (üretimde yük testinden geçmiş -stable etiketleri önerilir); büyük kurulumlar için Helm ve Terraform rehberleri vardır. Sanal API anahtarları ve harcama takibi için PostgreSQL gerekir, üretim Helm kurulumu Redis de ister. Resmi öneri, işçi başına 1 vCPU ve 4 GB bellektir. Lisans notu: MIT, ancak enterprise klasörü ayrı lisanslıdır; yönetim arayüzünde SSO 5 kullanıcıya kadar ücretsiz, fazlası için Enterprise lisans gerekir; SCIM, saklama süreli denetim kayıtları ve JWT kimlik doğrulama gibi özellikler de Enterprise'dadır. cPanel / paylaşımlı hostingte çalışmaz.

* Bu kurulum/uyumluluk değerlendirmesi, yazılımın teknik yapısına göre e-veri.com tarafından yorumlanmıştır.

Kurulumu, yönetilen hosting'i ve desteği e-veri.com üstlensin mi? Sizin için kuralım. 📩 Hemen Kur / Teklif İste

Bu yazılım ne işe yarar?

LiteLLM, açık kaynak bir yapay zekâ ağ geçidi (AI gateway) olup, 100'den fazla farklı dil modeli sağlayıcısına tek ve standart bir arayüzle erişmenizi sağlar. Tüm modelleri "OpenAI formatında" çağırırsınız; böylece her sağlayıcı için ayrı SDK ve kod yönetmek zorunda kalmazsınız. Hem Python kütüphanesi hem de bağımsız proxy sunucusu olarak çalışır.

Hangi problemi çözer?

Kurumlar genellikle birden fazla LLM sağlayıcısı kullanır; her birinin farklı API'si, maliyet takibi ve erişim yönetimi vardır. Bu karmaşıklık geliştirmeyi yavaşlatır ve maliyet kontrolünü zorlaştırır. LiteLLM, tüm bu sağlayıcıları tek bir kapı ardında toplar; sanal anahtarlar, harcama takibi ve güvenlik kuralları (guardrails) ile merkezî yönetim sunar.

Neden tercih edilir?

MIT lisanslı ve tamamen kendi sunucunuzda barındırılabilir olması, AI trafiğinizin ve maliyet verilerinizin sizde kalmasını sağlar. Yük dengeleme ile yüksek istek hacminde dahi düşük gecikme sunar; yönetim paneli ve çok kiracılı maliyet takibiyle departman bazlı bütçe kontrolü sağlar. Birden fazla model kullanan kurumlar için merkezî bir AI altyapısıdır.

Öne Çıkan Özellikler

✓100+ LLM sağlayıcısına tek OpenAI uyumlu API

✓Python SDK ve bağımsız proxy sunucusu

✓Sanal anahtarlar ve erişim yönetimi

✓Harcama takibi ve çok kiracılı maliyet raporu

✓Yük dengeleme ile düşük gecikme (yüksek RPS)

✓Guardrails ile güvenlik ve içerik kuralları

✓Sohbet, embedding, görsel ve ses endpoint'leri

✓MCP araç entegrasyonu ve ajan desteği

✓Docker ile kolay self-hosting

✓MIT lisansı — AI trafiği ve veriler sizde kalır

Kurumsal Kullanım Senaryoları

Merkezî AI ağ geçidi: Tüm ekiplerin farklı LLM'lere tek kapıdan, tek standartla eriştiği kurumsal altyapı.
Maliyet ve bütçe kontrolü: Departman/proje bazlı harcama takibi ve sanal anahtarlarla limit yönetimi.
Sağlayıcı bağımsızlığı: Tek satır kodla farklı modeller arası geçiş, vendor lock-in'i önleme.
Yük dengeleme: Yüksek istek hacminde birden fazla model/endpoint arasında dağıtım.
Güvenlik ve denetim: Guardrails ile içerik kuralları ve erişim denetimi.

Kimler için: Birden fazla LLM sağlayıcısı kullanan, AI maliyetini ve erişimini merkezî yönetmek isteyen kurumlar ve geliştirme ekipleri.

LiteLLM için e-veri.com hizmetleri

Açık kaynak yazılım ücretsizdir; e-veri.com kurulumunu, yönetilen hosting'ini ve sürekli desteğini kurumsal güvenceyle üstlenir. Aşağıdan size uygun paket için ücretsiz teklif alın.

kurulum

Kurumsal Kurulum

Teklif üzerine

LiteLLM yazılımının sunucunuza profesyonel kurulumu, yapılandırması ve verilerinizin aktarımı. Tek seferlik hizmet.

Sunucu hazırlığı ve güvenlik
Kurulum + Türkçe yapılandırma
Veri/ürün aktarımı
Eğitim oturumu

Teklif İste

hosting

Yönetilen Hosting

Teklif üzerine

LiteLLM önceden kurulu, güncellemeleri ve yedeği bize ait, performans için optimize edilmiş yönetilen hosting. Aylık.

Önceden kurulu ortam
Otomatik yedek
Güncelleme & izleme
SSL dahil

Teklif İste

destek

Destek & Bakım

Teklif üzerine

LiteLLM için sürekli teknik destek, güncelleme, yedekleme ve sorun giderme paketi. Aylık.

Öncelikli destek
Düzenli güncelleme
Yedek doğrulama
Aylık sağlık raporu

Teklif İste

LiteLLM hakkında sık sorulan sorular

LiteLLM ücretsiz mi?

LiteLLM, MIT lisanslı açık kaynak bir yazılımdır; yazılımın kendisi için lisans ücreti ödenmez. Maliyet; sunucu, kurulum, bakım ve destek gibi işletme kalemlerinden oluşur. Bazı açık kaynak projelerin ek özellikler sunan ücretli kurumsal sürümleri de bulunabilir.

LiteLLM cPanel / paylaşımlı hostingte çalışır mı?

Hayır — Docker/VPS gerekir.

LiteLLM için nasıl bir sunucu gerekir?

Sunucu: VPS/sunucu, işçi başına 1 vCPU / 4 GB. Veritabanı: PostgreSQL + Redis. Kullanıcı sayısına ve kullanım yoğunluğuna göre e-veri.com uygun sunucu boyutunu önerir.

LiteLLM nasıl kurulur?

LiteLLM vekil sunucusu (proxy) Docker ile kurulur (üretimde yük testinden geçmiş -stable etiketleri önerilir); büyük kurulumlar için Helm ve Terraform rehberleri vardır. Sanal API anahtarları ve harcama takibi için PostgreSQL gerekir, üretim Helm kurulumu Redis de ister. Resmi öneri, işçi başına 1 vCPU ve 4 GB bellektir. Lisans notu: MIT, ancak enterprise klasörü ayrı lisanslıdır; yönetim arayüzünde SSO 5 kullanıcıya kadar ücretsiz, fazlası için Enterprise lisans gerekir; SCIM, saklama süreli denetim kayıtları ve JWT kimlik doğrulama gibi özellikler de Enterprise'dadır. cPanel / paylaşımlı hostingte çalışmaz.

LiteLLM kendi bilgisayarımda (local) çalışır mı?

Evet (Docker).

LiteLLM kurulumunu ve hostingini kim yapabilir?

e-veri.com, LiteLLM için sunucu hazırlığı, kurulum, Türkçe yapılandırma, yedekleme, güncelleme ve teknik destek hizmeti verir. Verileriniz Türkiye'deki sunucularda ya da kendi altyapınızda tutulabilir. Ücretsiz teklif için sayfadaki formu kullanabilirsiniz.