BerriAI/litellm — 53k+ yıldız · Python
Ne işe yarar?
Maliyet takibi, yük dengeleme, koruma ve loglama ekler. Farklı sağlayıcılara erişimi standartlaştırır.
Nasıl kullanılır?
SDK ile herhangi bir modeli tek arayüzle çağır ya da proxy'yi kurumsal ağ geçidi olarak çalıştır.
Kuzey Kutbu ipucu
Bu araçları keşfederken kodun temelini Kuzey Kutbu dersleriyle sağlam at; yapay zekâyı bir yardımcı gibi kullan, ürettiği kodu anlamadan kopyalama.