Bu Claude Code süper gücünü buldum ve bu biraz dahiyane Bu, birden fazla yapay zeka sağlayıcısını (claude, openai, Gemini, Codex) yönetmek için tek duraklı bir platform olan claude-code-hub adlı bir depo Ne yapar: - Akıllı yük dengeleme: Her sağlayıcı için ağırlıklar ve öncelikler belirleyin. birden fazla API anahtarınız varsa, istekler aralarında dağıtılır. Bir sağlayıcının arızalandığını algılayıp otomatik olarak etrafından yönlendiren (en fazla 3 deneme) yerleşik devre kesicisi - Oturum yönetimi: 5 dakikalık bağlam önbelleği, böylece konuşma sırasında sürekli sağlayıcı değiştirmiyorsunuz. hangi sağlayıcının neyi ele aldığının "karar zincirini" takip eder, garip davranışları hatalama için faydalıdır - hız sınırı: RPM, maliyet (5 saat/haftalık/aylık sınırlar) veya eşzamanlı oturumlara göre sınırlanır. Redis Lua scriptleri kullanıyor, bu yüzden limitler atomik. Redis düşerse her şeyi engellemek yerine açılmamaktadır - Gerçek maliyet takibi: Kullanıcı başına kullanımı, token tüketimini, zaman içindeki maliyetleri gösterir. Liderlik tablosu görünümü var, böylece kredileri kim harcadığını görebiliyorsunuz. Litellm Pricing ile senkronize - OpenAI uyumluluk katmanı: OpenAI'nin API formatı için oluşturulmuş araçlarınız varsa, bu onların Claude ile çalışmasına olanak tanır. biçim dönüşümünü, araç çağrılarını, akıl yürütme alanlarını otomatik olarak yönetir Bu kimler için: - Sağlayıcılar arasında birleşik faturalandırma/takip isteyen ekipler - yedeklik için birden fazla API anahtarı havuzlayan herkes Bir sağlayıcı devre dışı kaldığında otomatik devre isteyenler - Tüm AI API çağrılarının denetim kayıtlarına ihtiyaç duyan kuruluşlar

Depo bağlantısı: