Našel jsem superschopnost Claudeova kódu a je to docela geniální jedná se o repozitář nazvaný claude-code-hub – komplexní platforma pro správu více AI poskytovatelů (Claude, OpenAI, Gemini, Codex) Co dělá: - Chytré vyvažování zátěže: Nastavte váhy a priority pro každého poskytovatele. pokud máte více API klíčů, rozděluje požadavky mezi ně. vestavěný jistič, který detekuje, když poskytovatel selhává, a automaticky ho obchází (až 3 pokusy) - Správa relací: 5 minut kontextové cache, abyste během konverzace neustále neměnili poskytovatele. sleduje "rozhodovací řetězec" toho, který poskytovatel co zpracovával, což je užitečné pro ladění podivného chování - omezení rychlosti: omezení podle otáček, podle nákladů (5 hodin/týdně/měsíčně) nebo podle souběžných jízd. Používá Redis Lua písma, takže limity jsou atomické. Pokud Redis vypadne, neotevře se místo toho, aby zablokoval všechno - Sledování reálných nákladů: ukazuje využití na uživatele, spotřebu tokenů, náklady v čase. Má zobrazení žebříčku, takže vidíte, kdo vyčerpává kredity. Synchronizuje se s Litellm Pricing - Kompatibilní vrstva OpenAI: Pokud máte nástroje vytvořené pro API formát OpenAI, umožňuje vám pracovat s Claude. automaticky zpracovává konverzi formátů, volání nástrojů, pole pro uvažování Pro koho to je: - týmy, které chtějí jednotné fakturace/sledování napříč poskytovateli - kdokoli, kdo sdružuje více API klíčů pro redundanci Lidi, kteří chtějí automatické přepínání, když jeden poskytovatel přestane fungovat - organizace, které potřebují auditní logy všech volání AI API

Odkaz na repozitář: