Löysin tämän Claude Code -supervoiman, ja se on tavallaan nerokas Tämä on repositio nimeltä claude-code-hub – yhden luukun alusta useiden tekoälytoimittajien (claude, openai, gemini, codex) hallintaan Mitä se tekee: - Älykäs kuormantasapainotus: aseta painot ja prioriteetit jokaiselle palveluntarjoajalle. jos sinulla on useita API-avaimia, se jakaa pyynnöt niiden kesken. sisäänrakennettu sulake, joka tunnistaa palveluntarjoajan vikaantumisen ja ohjaa sen automaattisesti (enintään 3 yritystä) - Istuntojen hallinta: 5 minuutin kontekstivälimuisti, jotta et vaihda palveluntarjoajaa jatkuvasti kesken keskustelun. Seuraa "päätösketjua" siitä, kuka palveluntarjoaja käsitteli mitäkin, hyödyllistä outojen käyttäytymisten debuggauksessa - nopeusrajoitus: rajoitus kierrosluvulla, kustannuksilla (5 tunnin viikoittaiset/kuukausikatot) tai samanaikaisilla sessioilla. Käyttää Redis Lua -skriptejä, joten rajat ovat atomisia. Jos Redis menee alas, se avautuu epäonnistuen sen sijaan, että estäisi kaiken - Todellisten kustannusten seuranta: Näyttää käyttäjän käytön, tokenin kulutuksen ja kustannukset ajan myötä. Siinä on tulostaulunäkymä, jotta näet, ketkä kuluttavat krediittejä. Synkronoituu Litellm-hinnoittelun kanssa - OpenAI:n yhteensopivuuskerros: Jos sinulla on työkaluja OpenAI:n API-formaattiin, se mahdollistaa niiden toimimisen Clauden kanssa. hoitaa muotoilumuunnokset, työkalukutsut ja päättelykentät automaattisesti Kenelle tämä on tarkoitettu: - tiimit, jotka haluavat yhtenäisen laskutuksen ja seurannan eri palveluntarjoajien välillä - kuka tahansa, joka käyttää useita API-avaimia redundanssia varten Ihmiset, jotka haluavat automaattisen failoverin, kun yksi palveluntarjoaja menee pois käytöstä - organisaatiot, jotka tarvitsevat auditointilokit kaikista tekoälyn API-kutsuista

Takaisinottolinkki: