Tópicos em alta
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
O armazenamento descentralizado acabou de mudar a economia da distribuição de modelos de IA.
Os custos de hospedagem centralizada aumentam linearmente com o uso. Cada requisição de inferência atinge os mesmos servidores, os custos de largura de banda se acumulam, e os provedores repassam esses custos para os usuários por meio da precificação da API. É por isso que chamadas de API GPT-4 custam o que custam: alguém paga por computação E largura de banda em escala.
Com armazenamento descentralizado como a camada DA do 0G, os pesos dos modelos são distribuídos entre nós. Os usuários puxam do nó mais próximo em vez de bombardear os servidores centrais. Os custos de largura de banda se distribuem pela rede. De repente, hospedar um modelo de 70 bilhões de parâmetros não exige mais uma infraestrutura que custa seis dígitos por mês.
Isso não só torna a IA mais barata. Isso torna viáveis modelos de distribuição completamente novos: modelos que atualizam frequentemente, modelos com variantes regionais, modelos que os usuários podem rodar localmente após o download inicial. A limitação nunca foi a qualidade do modelo, foi a economia da distribuição.
Melhores
Classificação
Favoritos
