Muitas coisas diferentes se desenrolaram ao longo do tempo, até que algoritmos passaram a ser causais, em vez de consequenciais Os humanos agora otimizam para o algoritmo, que por sua vez faz um loop de feedback sobre o que é recebido, o que se acumulou além do reparo em um ciclo de retroalimentação negativo

As coisas que sustentavam [a razão pela qual os algoritmos tinham] valor em suas inferências diminuíram completamente Um exemplo microcosmo (não abrangente): você costumava seguir 100 pessoas que realmente conhece. Todos eles seguiram as 100 pessoas que realmente conhecem. A reciprocidade no segundo grau era necessariamente relevante para você. o que significava que quem seguir algoritmos recursava em entradas de alto valor de inferência para um ciclo virtuoso do grafo subsequente Isso não é mais verdade para qualquer acadê de acréscimo, ou, quando é, em pequenas partes, também diminui irreversivelmente (e já ultrapassa o ponto de virada de uma má ponderação) O que é mais ou menos parecido com a conversa do Jeff Bezos sobre otimização de métricas (originalmente existe um *motivo*, um conjunto de princípios de primeiro padrão, para o qual você realmente está otimizando, e as métricas são um proxy disso. No fim das contas, as métricas ficam desconectadas, mas ainda assim são otimizadas)

Os algos, por um breve momento, foram ciclos de retroalimentação em entradas de alto valor de inferência (que agora parecem acidentais), causando um ciclo virtuoso de seus próprios resultados de ação (e índice deles, que então se torna um ciclo de retroalimentação entrelaçado) Os dados só são tão bons quanto o que realmente pode ser inferido, e a supermodelagem e o excesso de indexação em atenção em vez de vetores de conexão os reduziram a ciclos viciosos longe de seu próprio valor de entrada

Isso (já começou) a acontecer com a IA, que também é apenas um ciclo de retroalimentação nas entradas. Exceto que isso vai acontecer muito mais rápido