muitas coisas separadas aconteceram ao longo do tempo, onde os algoritmos se tornaram causais em vez de consequenciais os humanos agora otimizam para o algoritmo, que por sua vez retroalimenta o que é inserido nele, o que se acumulou além do reparo em um ciclo de feedback negativo

as coisas que sustentavam [a razão pela qual os algoritmos tinham] valor nas suas inferências diminuíram completamente um exemplo microcósmico (não abrangente): costumavas seguir 100 pessoas que realmente conheces. todas elas seguiam as 100 pessoas que realmente conhecem. a mutualidade no segundo grau era necessariamente relevante para ti. o que significava que quem seguir os algoritmos recursavam sobre entradas de alto valor de inferência para um ciclo virtuoso do seu gráfico subsequente isto já não é verdade para qualquer acumulação, ou onde é, de pequenas maneiras, também está irreversivelmente a diminuir (e já além do ponto de viragem de má ponderação) o que é aproximadamente semelhante à conversa de jeff bezos sobre otimização de métricas (originalmente há uma *razão*, um conjunto de princípios fundamentais, para o qual realmente estás a otimizar, e as métricas são um proxy para isso. em última análise, as métricas tornam-se desconectadas, mas ainda são otimizadas)

os algoritmos, por um breve momento, eram ciclos de feedback sobre (o que agora parece ser acidental) entradas de alto valor de inferência causando um ciclo virtuoso de seus próprios resultados de ação (e índice, que então é um ciclo de feedback entrelaçado) a informação é tão boa quanto o que pode realmente ser inferido, e a sobre-modelagem e sobre-indexação na atenção em vez de vetores de conexão as diminuiu em ciclos viciosos afastando-se de seu próprio valor de entrada

isto irá (já começou a) acontecer para a IA, que também é apenas um ciclo de feedback sobre entradas. exceto que isto acontecerá muito mais rápido