de nombreuses choses séparées se sont déroulées au fil du temps, jusqu'à ce que les algorithmes basculent vers un rôle causal plutôt que conséquent les humains optimisent maintenant pour l'algorithme, qui à son tour rétroagit sur ce qui lui est soumis, ce qui s'est aggravé au-delà de toute réparation en une boucle de rétroaction négative

les éléments qui soutenaient [la raison pour laquelle les algorithmes avaient] de la valeur dans leurs inférences ont entièrement diminué un exemple de microcosme (non englobant) : vous suiviez 100 personnes que vous connaissez réellement. elles suivaient toutes les 100 personnes qu'elles connaissaient réellement. la mutualité au second degré était nécessairement pertinente pour vous. ce qui signifiait que les algorithmes de suivi se basaient sur des entrées à haute valeur d'inférence pour un cycle vertueux de leur graphique en cours ceci n'est plus vrai pour aucun cumul, ou là où cela l'est dans de petites mesures, cela diminue également de manière irréversible (et est déjà au-delà du point de basculement d'un mauvais poids) ce qui est à peu près similaire à la conversation de jeff bezos sur l'optimisation des métriques (à l'origine, il y a une *raison*, un ensemble de premiers principes, pour lequel vous optimisez réellement, et les métriques sont un proxy pour cela. en fin de compte, les métriques deviennent déconnectées, mais sont toujours optimisées pour)

Les algorithmes, pendant un très bref moment, étaient des boucles de rétroaction sur (ce qui semble maintenant être des) entrées à haute valeur d'inférence accidentelles, provoquant un cycle vertueux de leurs propres résultats d'action (et d'indexation, qui est ensuite une boucle de rétroaction entrelacée) Les données ne sont aussi bonnes que ce qui peut réellement être inféré, et le sur-modélisation et le sur-indexation sur l'attention plutôt que sur les vecteurs de connexion les ont réduites à des cycles vicieux éloignés de leur propre valeur d'entrée.

cela va (a déjà commencé à) se produire pour l'IA, qui est aussi juste une boucle de rétroaction sur les entrées. sauf que cela se produira beaucoup plus rapidement