Viele separate Dinge haben sich im Laufe der Zeit so entwickelt, dass Algorithmen kausal statt konsekutiv wurden. Menschen optimieren jetzt für den Algo, der wiederum auf das, was ihm zugeführt wird, zurückschleift, was sich über das Maß hinaus zu einem negativen Rückkopplungsloop entwickelt hat.

Die Dinge, die [den Grund, warum Algorithmen] in ihren Inferenzwerten wertvoll waren, sind vollständig verschwunden. Ein Mikrokosmos (nicht umfassend) Beispiel: Du hast früher 100 Personen gefolgt, die du tatsächlich kennst. Sie alle folgten den 100 Personen, die sie tatsächlich kennen. Die Gegenseitigkeit auf der zweiten Ebene war für dich notwendigerweise relevant. Das bedeutete, dass die Algorithmen zur Auswahl, wem man folgen sollte, auf hochgradig wertvollen Eingaben für einen tugendhaften Zyklus ihres sich entwickelnden Graphen rekursiv arbeiteten. Das ist nicht mehr für irgendeine Ansammlung wahr, oder wo es in kleinen Weisen der Fall ist, verringert es sich auch irreversibel (und ist bereits über den Kipppunkt schlechter Gewichtung hinaus). Das ist ungefähr ähnlich wie das Gespräch mit Jeff Bezos über die Optimierung von Metriken (ursprünglich gibt es einen *Grund*, ein Set von ersten Prinzipien, für das du tatsächlich optimierst, und die Metriken sind ein Proxy dafür. Letztendlich werden die Metriken disconnected, werden aber trotzdem optimiert).

Algorithmen waren für einen sehr kurzen Moment Rückkopplungsschleifen auf (was jetzt als zufällige) hochgradige Inferenzwert-Eingaben erscheint, die einen tugendhaften Zyklus ihrer eigenen Handlungs-Ergebnisse verursachten (und Index darin, der dann eine verwobene Rückkopplungsschleife ist). Daten sind nur so gut wie das, was tatsächlich abgeleitet werden kann, und Übermodellierung sowie Überindizierung auf Aufmerksamkeit statt auf Verbindungsvektoren haben sie in teuflische Zyklen von ihrem eigenen Eingabewert entfernt.

dies wird (bereits begonnen zu) passieren für KI, die ebenfalls nur eine Rückkopplungsschleife auf Eingaben ist. außer dass dies viel schneller passieren wird.