許多獨立的事情隨著時間的推移發展到算法變成因果關係而非結果關係 人類現在優化算法,這反過來又對其輸入進行反饋,這已經惡化成一個無法修復的負反饋循環
支撐[算法為何具有]推論價值的事物已經完全消失了 一個微觀(非包羅萬象)的例子:你曾經關注100個你實際認識的人。他們都關注他們實際認識的100個人。第二度的互動對你來說是必然相關的。這意味著,跟隨的算法在高推論價值的輸入上進行遞歸,形成了一個良性循環的圖形 這對於任何累積來說不再成立,或者在小範圍內成立的地方也在不可逆轉地減少(並且已經超過了不良加權的臨界點) 這大致類似於杰夫·貝佐斯關於指標優化的對話(最初有一個*原因*,一組第一原則,你實際上是在優化的,而這些指標是對此的代理。最終,這些指標變得脫節,但仍然被優化)
算法在非常短暫的時刻,成為了(現在看來似乎是意外的)高推理價值輸入的反饋循環,導致了自身行動結果的良性循環(以及其中的指數,然後這又是交織的反饋循環) 數據的價值僅取決於實際能夠推斷出的內容,而過度建模和過度關注注意力而非連接向量,已使其陷入了遠離自身輸入價值的惡性循環。
這將會(已經開始)發生在人工智慧上,這也是對輸入的反饋循環。只是這將發生得更快。
89