许多独立的事情随着时间的推移发生,导致算法变得因果关系而非结果关系。 人类现在为算法进行优化,而算法又对输入内容形成反馈循环,这种情况已经恶化到无法修复的负反馈循环。
支撑[算法为何具有]推理价值的事物已经完全消失 一个微观(非包罗万象)示例:你曾经关注100个你实际认识的人。他们都关注他们实际认识的100个人。第二度的互惠关系对你来说是必然相关的。这意味着,关注谁的算法在高推理价值输入上递归,形成了一个良性循环的图谱 这对于任何积累来说不再成立,或者在小范围内成立时也在不可逆转地减少(并且已经超越了不良加权的临界点) 这大致类似于杰夫·贝索斯关于指标优化的对话(最初有一个*原因*,一个第一原则集,你实际上是在优化的,而这些指标是对此的代理。最终,这些指标变得脱节,但仍然被优化)
算法在非常短暂的时刻,成为了(现在看来似乎是偶然的)高推理价值输入的反馈循环,导致了自身行动结果的良性循环(以及其中的指数,这又是交织的反馈循环) 数据的价值仅取决于实际能够推断出的内容,而过度建模和过度关注注意力而非连接向量,已将其削弱为远离自身输入价值的恶性循环。
这将(已经开始)发生在人工智能上,这也是对输入的反馈循环。只是这将发生得更快。
83