"Por qué la AGI no ocurrirá" @Tim_Dettmers Este ensayo merece la pena leerlo. Analiza los rendimientos decrecientes (y los riesgos) de la escalabilidad. El contraste entre Occidente y Oriente: enfoque de "El ganador se lo lleva todo" de construir lo más grande frente a un enfoque a largo plazo en la practicidad. "El propósito de esta entrada del blog es abordar lo que considero un pensamiento muy descuidado, un pensamiento que se crea en una cámara de eco, especialmente en el Área de la Bahía, donde las mismas ideas se amplifican sin conciencia crítica. Esta amplificación de malas ideas y pensamientos que emanan los movimientos racionalistas y de la EA, es un gran problema para moldear un futuro beneficioso para todos." "Un problema clave con las ideas, especialmente las que provienen del Área de la Bahía, es que a menudo viven completamente en el espacio de las ideas. La mayoría de las personas que piensan en AGI, superinteligencia, leyes de escalado y mejoras de hardware tratan estos conceptos como ideas abstractas que pueden discutirse como experimentos mentales filosóficos. De hecho, gran parte del pensamiento sobre la superinteligencia y la AGI proviene de una filosofía al estilo Oxford. Oxford, cuna del altruismo efectivo, mezclado con la cultura de la racionalidad del Área de la Bahía, dio lugar a una fuerte distorsión en cómo pensar claramente ciertas ideas."