“为什么AGI不会发生” @Tim_Dettmers 这篇文章值得一读。讨论了规模化的收益递减(和风险)。西方与东方的对比:构建最大事物的“赢家通吃”方法与对实用性的长期关注。 “这篇博客文章的目的是解决我认为非常粗心的思维,这种思维是在一个回音室中产生的,特别是在湾区,那里相同的想法在没有批判意识的情况下相互放大。这种由理性主义和EA运动所散发的糟糕想法和思维的放大,是塑造每个人美好未来的一个大问题。” “一个关键问题是,特别是来自湾区的想法,往往完全存在于思想空间中。大多数思考AGI、超智能、规模法则和硬件改进的人将这些概念视为可以像哲学思想实验一样讨论的抽象想法。事实上,关于超智能和AGI的许多思考源于牛津风格的哲学。牛津,作为有效利他主义的发源地,结合了湾区的理性文化,导致了对某些想法的清晰思考的强烈扭曲。”