“為什麼 AGI 不會發生” @Tim_Dettmers 這篇文章值得一讀。討論了擴展的收益遞減(和風險)。西方與東方的對比:建造最大事物的“贏者通吃”方法與對實用性的長期關注。 “這篇博客文章的目的是針對我所看到的非常草率的思考進行討論,這種思考是在回音室中產生的,特別是在灣區,這裡的相同想法在沒有批判意識的情況下自我放大。由理性主義者和 EA 運動所散發的壞想法和思考的放大,是塑造每個人有益未來的一個大問題。” “來自灣區的想法的一個關鍵問題是,它們往往完全存在於思想空間中。大多數思考 AGI、超智能、擴展法則和硬體改進的人將這些概念視為可以像哲學思想實驗一樣討論的抽象想法。事實上,許多關於超智能和 AGI 的思考來自牛津風格的哲學。牛津,這個有效利他主義的發源地,與灣區的理性文化相混合,產生了對某些想法的清晰思考的強烈扭曲。”