“Perché l'AGI non accadrà” @Tim_Dettmers Questo saggio merita di essere letto. Discute i rendimenti decrescenti (e i rischi) della scalabilità. Il contrasto tra Occidente e Oriente: l'approccio “Chi vince prende tutto” per costruire la cosa più grande contro un focus a lungo termine sulla praticità. “Lo scopo di questo post del blog è affrontare quello che vedo come un pensiero molto approssimativo, un pensiero creato in una camera d'eco, in particolare nella Bay Area, dove le stesse idee si amplificano senza consapevolezza critica. Questa amplificazione di cattive idee e pensieri espressi dai movimenti razionalisti e EA è un grande problema nel plasmare un futuro benefico per tutti.” “Un problema chiave con le idee, in particolare quelle provenienti dalla Bay Area, è che spesso vivono interamente nello spazio delle idee. La maggior parte delle persone che pensano all'AGI, alla superintelligenza, alle leggi di scalabilità e ai miglioramenti hardware trattano questi concetti come idee astratte che possono essere discusse come esperimenti di pensiero filosofico. In effetti, gran parte del pensiero sulla superintelligenza e sull'AGI proviene dalla filosofia in stile Oxford. Oxford, il luogo di nascita dell'altruismo efficace, mescolato con la cultura della razionalità della Bay Area, ha dato origine a una forte distorsione su come pensare chiaramente a certe idee.”