我們是否正朝著一個穩定的反烏托邦前進？ 我一直在思考 AI 將如何塑造社會，而有一種特定的情景在我看來似乎是一個高概率的結果。這可能會這樣發展： • AI 自動化越來越多的人類工作 • 這種自動化的回報流向資本持有者，使他們變得更富有 • 隨著大眾的收入下降，政府忽視/廢除所得稅，而是對企業收入/財富徵稅以滿足其需求 • 富人將自己隔離（如他們所做的），並使用 AI 驅動的無人機/機器人來保護自己 • 這使大眾失去所有權力 -> 政府對大眾的關注減少，因為他們的稅收貢獻減少，甚至無法反抗，因為他們面對的是 AI 安全部隊 • 以道德的名義，向大眾提供一種最小形式的基本收入 • 所有未來的社會流動性停止，當前的權力結構永遠凍結 簡而言之，權力者和富人創造了一個平行社會，社會流動性停止，因為資本擁有者/權力經紀人控制著進行經濟工作的 AI（防止其他人上升）。 有人可以辯稱這種情況一直在逐漸發生，但今天大眾仍然擁有權力，因為他們的勞動貢獻和對精英的實體反抗能力。 但 AI 有潛力改變這種權力平衡，而不幸的是，這似乎是我們正朝著的方向。 /syndicated

請注意，這種情況可能是默認的，但並不是一成不變的。 我認為人類仍然有機會不將權力交給精英和/或AI。解決辦法是將AI充分擴散到開源中，使其獲得民主化（但擴展法則表明較大的模型可能總是會壓倒較小的模型！）。另一種方法，當然，是停止AI的發展（但我不認為這會發生；人類太好奇了，無法停止）。 你對這種情況有什麼看法？可行嗎？我們如何確保這不會發生？