Směřujeme k stabilní dystopii? Přemýšlel jsem o tom, jak AI ovlivní společnost, a jeden konkrétní scénář mi přijde jako vysoce pravděpodobný výsledek. Takto by to mohlo vypadat: • AI automatizuje stále více lidské práce • Výnosy z této automatizace se vracejí zpět k držitelům kapitálu, což je činí bohatšími • Jak příjmy mas klesají, vláda ignoruje/ruší daň z příjmu, ale místo toho zdaňuje příjmy / bohatství korporací podle svých potřeb • Rich se izolují (jak to dělají) a používají drony/roboty s podporou umělé inteligence k ochraně • To odebírá veškeré pravomoci masám – > vlády věnují masám menší pozornost, protože jejich příspěvek na daních klesá a ani se nemohou vzbouřit, protože čelí AI bezpečnostním silám • Minimální forma UBI je poskytována masám ve jménu morálky • Veškerá budoucí sociální mobilita se zastaví a současné mocenské struktury jsou navždy zmrazeny Stručně řečeno, mocní a bohatí vytvářejí paralelní společnost a sociální mobilita končí, protože vlastníci kapitálu / mocenští hráči ovládají AI, která vykonává ekonomickou práci (což brání ostatním v postupu). Dalo by se tvrdit, že se to postupně děje, ale dnes mají masy stále moc díky svému pracovnímu příspěvku a schopnosti fyzicky se vzbouřit proti elitám. Ale AI má potenciál změnit tuto rovnováhu sil a zdá se, že tam bohužel směřujeme. /syndikováno

Vezměte na vědomí, že tento scénář je pravděpodobně výchozí, ale není zablokovaný. Myslím, že lidstvo má stále šanci nevzdát moc elitě a/nebo AI. Cestou ven je rozšířit AI dostatečně v open source, aby k ní byl přístup demokratický (ale zákony o škálování naznačují, že větší modely mohou vždy přebít ty menší!). Dalším je samozřejmě zastavení vývoje AI (ale nemyslím si, že se to stane; lidé jsou příliš zvědaví na to, aby s tím přestali). Co si o tomto scénáři myslíte? Je to možné? Jak zajistíme, že se to nestane?