Czy zmierzamy w kierunku stabilnej dystopii? Myślałem o tym, jak AI wpłynie na społeczeństwo, a jeden szczególny scenariusz wydaje mi się bardzo prawdopodobny. Oto jak to może wyglądać: • AI automatyzuje coraz więcej ludzkiej pracy • Zyski z tej automatyzacji trafiają do posiadaczy kapitału, czyniąc ich bogatszymi • Gdy dochody mas maleją, rząd ignoruje/znosi podatek dochodowy, a zamiast tego opodatkowuje dochody korporacyjne/majątek na swoje potrzeby • Bogaci izolują się (jak to mają w zwyczaju) i używają dronów/robotów wspomaganych przez AI do ochrony siebie • To odbiera wszelką władzę masom -> rządy zwracają mniej uwagi na masy, gdy ich wkład w podatki maleje, a one nie mogą nawet zbuntować się, ponieważ stają w obliczu sił bezpieczeństwa AI • Minimalna forma UBI jest zapewniana masom w imię moralności • Cała przyszła mobilność społeczna zatrzymuje się, a obecne struktury władzy zostają zamrożone na zawsze Krótko mówiąc, potężni i bogaci tworzą równoległe społeczeństwo, a mobilność społeczna zatrzymuje się, ponieważ właściciele kapitału / pośrednicy władzy kontrolują AI, która wykonuje prace ekonomiczne (uniemożliwiając innym wspinanie się wyżej). Można argumentować, że to stopniowo się dzieje, ale dzisiaj masy wciąż mają władzę dzięki swojemu wkładowi pracy i zdolności do fizycznego buntu przeciwko elitom. Jednak AI ma potencjał, aby zmienić tę równowagę sił i wydaje się, że niestety w tym kierunku zmierzamy. /syndicated

Zauważ, że ten scenariusz jest prawdopodobnie domyślny, ale nie jest wyryty w kamieniu. Myślę, że ludzkość wciąż ma szansę, aby nie oddać władzy elitom i/lub AI. Sposobem na to jest wystarczające rozpowszechnienie AI w open source, aby dostęp do niego był demokratyczny (ale zasady skalowania sugerują, że większe modele mogą zawsze przewyższać mniejsze!). Innym sposobem, oczywiście, jest zatrzymanie rozwoju AI (ale nie sądzę, żeby to się stało; ludzie są zbyt ciekawi, aby przestać). Co myślisz o tym scenariuszu? Wiarygodny? Jak możemy zapewnić, że to się nie stanie?