Что такое киберэкономика и как она влияет на будущее человечества?

Мы опубликовали тезис о киберэкономике, то есть новой экономической системе в программируемом и высокоавтоматизированном мире

- человечество зажато между двумя экспонентами: технологии порождают новые риски вплоть до киберрабства и вымирания, но они же дают инструменты кибернетической саморегуляции

- чтобы выживать, системы обязаны расширяться. капитализм это лучший самооптимизирующийся механизм экспансии, где цена работает как децентрализованный сигнал для баланса спроса и предложения

- у экспансии встроенный трейд-офф риска и роста: чем быстрее рост, тем больше новых рисков: от долговых циклов и концентрации богатства до киберрабства владельцами ИИ

- киберрабство - риск того, что техномонополии с рефлексивно самоулучшающимся ИИ применят накопленную власть за пределами бизнеса. оно уже здесь: телефон следит за вами, лента формирует убеждения, ИИ-ассистент работает на того кто больше платит

- причиной являются человеческие ограничения в наблюдении, анализе, координации и действии

- самое сильное из них - это проблема координации, порождающая невозможность коллективного действия. теория игр гарантирует, что индивидуально рациональное поведение даёт устойчиво худший коллективный исход

- ИИ снимает эти ограничения: агенты ищут, рассуждают, коммуницируют и исполняют лучше людей. эпоха ограниченной рациональности позади.

- смарт-контракты закрывают барьер доверия и гарантий исполнения обязательств: любые два агента, человек или ИИ, заключают сложные контракты без центральной юрисдикции

- три рычага ускорения кибернетики:
— регулирование через технологию (интерпретируемость ИИ, evals, верифицируемый аудит, полицентричное управление)
— переход от экономики внимания к экономике намерений (агент читает интент, находит контрагентов, договаривается и исполняет)
— ИИ-генерация рыночных механизмов на лету, где координация становится программируемой

- развилка сегодня: смириться с киберрабством и дать рефлексивному технологическому риску привести к вымиранию или ускорить кибернетику, свести новые риски к нулю и сойтись к кибернетической экономике