Что такое AGI и как он изменит будущее?

Каким будет AGI?

Есть три парадигмы, в которых люди думают про развитие ИИ:
0) ИИ скам
1) ИИ сегодня, который может делать большую часть цифровой работы
2) AGI завтра, который может делать любую работу человека
3) ASI послезавтра, который умеет выполнять любые теоретически возможные когнитивные задачи

Понятно, что люди имеющие разные определения никогда не могут договориться. Если говорить про инвесторов, пользователей, то начиная с выхода GPT-4 мы видим систематические ошибки в плане предсказания возможностей и скорости роста ИИ в сторону занижения. Развитие это происходит по экспоненте, но люди в целом мыслят линейно и не могут уловить этой скорости. Плюс, это дает некоторое спокойствие — даже сегодня некоторые думаю "ну вот Фейбл это все, дальше уже развитие будет медленнее/остановится".

Люди отчаянно верят в коммодитзацию моделей - что слой ИИ станет примерно одинаковым и примерно доступным всем.

Реальный разрыв между топовыми моделями и вторым эшелоном/прошлым поколением куда выше, чем видно по бенчмаркам. Потому что эффект в миллиарды на экономику это не умение решать очередную задачу из HLE, которую месяц сочиняли профессоры топовых университетов, а более долгосрочная, надежная (с меньшим количеством ошибок и фейлов) работа агентов в кодинге, маркетинге, аналитике, продажах, саппорте и тд

Но коммодитизации не будет. Рекурсивное самоулучшение работает и лаборатории уже используют модели для разработки следующих моделей. Фронтир заберёт всю границу Парето: лучшие по интеллекту, затем по скорости, а вследствие конкуренции и по цене.

Это значит что текущие способности ИИ в целом нерелевантны для большинства, ибо прогресса за следующие два года будет больше, чем за прошедшие пять.

Итого, если приземлить на парадигмы в начале поста, то мир для этих людей выглядит так:
0) Фейбл/Сол не умеет чувствовать и мечтать, бесполезная херня
1) Фейбл/Сол это классно, ну может чуть лучше чем другие модели
2) Что может сделать команда из тысяч сол-агентов работающих вместе над сложной задачей?
3) Сравни сол (может 10+ часов решать бизнес-задачи) с gpt-3 (на третьем параграфе забывает о чем он вообще говорил), а теперь представь такую же разницу, но в будущем.