Когда произойдет рекурсивное самоулучшение AGI?
Главный вопрос о том по какому сценарию пойдет мир (быстрый AGI или медленное развитие/потолок способностей) в том когда случится стадия рекурсивного само улучшения моделей. То есть, когда GPT и Клод станут не менее полезны, чем исследователи из лабораторий, для создания следующих и более способных версий себя.
То, что мы видим публично последние дни указывает на то, что
1. Это совершенно точно возможно
2. Это, вероятнее всего, уже произошло внутри лабораторий
Я бы сейчас ориентировался на один из fast takeoff сценариев для любых планов или стратегий.
То, что мы видим публично последние дни указывает на то, что
1. Это совершенно точно возможно
2. Это, вероятнее всего, уже произошло внутри лабораторий
Я бы сейчас ориентировался на один из fast takeoff сценариев для любых планов или стратегий.
💬Discussion (10)
Будут системы, живущие сами по себе.
Нам нужны:
1. Средства защиты от агентных атак
2. Средства остановки эпидемий
3. Средства отлова и обезвреживания (как от бродячих животных)
Все это нужно делать уже сейчас. Первая эпидемия будет болезненной, но потом мы научимся.
Вероятно появится такой термин как паразитирование на мощностях, когда агент запускается на чужих системах не оплачивая их и скрывая это.
Также вероятно развитие собственного параллельного кибермира среди таких систем, куда люди будут иметь доступ лишь через шпионов.
Даркнеты таких систем станут средством коммуникации с ними: это будет единственный инструмент влияния на них через убеждение и переговоры.
В отличие от людей...