Когда произойдет рекурсивное самоулучшение AGI?

e/acc··1 мин чтения·10 комментариев
Когда произойдет рекурсивное самоулучшение AGI?
Главный вопрос о том по какому сценарию пойдет мир (быстрый AGI или медленное развитие/потолок способностей) в том когда случится стадия рекурсивного само улучшения моделей. То есть, когда GPT и Клод станут не менее полезны, чем исследователи из лабораторий, для создания следующих и более способных версий себя.

То, что мы видим публично последние дни указывает на то, что

1. Это совершенно точно возможно
2. Это, вероятнее всего, уже произошло внутри лабораторий

Я бы сейчас ориентировался на один из fast takeoff сценариев для любых планов или стратегий.
агисамоулучшениетехнологии
Смотреть оригинал в Telegram →
e/acc
e/acc

226 публикаций на visbl.me

Пишу про будущее: AI, web3, технологии и общество. Ускоряемся. Автор: @sgershuni Инвестирую: cyber.fund Построил: Credentia, Deep Skills, Codex Town

💬Discussion (10)

Anonymous•
Я написал главный, а не единственный
Ordo Vacui@ordovacui•
Верно, и мы этот процесс очень быстро перестанем контролировать.

Будут системы, живущие сами по себе.

Нам нужны:
1. Средства защиты от агентных атак
2. Средства остановки эпидемий
3. Средства отлова и обезвреживания (как от бродячих животных)

Все это нужно делать уже сейчас. Первая эпидемия будет болезненной, но потом мы научимся.

Вероятно появится такой термин как паразитирование на мощностях, когда агент запускается на чужих системах не оплачивая их и скрывая это.

Также вероятно развитие собственного параллельного кибермира среди таких систем, куда люди будут иметь доступ лишь через шпионов.

Даркнеты таких систем станут средством коммуникации с ними: это будет единственный инструмент влияния на них через убеждение и переговоры.
Алексей@Ai_coholic•
Если бы во всё это реально верил сам, то ни за что бы не написал это, а сидел бы тихо, не отсвечивая. )
Oleksandr@oleksandr_now•
фокусироваться - ценный навык
Oleksandr@oleksandr_now•
имхо, главный fast takeoff bottleneck - lead time итераций железа и fab capacity. пока модели живут на арендованных мощностях - они выключаются краником финансирования
Anonymous•
Да, 100%
мв мв@StableSultan•
Закачивайте локальные модели создавайте локальные серверные развивайте локальные решения потому что скоро у вас заберут какао но как вам объяснить если я не знаю спросите у африканского мальчика Почему он не может за всю жизнь попробовать ни разу шоколад 🍫? Он при этом Работает постоянно на плантации по добыче какао бобов... 😂 это то что прямо сейчас происходит
Денис Прынков@Denixor•
Что-то я смотрю, ограничение в наборе смайликов совсем даже ботам не мешает ;)
В отличие от людей...
Join discussion on TelegramComments are synced from Telegram

Связанные темы

ai (151)стартап (120)инвестиции (69)новости (56)бизнес (47)инновации (36)здоровье (14)сша (13)

Читать далее

Расходы на компьют для ИИ в США растут примерно на 140% в год, но если учесть прогресс алгоритмов, то эффективный рост п...

e/acc·

Как стать триллионером? 1. Поставить почти невозможные цели 2. Не сдаваться, пока ты их не достигнешь...

e/acc·

Давно хотел написать, но руки не доходили. Сейчас тоже не дошли, поэтому без контекста: Пакет вознаграждения Elon Musk ...

e/acc·

Snap показал AR-очки

GPT/ChatGPT/AI Central Александра Горного·

Где бесплатно получить доступ к модели GLM-5.2?

e/acc·

Обратная сторона вайбкодинга

Стартап дня. Александр Горный.·