e/acc··1 мин чтения·4 комментария
Изображение 1
Расходы на компьют для ИИ в США растут примерно на 140% в год, но если учесть прогресс алгоритмов, то эффективный рост превышает 2000% в год.
e/acc
e/acc

226 публикаций на visbl.me

Пишу про будущее: AI, web3, технологии и общество. Ускоряемся. Автор: @sgershuni Инвестирую: cyber.fund Построил: Credentia, Deep Skills, Codex Town

💬Discussion (4)

Tyler Cross@TylerCr0ssEchoUMH
ну звучит слишком красиво для реальности 🤨 что-то тут не сходится с практикой роста околонала и инфляцией бюджета давайте по фактам?
Temurbek Rahmatullaev@TemurbRax
Что-то непонятно, что такое quality-adjusted
Anonymous
инференс с учетом улучшения алгоритмов, чипов, оптимизаций
Vladimir@Chepchik_Valeri
Если сорсы не смотреть и прочитать только пост, может показаться, что только у штатов 2290% рост компьюта.
Но алгоритмы ведь доступны всем.

Статья говорит о том, что из-за прогресса в алгоритмах можно пре-тренировать бОльшие LLM(и только их) модели чем прежде и быстрее.

Ни одного слова про главный кост - инференс в статье не упоминается.

Вот цитата: "In this paper, we quantify pre-training algorithmic improvements by following the approach first presented by Erdil and
Besiroglu (2022) in computer vision. Note that this is distinct from algorithmic progress in general, since we are not
considering “post-training enhancements", such as chain-of-thought prompting, improvements to fine-tuning techniques,
or the integration of search-based methods, which can significantly improve the performance of already-trained models
on downstream tasks (e.g. programming or solving mathematics problems) (Davidson et al. 2023)."
https://arxiv.org/pdf/2403.05812

Да и к росту компьюта я бы относился скептически.
В репорте говорится, что они опирались на прогнозы електропотребления в штатах (что не является фактическим потреблением, а прогнозом, базируещемся на возможном потреблении если каждый контракт реально заработает) Майкрософт может подать заявки в нескольких штатах сразу на один датацентр, но заявку посчитают везде и сразу.
https://www.piie.com/sites/default/files/2026-05/wp26-9.pdf

К тому же, продажи видеокарт != их реальной инсталляции. в репорте нвидиа отгрузила 9.5+ гигаватт в 2026Q1. Это дурка, нету столько датацентров новых. Они на складах лежат.

https://epoch.ai/data/ai-chip-sales?view=graph&tab=power

Короче, рост компьюта уже спорный, но это умножение на 10 из-за алгоритмов это сову на глобус. Главный кост это инференс, об этом в сорсе ни слова. Нету там экспоненциального роста, это копиум
Join discussion on TelegramComments are synced from Telegram

Читать далее