Как оптимизация моделей ИИ повлияет на скорость работы?
Для задач типа программирования интерфейсов, приложений и веб сервисов, составления договоров, продаж, поддержки клиентов не нужны значительно более умные модели чем opus 4.6 / gpt-5.3. (Глобально, они нужны, но скорее для рисерча, науки, сложных инженерных задач и супер сложных баз кода)
При этом, дистилляция, оптимизация моделей, интересна, компиляторов и чипов будет продолжаться еще как минимум годы с той же скоростью.
Что сделает использование модели сравнимым со скоростью мысли и значительно дешевле. То, что вы строите сейчас для агентов, которые работают всю ночь, будет занимать 5 минут.
При этом, дистилляция, оптимизация моделей, интересна, компиляторов и чипов будет продолжаться еще как минимум годы с той же скоростью.
Что сделает использование модели сравнимым со скоростью мысли и значительно дешевле. То, что вы строите сейчас для агентов, которые работают всю ночь, будет занимать 5 минут.
💬Discussion (8)
Если делаешь что-то новое, а этому явно есть место даже при том что казалось бы уже 15 лет все активно создают сервисы и приложения, то даже сейчас есть тёмные уголки которые можно порешать)
Уже сейчас можно в https://github.com/ShepAlderson/copilot-orchestra раздавать жару