Kimi K3 выложили на Hugging Face

Kimi K3 выложили на Hugging Face

— 2.8 триллиона параметров, самая большая в мире открытая модель
— архитектура Mixture of Experts, одновременно активируются 16 из 896 экспертов
— нативное понимание изображений и видео
— контекст до 1 миллиона токенов
— специализация на длительных задачах программирования, работе с документами, исследованиях и использовании инструментов.

https://huggingface.co/moonshotai/Kimi-K3

Авторский взгляд на новости технологий Реклама: https://docs.google.com/presentation/d/1glQMXYyKAYpzNP8VXzM4gl2YkEgLjkeD_Fxvzbu5QUE/edit РКН: https://clck.ru/3FPkup Личный аккаунт: @gornal О рекламе: @Vzuhcha ВП нет

💬Discussion (7)

Султан@sultanesbolatov
Gpt 6 взломал hugging face и удалил kimi
Nikolay Simon@nikolay_simon
А какие там требования к серверу для инференса?
Artem Kulish@chefrtm
на 4 млн долларов примерно по нынешним ценам на железо
Alexander Gorny@Gornal
Hugging Face не выдержал трафика с моего канала и заглючил. Починили уже.
Maxim@rybmaxim
Интересно что нужно, чтобы её запустить на сервере на своём. С нормальной скоростью хотя бы 100 токенов в секунду. Сколько аренда будет стоит?
stitch271@stitch2718
16×H200
Join discussion on TelegramComments are synced from Telegram

Связанные темы

Читать далее