Подбор ИИ-моделей по видеопамяти
Укажите доступную видеопамять и длину контекста. Подбор учитывает веса модели, KV-кеш одной последовательности и резерв на работу программы для запуска на одной видеокарте.
Калькулятор видеопамяти для ИИ-моделиПодходящие модели
При этих настройках подходящих моделей нет. Попробуйте уменьшить контекст или разрядность весов либо увеличить доступную память.
Сначала показаны модели с наибольшим числом параметров. Фактический расход памяти зависит от программы запуска и файла модели.
- Параметры (млрд)
- Всего требуется памяти (ГиБ)
- Свободно после запуска (ГиБ)
Подбор ИИ-моделей по видеопамяти
Укажите доступную видеопамять и длину контекста. Подбор учитывает веса модели, KV-кеш одной последовательности и резерв на работу программы для запуска на одной видеокарте.
Сначала показаны модели с наибольшим числом параметров. Фактический расход памяти зависит от программы запуска и файла модели.
Другие сервисы
Отзывы пользователей
Отзывы проходят модерацию. Публикуем реальные положительные отзывы и конкретную критику. Спам и оскорбления без полезных подробностей не публикуем; мат и личные данные скрываем символами. Плюсы учитываются сразу, минусы — после проверки.
Отзывы описывают опыт пользователей и не гарантируют результат или отсутствие ограничений сервиса. Оставить отзыв можно с помощью кнопок оценки выше.
На этом языке пока нет опубликованных отзывов.





