Подбор ИИ-моделей по видеопамяти

Укажите доступную видеопамять и длину контекста. Подбор учитывает веса модели, KV-кеш одной последовательности и резерв на работу программы для запуска на одной видеокарте.

Калькулятор видеопамяти для ИИ-модели

Подбор ИИ-моделей по видеопамяти

Укажите доступную видеопамять и длину контекста. Подбор учитывает веса модели, KV-кеш одной последовательности и резерв на работу программы для запуска на одной видеокарте.

Сначала показаны модели с наибольшим числом параметров. Фактический расход памяти зависит от программы запуска и файла модели.

Другие сервисы

Отзывы пользователей

Отзывы проходят модерацию. Публикуем реальные положительные отзывы и конкретную критику. Спам и оскорбления без полезных подробностей не публикуем; мат и личные данные скрываем символами. Плюсы учитываются сразу, минусы — после проверки.

Отзывы описывают опыт пользователей и не гарантируют результат или отсутствие ограничений сервиса. Оставить отзыв можно с помощью кнопок оценки выше.

На этом языке пока нет опубликованных отзывов.