Что такое LFM2.5-VL-DSpark и почему ускорение важно для моделей изображения+текста
Недавний релиз LiquidAI — экспериментальная версия модели LFM2.5-VL-3B, снабжённая технологией DSpark — позволяет увеличить скорость работы моделей, которые способны одновременно обрабатывать изображения и текст (Vision-Language Models, VLM). Это важно, потому что такие модели требуют больших вычислительных ресурсов, а пользователь хочет получить ответ быстрее и без ухудшения качества. Новый метод предлагает ускорение декодирования (генерации ответов) до 3 раз на обычных устройствах и до 2,6 раза на мощных видеокартах, сохраняя при этом качество. При этом увеличивается размер самой модели всего на 8,9%, что невелико по сравнению с выигрышем в скорости.
Как работает speculative decoding в vision-language моделях
Ключевая технология — speculative decoding (примерное предугадывание текста), которая была ранее применена в чисто текстовых моделях. Суть: при генерации ответа модель пытается сразу предсказать несколько слов (блок из k токенов) за раз, опираясь на скрытые состояния — внутренние числовые представления текста и изображения. В LFM2.5-VL-DSpark отдельная вспомогательная модель — drafter — изучена специально, чтобы быстро и точно делать такую «черновую» быструю версию ответа. Потом основная модель подтверждает или корректирует этот «черновик».
Важно, что изображение разбивается на небольшие фрагменты (patches), а текст на токены, и оба преобразуются в единую внутреннюю форму, что облегчает работу drafter’а независимо от вида входа.
Как обучали и на чём основана архитектура drafter’а
DSpark drafter обучали на специально подготовленных наборах данных, где много примеров с изображениями и текстом. Проводили эксперименты с числом слоёв и длиной блока генерации, оптимально выбрав 4 слоя внимания и блок из 9 токенов для прогноза. DLCraft модель весит около 280 миллионов параметров и добавляется на 8,9% к базовой модели 3 миллиарда параметров.
Реальные показатели скорости на CPU и GPU
В реальных тестах при разных задачах — распознавание и ответы на вопросы про изображения, генерация описаний, анализ графиков и мультиступенчатые диалоги — время генерации снизилось в 2-3 раза на устройствах Apple M5 Max и M3 Ultra. На профессиональной видеокарте NVIDIA H100 ускорение декодирования достигает почти 3 раз, а итоговое уменьшение задержек при работе с моделью — около двух раз.
Это значительный прогресс, ведь многие приложения требуют работы моделей в реальном времени или на устройствах с ограниченными ресурсами.
Ограничения и неочевидные моменты работы технологии
Speculative decoding ускоряет только этап декодирования (генерации текста), но не сокращает время обработки самого изображения (vision encoding) или начального прогона всей информации (prefill). В моделях VLM эти этапы зачастую занимают большую часть общей задержки, особенно на маломощных устройствах.
Это значит, что максимальная скорость работы всё равно ограничена временем загрузки и обработки изображения, что соответствует общему правилу из информатики — закону Амдала. То есть ускорение декодирования хорошо помогает, но не может в одиночку резко сократить общее время отклика.
Как начать использовать LFM2.5-VL-DSpark уже сегодня
Для запуска DSpark drafter требуется поддержка в ПО, например SGLang с DSpark поддержкой, а также модели, совместимые с LFM2.5, такие как LFM2.5-VL-3B. Запуск выполняется командой, где указывают модель, драфтер, размер блока и другие параметры.
На практике обычно это нужно разработчикам и продвинутым пользователям, которые хотят интегрировать модель в свои приложения с максимальной производительностью. Для обычного пользователя важно выбирать готовые решения, которые уже используют такие ускорения в своей основе.
Кому это нужно и что делать дальше
- Если вы используете или планируете использовать модели, совмещающие понимание изображений и текста, то увеличение скорости работы поможет получать ответы быстрее, экономить ресурсы и ожидать удобного взаимодействия без задержек.
- Особенно это актуально при ограниченных вычислительных мощностях — например, на ноутбуках или мобильных устройствах.
- Для конечных пользователей это означает появление более отзывчивых приложений с поддержкой сложных мультимодальных задач.
- Если вы не работаете с такими задачами и не интегрируете модели в свои сервисы, можете пока не беспокоиться, но уже знать о тренде ускорения полезно.
Для тех, кто хочет подробнее разобраться в работе моделей и ускорениях, полезно прочитать наш полный гид по OpenClaw, а также ознакомиться с новыми возможностями в сфере ИИ-агентов: например, в материалах про Claude Opus 5.5 и GPT-6 Sol, или исследованиями OpenRouter по удобному доступу к моделям [/razbory/openrouter-kak-neytralizovat-konkurentsiyu-ii-i-sdelat-dostup-k-modelyam-udobnym/].
Источник: Accelerating vision-language models with LFM2.5-VL-DSpark LiquidAI, сентябрь 2026