Нейросеть Flint от Recursive: открытая быстрая модель для кода

Стартап Recursive представил открытую языковую модель Flint, ориентированную на решение задач программирования. Главная особенность релиза заключается не только в высокой производительности архитектуры, но и в методе её создания: архитектура и пайплайн обучения были спроектированы исследовательской ИИ-системой Eureka Machine. Небольшая команда разработчиков при поддержке автономных агентов смогла создать специализированную нейросеть с нуля менее чем за четыре месяца.

Подробности проекта опубликованы в блоге Recursive.

Архитектура MoE и рекордная скорость генерации

Общий объём Flint составляет 40 млрд параметров, однако модель построена на базе архитектуры Mixture of Experts (MoE). При обработке и генерации каждого отдельного токена активируется лишь 2,5 млрд параметров. Благодаря этому модель сочетает эрудицию крупной сети с вычислительной легкостью компактных решений.

Согласно внутренним бенчмаркам команды, Flint лидирует среди MoE-моделей размером до 50 млрд параметров в агентных сценариях написания кода. По общему качеству генерации она сопоставима с классическими плотными (dense) сетями на 25–40 млрд параметров, но превосходит их по скорости инференса более чем в пять раз.

Высокая оптимизация подтверждается реальными замерами производительности на потребительском и профессиональном «железе»:

• на ноутбуках MacBook Pro с чипом Apple M4 Pro скорость генерации превышает 125 токенов в секунду;
• на графических процессорах NVIDIA RTX Spark модель выдает свыше 150 токенов в секунду.

Кроме того, Flint поддерживает сверхдлинный контекст объемом до 512 тысяч токенов, хотя сами разработчики рекомендуют удерживать рабочее окно в пределах 256 тысяч токенов для сохранения максимальной точности ответов.

Возможности модели в разработке ПО

Нейросеть заточена под глубокую интеграцию в процесс разработки и автономные сценарии. Flint способна выполнять широкий спектр прикладных задач:

• полностью изучать кодовую базу больших проектов и сохранять контекст взаимосвязей;
• находить баги, исправлять ошибки и дополнять существующий код новыми функциями;
• автоматически писать тесты под реализованную логику;
• корректно взаимодействовать со сторонними инструментами разработчика через интерфейсы вызова функций.

Автоматизация исследований с Eureka Machine

В создании модели решающую роль сыграла собственная система Recursive — Eureka Machine. Этот исследовательский комплекс функционирует как автономный помощник ученых: он формулирует гипотезы, пишет код для запуска практических экспериментов, анализирует результаты и отбирает наиболее жизнеспособные идеи.

Именно Eureka Machine помогла оптимизировать структуру экспертных слоев Flint, наладить процессы обучения и добиться предельной скорости выполнения вычислений на GPU. Это подтверждает растущий тренд, когда новые генеративные модели создаются и калибруются при непосредственном участии другого искусственного интеллекта.

Доступность и локальный запуск

Разработчики сделали модель полностью открытой: веса Flint уже выложены в репозитории на Hugging Face под свободной коммерческой лицензией Apache 2.0.

Модель сразу готова для локального развертывания на пользовательских машинах. Пользователи могут интегрировать ее через популярные среды инференса, включая Ollama, LM Studio, llama.cpp и другие совместимые фреймворки, что позволяет программировать без отправки исходного кода во внешние облачные сервисы.