Thinking Machines выпустила открытую модель Inkling Small

Thinking Machines выпустила открытую модель Inkling Small

Inkling Small опенсорс модель с производительностью почти как у флагмана, но в четыре раза меньшего размера на 276 миллиардов параметров, из которых одновременно работают только 12 миллиардов. У старшей Inkling активен 41 миллиард параметров.

Модель нативно понимает текст, изображения и аудио, поддерживает контекст до 1 миллиона токенов и позволяет регулировать глубину рассуждений.

Несмотря на меньший размер, Inkling Small обгоняет старшую версию на части тестов. На Humanity’s Last Exam она набрала 31,6 процента против 29,7 процента, а на SWE Bench Verified превысила 80 процентов.

Модель особенно заточена под программирование, работу с инструментами и агентные сценарии. После предварительного обучения команда еще две недели усиливала ее с помощью обучения с подкреплением на задачах по коду.

Полные веса уже опубликованы. Inkling Small также доступна для общения с текстом, изображениями и аудио, а дообучить модель можно через платформу Tinker.