ИИ-агенты теперь сами выбирают модель для каждого шага

ИИ-агенты теперь сами выбирают модель для каждого шага

Not Diamond выпустила умный роутер для coding-агентов. Он автоматически решает, когда использовать дорогую модель, а когда можно переключиться на более дешевую без потери качества.

Роутер работает с Claude Code и другими агентами. Перед каждым действием он оценивает сложность задачи, размер контекста, число токенов, историю сессии и состояние кеша.

На Poly-SWE-bench система показала качество, близкое к Claude Opus 4.8 на максимальном уровне рассуждений, но снизила расходы на 39 процентов.

На тесте LongCodeQA экономия достигла 61 процента. После добавления GLM 5.2 и DeepSeek V4 Flash расходы сократились уже на 66 процентов, а качество выросло еще на 3,6 процента.

Система учитывает даже кеш. Иногда она оставляет дорогую модель, потому что переключение обойдется дороже. В другом случае может специально сбросить кеш и подключить более сильную модель, если та быстрее завершит задачу.

Все работает через локальный прокси. Код, запросы и ответы остаются на компьютере разработчика. Сервис получает только обезличенные данные, необходимые для выбора модели.

В раннем доступе компании экономят больше 20 процентов расходов на модели. Not Diamond Code уже тестируют стартапы и инженерные команды из Fortune 500.

Разработчику больше не нужно вручную выбирать между быстрой, дешевой и умной моделью. Агент делает это сам на каждом шаге работы.