Tencent выпустила и открыла Hy4 preview, новую флагманскую ИИ модель на 770 млрд параметров

Tencent выпустила и открыла Hy4 preview, новую флагманскую ИИ модель на 770 млрд параметров

При этом на каждый запрос используется только 49 млрд параметров. Такая архитектура позволяет держать огромную модель, но не запускать её целиком для каждого токена.

Контекст вырос до 1 млн токенов. Модель заточили под реальные рабочие задачи вроде программирования, анализа документов, таблиц и презентаций, разработки игр и научных исследований.

Во внутреннем слепом тесте Tencent участвовали 163 специалиста и 203 инженерные задачи. Hy4 preview немного опередила GLM-5.3 и Kimi K3 по средней оценке.

Tencent отдельно отмечает работу с длинными задачами. Модель умеет планировать, искать ошибки, проверять результат и продолжать сложные проекты на протяжении многих шагов.

Это пока ранняя версия. Среди известных проблем сама Tencent называет слишком долгие рассуждения и привычку чрезмерно перепроверять собственную работу.

Веса Hy4 preview уже опубликованы под Apache 2.0.