«Яндекс» представил большую языковую модель YandexGPT 5

«Яндекс» впервые опубликовал в открытом доступе YandexGPT 5 Lite Pretrain, представляющую собой большую языковую модель (LLM) на 8 млрд параметров с поддержкой контекста в 32 000 токенов. Об этом говорится в сообщении компании.

Адаптировать базовую (Pretrain) версию модели можно под любые нужды. Она может применяться, в частности, в разработке, бизнесе и научных исследованиях. Новинка компактна и пригодится пользователям, которым требуется небольшая русскоязычная модель. В компании подчеркнули, что Pretrain-версия модели обладает обширными знаниями о мире, понимает контекст и закономерности языка.

Относительно YandexGPT 4 Lite Pretrain новая модель демонстрирует существенное улучшение качества в решении математических задач и написании кода, отметили в «Яндексе».

В декабре 2024 г. «Ведомости» писали, что Т-банк (группа «Т-технологии») открыла доступ к двум большим языковым моделям (LLM): T-Pro на 32 млрд параметров (переменных) и обновленной T-Lite на 7 млрд параметров. В июле прошлого года «Т-банк» открыл доступ к первой версии T-Lite. В банке объясняли, что большее число параметров позволяет модели учитывать больше контекста и особенностей языка, лучше запоминать информацию, делать более точные и сложные выводы.