Нейросеть A-Vibe от «Авито» стала лучшей по бенчмарку MERA

Большая языковая модель A-Vibe (разработана специалистами «Авито») стала первой среди облегченных нейросетей по отечественному бенчмарку MERA. Оценивались, в частности, такие параметры, как понимание запроса пользователей, генерация кода и поддержка осмысленного диалога. Российская нейросеть опередила GPT-4o mini, Claude 3.5 Haiku и Gemini 1.5 Flash-8B по выполнению русскоязычных задач. Познакомиться с рейтингом можно на сайте MERA (в фильтре «Размер модели» нужно выбрать «≥5B – 10B», чтобы получить рейтинг небольших моделей).

Как отметили в «Авито», при обучении нейросети были использованы тексты более чем на 100 языках. A-Vibe может одновременно обрабатывать до 32 000 текстовых фрагментов (токенов) – это позволяет ей эффективно работать с большими текстами, добавили в компании. Разработчики модифицировали и провели «русификацию» модели, заменив стандартный токенизатор на собственный, который умеет работать с русским языком. Это позволило добиться высокого качества ответов и ускорить работу модели до двух раз.

По словам старшего директора по данным и аналитике «Авито» Андрея Рыбинцева, A-Vibe создавалась оптимальной по соотношению между качеством, скоростью работы и затратой ресурсов. «Такой баланс позволяет обеспечивать быструю обработку запросов даже в периоды пиковой нагрузки и масштабировать технологию на всю аудиторию платформы», – сказал он и также добавил, что «Авито» планирует вложить в GenAI около 12 млрд руб., а заработать более 21 млрд руб. к 2028 г.

В компании также рассказали, что до конца текущего года планируется добавить 20 новых сценариев, в дальнейшем код модели станет открытым для всех разработчиков.  

«Это поможет малому бизнесу внедрять передовые технологии без значительных инвестиций, образовательным учреждениям создавать прикладные программы, а независимым разработчикам строить современные сервисы на базе отечественных технологий», – пояснила руководитель разработки больших языковых моделей «Авито» Анастасия Рысьмятова.