Исследователи Института искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ приняли участие в Международной конференции-школе по тензорным методам в математике и вычислениях для искусственного интеллекта (3rd Conference-School on Tensor Methods in Mathematics and Artificial Intelligence Computing). Мероприятие прошло в конце октября в Шэньчжэне (Китай). Одна из работ ученых института получила награду Best Poster Award и вошла в число пяти лучших постеров конференции.
Конференция объединила исследователей, преподавателей и молодых ученых, работающих на пересечении вычислительной математики, тензорных методов и искусственного интеллекта. Программа включала научные доклады, лекции и постерную сессию.
Награду получила стажер-исследователь Научно-учебной лаборатории матричных и тензорных методов в машинном обучении Ульяна Паркина. Она представила постер «Faster SVD via Accelerated Newton — Schulz Iteration» («Ускорение сингулярного разложения с помощью ускоренной итерации Ньютона — Шульца»), посвященный разработке более эффективного алгоритма сингулярного разложения матриц (SVD). Работа выполнена в соавторстве с сотрудниками Института ИИ и цифровых наук ФКН Аскаром Цыгановым, Екатериной Гришиной, Сергеем Самсоновым и Максимом Рахубой.
Сингулярное разложение — математический инструмент, который позволяет представить сложные матрицы в более удобной для анализа форме. Он широко используется при обработке и сжатии данных, а также в алгоритмах машинного обучения. Однако вычисление такого разложения для больших матриц требует значительных вычислительных ресурсов.
Авторы исследования предложили новый подход, основанный на полярном разложении матриц и ускоренной итерации Ньютона — Шульца. Его преимущество заключается в полноценном использовании возможности современных графических процессоров (GPU). В частности, алгоритм опирается на умножение матриц — операцию, для которой такие процессоры специально оптимизированы. Это помогает задействовать их вычислительные мощности и сократить время выполнения сложных расчетов в различных режимах точности вычислений.
«Разработка эффективных алгоритмов линейной алгебры — важная составляющая исследований в области искусственного интеллекта. Многие современные методы машинного обучения требуют большого объема вычислений с матрицами и тензорами. Поэтому ускорение базовых математических операций позволяет не только эффективнее использовать существующие вычислительные ресурсы, но и расширять возможности решения более сложных задач», — отмечает Ульяна Паркина.
Также участие в школе и конференции принимали исследователи ФКН Аскар Цыганов, Вячеслав Юсупов, Владимир Богачев, Максим Рахуба и Дмитрий Игнатов.
«В нашей лаборатории мы разрабатываем новые математические методы и алгоритмы, позволяющие оптимизировать работу с матрицами и тензорами, которые лежат в основе многих моделей машинного обучения. Работа, представленная Ульяной Паркиной, показывает, как фундаментальные подходы дают практический результат — ускорение вычислений на GPU. Особенно важно, что такие результаты получают молодые исследователи нашего института и успешно представляют их на международных научных площадках. Награда на конференции — признание актуальности и качества этой работы», — подчеркнул Максим Рахуба, заведующий Научно-учебной лабораторией матричных и тензорных методов в машинном обучении.