Специалисты из НИУ «Высшая школа экономики» создали инновационный способ настройки нейросетей, который позволяет снизить требования к вычислительным ресурсам. Об этом сообщили в пресс-службе университета.
В основе метода – обработка данных в группах и оптимальное смешивание параметров. Это позволяет ускорить процесс обучения ИИ без потери эффективности.
По словам старшего научного сотрудника Института искусственного интеллекта и цифровых наук ФКН ВШЭ Айбека Аланова, метод был протестирован на различных типах нейросетей – от языковых и генеративных до сверточных. Результаты показали, что ИИ работает стабильно и эффективно при значительно меньших затратах ресурсов.
Традиционный способ настройки предполагает медленное формирование ортогональных матриц через несколько промежуточных этапов. Специалисты ВШЭ предложили разделить параметры на компактные группы, обработать их параллельно и перемешать результаты для получения нужной конфигурации.
Аланов подчеркнул, что новый метод позволяет ИИ гибко и эффективно решать новые задачи без необходимости полного переобучения. Это открывает широкие возможности для применения нейросетей в различных областях. Разработка поможет использовать крупные модели, снижая потребление ресурсов.