Google ускоряет обучение ИИ на 28% с помощью SALT

Обучение больших языковых моделей (LLM) давно стало вызовом для большинства компаний. Многомиллионные затраты и огромные вычислительные мощности сделали разработку ИИ доступной лишь гигантам технологического сектора. Но Google радикально изменил этот подход, предложив удивительно простую и эффективную концепцию SALT: использовать малые языковые модели (SLM) в качестве учителей.

SALT: революция в обучении ИИ

Недавняя научная работа, представленная специалистами Google Research и DeepMind, открывает новую эпоху в обучении больших языковых моделей (LLM). Методика SALT (Small model Aided Large model Training) знаменует собой радикальный сдвиг в традиционном подходе к созданию сложных искусственных интеллектов. Исследование, озаглавленное «A Little Help Goes a Long Way: Efficient LLM Training by Leveraging Small LMs», подчеркивает, как применение малых языковых моделей (SLM) в роли наставников может не только уменьшить затраты на разработку, но и значительно повысить производительность крупных систем.

Эта инновационная методика основана на простой, но эффективной идее: использование небольших моделей для передачи базовых знаний и навыков крупным моделям, что приводит к сокращению временных и вычислительных затрат. SALT демонстрирует, что обучение ИИ не обязательно должно быть ресурсозатратным процессом, остающимся привилегией технологических гигантов. Вместо этого метод открывает двери для более широкого круга исследовательских групп и компаний, которые теперь смогут внедрять передовые технологии, используя доступные ресурсы.

Как работает методика SALT?

Методика SALT (Small model Aided Large model Training) представляет собой двухступенчатый процесс обучения, который объединяет преимущества использования малых языковых моделей (SLM) в качестве наставников и самостоятельного совершенствования крупных систем. Такой подход позволяет значительно оптимизировать процесс обучения, делая его не только более доступным, но и более результативным.

Этап 1: Извлечение знаний

На первом этапе меньшая языковая модель выполняет функцию учителя. Она передает крупной модели ключевые знания с помощью так называемых «мягких меток». Эти метки — уникальный инструмент, который:

• Содержит не только ответы, но и степень уверенности SLM в правильности этих ответов. Это помогает крупной модели быстрее освоить базовые закономерности и лучше понять исходные данные.
• Сосредотачивает обучение на понятных аспектах данных. SLM акцентирует внимание на «легких» задачах, что значительно упрощает процесс первоначального освоения.
• Действует как наставник, разъясняя основные принципы работы с информацией. Этот процесс можно сравнить с обучением школьника: сначала ученик осваивает базовые правила под руководством опытного репетитора, прежде чем перейти к решению сложных задач.

Эффективность этого этапа обусловлена тем, что малая модель, несмотря на свои ограничения, может передавать фундаментальные знания, которые крупная модель позже использует в полной мере.

Этап 2: Самостоятельное обучение

На втором этапе крупная модель начинает действовать автономно, постепенно отходя от наставничества SLM. Основная цель этого этапа — освоение более сложных задач и выявление глубоких закономерностей в данных.

Чтобы процесс перехода был плавным и не вызывал сбоев, применяются особые стратегии:

1. Линейное снижение влияния наставника. Постепенное уменьшение степени зависимости крупной модели от подсказок SLM. Это сравнимо с тем, как преподаватель постепенно сокращает объем подсказок, предоставляя ученику больше возможностей для самостоятельной работы.
2. Пропорциональный спад дистилляции. Баланс между использованием данных, полученных от малой модели, и обучением на необработанных данных. Этот метод регулирует вклад наставника, позволяя крупной модели сосредоточиться на решении основной задачи.

Такие стратегии минимизируют резкие изменения в процессе обучения, обеспечивая стабильное и последовательное развитие модели.

Почему SALT — это прорыв?

Тестирование SALT продемонстрировало впечатляющие результаты:

• Сокращение времени обучения на 28%.
• Улучшение точности задач:
  • Решение математических примеров: рост точности с 31,84% до 34,87%.
  • Понимание прочитанного: повышение с 63,7% до 67%.

Но SALT — это больше, чем просто ускорение процесса. Теоретическая основа методики подчеркивает, что даже небольшие модели могут улучшать производительность крупных систем, создавая благоприятный компромисс между смещением и дисперсией.

Теоретическая основа: компромисс между смещением и дисперсией

SALT доказывает, что даже небольшие языковые модели способны положительно влиять на производительность крупных систем. Это становится возможным благодаря концепции, которую исследователи называют «благоприятным компромиссом смещения-дисперсии».

Роль малых моделей:

1. Малые модели обеспечивают крупные системы базовыми знаниями и общими паттернами, что создаёт прочный фундамент для дальнейшего обучения.
2. Такие модели выступают в роли «наставников», помогая крупным системам избегать излишней сложности на ранних этапах и фокусироваться на важных аспектах данных.

Баланс между простотой и точностью:

1. Малые модели, несмотря на свои ограничения, создают упрощённое, но качественное представление данных, что снижает вероятность ошибок.
2. Это помогает крупным моделям учиться быстрее и эффективнее, избегая необходимости перерабатывать избыточные данные.

SALT: больше, чем ускорение

Результаты исследования подчеркивают, что методика SALT — это не просто шаг вперёд в эффективности. Она предлагает фундаментально новый подход, благодаря которому:

• Малые модели становятся важным элементом экосистемы обучения ИИ.
• Крупные системы начинают демонстрировать более высокие результаты за счёт оптимизации взаимодействия между наставником и учеником.
• Процесс разработки становится более доступным для широкой аудитории, включая исследователей и небольшие компании, которые ранее не могли конкурировать с технологическими гигантами.

Новые возможности для разработки ИИ

Методика SALT (Small model Aided Large model Training) открывает дверь к революционным изменениям в сфере разработки ИИ, делая её доступной для более широкого круга участников.

Для малых компаний и исследовательских институтов

SALT даёт уникальную возможность организациям с ограниченными ресурсами преодолеть барьеры, ранее сдерживавшие их участие в разработке ИИ:

Снижение затрат на вычисления.

• Благодаря оптимизации процесса обучения, даже небольшие лаборатории и стартапы смогут запускать проекты, которые раньше были бы слишком дорогими.
• Сокращение времени обучения на 28% напрямую уменьшает расходы на инфраструктуру и электроэнергию.

Создание специализированных моделей.

• Малые команды смогут сосредоточиться на разработке моделей, адаптированных для узких задач или нишевых решений.
• Это позволяет конкурировать с крупными игроками, предлагая уникальные продукты и услуги.

Для всей индустрии ИИ

SALT не только снижает барьеры для входа, но и изменяет весь ландшафт разработки искусственного интеллекта:

Увеличение числа участников на рынке.

• Расширение круга разработчиков приведёт к появлению более разнообразных решений, адаптированных к различным отраслям и рынкам.
• Конкуренция среди участников станет драйвером инноваций, ускоряя внедрение новых технологий.

Развитие академических исследований.

• Университеты и исследовательские институты смогут активнее экспериментировать, не опасаясь огромных затрат на вычислительные мощности.
• Это создаст условия для появления новых идей и прорывных технологий, расширяющих границы современных возможностей ИИ.

Использование малых моделей в роли учителей меняет не только процесс обучения, но и саму индустрию ИИ. Методика SALT открывает возможности для тех, кто раньше не мог себе позволить участвовать в этой области.