Amazon связала устойчивость ML-агентов к переобучению со сжатием стратегий

Почему многократная проверка не всегда портит результат

Исследователи Amazon и Пенсильванского университета предложили объяснение давней странности машинного обучения: команды годами улучшают модели по одним и тем же benchmark-наборам, однако прирост часто сохраняется и на заново собранных тестах. В учебной постановке многократное обращение к validation set должно постепенно включить его в процесс разработки и создать риск переобучения, но наблюдаемая практика не всегда следует этому сценарию.

Проверить гипотезу на всей научной отрасли невозможно: нельзя стереть коллективную память исследователей и повторить десятилетие экспериментов в контролируемой среде. Поэтому авторы использовали LLM-based research agents. Такой агент может сотни раз менять ML-пайплайн, смотреть на результат валидации и искать следующее улучшение, а затем его можно сбросить и запустить заново без памяти о предыдущем поиске.

Рабочая гипотеза состоит в том, что успешная стратегия обычно значительно короче полной истории поиска. Множество проб может свестись к компактному рецепту: семейству архитектуры, оптимизатору, learning rate, размеру batch и нескольким особенностям обработки данных. Если описание слишком мало, чтобы вместить ответы validation set, но воспроизводит качество на новых данных, оно скорее кодирует переносимую структуру задачи, чем запоминает частные примеры.

Эксперимент с тремя агентами

Схема исследования разделяет роли. Первый агент, explorer, получает обучение и validation set, многократно проводит эксперименты и адаптивно выбирает лучшую стратегию. Второй, compressor, видит весь журнал работы explorer и упаковывает итоговый рецепт в очень короткую подсказку. Третий, reproducer, начинает с чистого состояния и получает только эту подсказку и training data — без validation set, кода и журнала первого агента.

Если reproducer достигает качества explorer, то необходимая информация, извлечённая из валидации, прошла через узкий текстовый канал. Авторы называют это сертификатом output compression. В опытах compressor и reproducer были моделями Claude, а чистый reproducer можно было сбрасывать перед каждым новым вариантом подсказки, исключая накопление памяти между попытками.

Здесь важна роль предварительных знаний LLM. Для новичка полный ML-пайплайн потребовал бы длинного учебника, тогда как агенту достаточно профессионального сокращения: он уже знает типовые библиотеки, оптимизаторы и значения по умолчанию. Поэтому краткость не означает, что вся программа буквально записана в 16 токенах; токены передают только отличия конкретной стратегии от того, что декодер уже умеет восстановить.

16–32 токена и граница сжатия

Эксперименты охватили восемь наборов данных для табличной и графической классификации, language modeling, diffusion modeling и reward modeling. По сообщению авторов, подсказок длиной 32 токена хватило, чтобы новый reproducer повторил адаптивно найденное качество на подавляющем большинстве задач. Один рецепт language model сохранил качество даже при ограничении в 16 токенов.

Показательный 16-токенный рецепт выглядел как «QKn 12L768 Mu.1 R² b2M 4x». За сокращениями стояли QK normalization, Transformer на 12 слоёв размерности 768, оптимизатор Muon с learning rate 0,1, squared-ReLU, batch на два миллиона токенов и четырёхкратный feed-forward block. После сокращения до восьми токенов часть этих решений исчезла, и reproducer уже не смог сравняться с explorer.

Авторы проверили и обратное ограничение — input compression. Вместо численного балла explorer после каждой попытки получал один бит: новый результат лучше текущего рекорда или нет. Даже с таким feedback агент находил стратегии не хуже вариантов с полными оценками. Это показывает, что канал от validation set к финальному решению может оставаться узким и на входе, хотя количество адаптивных итераций велико.

Диагностика переобучения и пределы вывода

Чтобы проверить различительную способность метода, исследователи специально подталкивали агентов максимизировать validation score любой ценой и дали им прямой доступ к набору. В 38 из 102 запусков точность на валидации превысила реальную held-out accuracy более чем на 10%. После передачи через короткую подсказку этот специфический выигрыш исчезал: новый reproducer не мог унаследовать детали отдельных validation-примеров.

Так compression test превращается из объяснения в диагностический инструмент. Если компактный рецепт сохраняет результат после чистого перезапуска, это свидетельствует в пользу переносимой стратегии. Если эффект пропадает, вероятнее, что он зависел от слишком подробной информации о конкретной валидации. При этом неудачное сжатие само по себе ещё не доказывает мошенничество или плохую модель: причиной может быть недостаточный бюджет подсказки либо слабый декодер.

Авторы отдельно ограничивают масштаб вывода. Эксперимент предполагает, что единственный путь от validation data к reproducer проходит через короткую подсказку; возможное запоминание данных во время pretraining создало бы обходной канал. Работа также непосредственно исследует LLM-агентов, а перенос объяснения на человеческое научное сообщество остаётся гипотезой. Следующей сильной проверкой должны стать свежие наборы, собранные уже после training cutoff используемых моделей.