Исследование феномена grokking в нейросетях
Эксперименты показали, что модели сначала просто заучивают примеры, а способность к обобщению появляется гораздо позже. Процесс перехода от запоминания к пониманию занимает десятки тысяч шагов обучения.
Исследователи изучили феномен grokking — процесс, при котором нейросеть переходит от простого заучивания данных к их пониманию. Эксперименты на базе модели Transformer показали, что сначала модель быстро запоминает ответы, но способность к обобщению появляется лишь спустя десятки тысяч шагов обучения. В ходе тестов на математической задаче (a + b) mod 113 было зафиксировано, что переход к обобщению может занимать более 25 000 шагов. Все протестированные конфигурации в итоге достигли точности 1.0000 как на обучающей, так и на проверочной выборке. Результаты подтверждают, что запоминание и обобщение — это два разных этапа развития модели.