Transformers без нормализации – это настоящая революция в мире нейросетей! Научные умы всерьёз задались вопросом: а нужны ли нам слои нормализации вообще? Эта статья ломает стереотипы и предлагает упрощение модели. Исследования показывают, что можно добиться сопоставимых результатов без дополнительных затрат на нормализацию. Это не... Read More
