Що станеться, якщо в нейронних мережах випадання буде занадто високим? Коли ви збільшуєте кількість відсіву понад певний поріг, це призводить до того, що модель не може правильно підійти. Інтуїтивно зрозуміло, що вищий відсоток відсіву призведе до більшої дисперсії на деяких рівнях, що також погіршить навчання.18 серпня 2021 р.
Занадто високий відсоток відсіву може сповільнити швидкість конвергенції моделі та часто зашкодити кінцевій продуктивності. Занадто низька швидкість дає невеликі або зовсім не покращує ефективність узагальнення. В ідеалі показники відсіву слід налаштовувати окремо для кожного рівня, а також під час різних етапів навчання.
Як правило, рівень відсіву в діапазоні від 0,2 до 0,5 є звичайним вибором. Для менших наборів даних або простіших моделей може знадобитися більш високий відсоток відсіву, щоб запобігти переобладнанню, тоді як для більших наборів даних або більш глибокої архітектури може бути достатньо нижчого відсотка відсіву.
Він визначає розмір кроку в напрямку градієнта при зворотному поширенні. Занадто низька швидкість навчання призведе до дуже повільного навчання або навіть неможливості навчання взагалі, тоді як занадто висока швидкість навчання може призвести до вибухову або коливальну продуктивність протягом епох навчання і до нижчої кінцевої продуктивності.
Протягом життя ті, хто кинув школу, заробляють у середньому на 200 000 доларів менше, ніж ті, хто закінчив середню школу.. У віковій групі 16-24 років, які вибули, рівень ув'язнення в 63 рази вищий, ніж у групах випускників коледжів. Рівень бідності тих, хто покинув школу, становить 30,8 відсотка, що вдвічі перевищує рівень бідності серед випускників коледжів.
Відмова від середньої школи має довгострокові наслідки, в т.ч скорочення можливостей працевлаштування, нижчі заробітки та вищі рівні бідності та злочинності. Хоча багато факторів можуть сприяти відсіву середньої школи, дослідження показують, що підлітки стикаються з унікальними проблемами, які можуть підвищити ризик рано залишити школу.