Посчитайте производную по и первого нейрона сети, если производная по h на втором была равна 0.25, w и b второго нейрона были равны 0.8 и 0.4 соответственно, w и b первого нейрона 0.1 и 0, а входной параметр — х = 7
Другие предметыУниверситетНейронные сетипроизводная нейронной сетианализ данныхпервый нейронвторой нейронпараметры нейроноввходной параметррасчет производноймашинное обучениеобучение нейронных сетейоптимизация нейронной сети
Для того чтобы посчитать производную по первому нейрону сети, нам необходимо использовать правило цепочки и формулы для расчета производных в нейронных сетях.
Предположим, что у нас есть два нейрона, и мы обозначим:
Выход нейронов можно выразить через входные параметры и веса:
Где:
Сначала найдем выход первого нейрона (h1):
Теперь найдем выход второго нейрона (h2):
Теперь, чтобы посчитать производную по первому нейрону (dh1/dh2),нам нужно использовать известную производную по h2 (dh2/dh2) и производную h2 по h1 (dh2/dh1):
Мы знаем, что:
Теперь, используя правило цепочки:
Таким образом, производная по первому нейрону равна 0.2.