Чтобы обучить нейрон, нужно знать, как каждый вес влияет на ошибку. Для одного обучающего примера:
- z = inputs · weights + bias
- y = sigmoid(z) = 1 / (1 + e^(-z))
- потери L = (y - target)²
По цепному правилу, при delta = dL/dz = 2 × (y - target) × y × (1 - y):
- dL/dw_i = delta × x_i
- dL/dbias = delta
Реализуйте neuron_gradients(inputs, weights, bias, target).
Входные данные
inputs, weights: списки одинаковой длины n.
bias: смещение нейрона.
target: правильный выход для этого примера (от 0 до 1).
Выходные данные
Верните список из n + 1 чисел: градиент каждого веса по порядку, затем градиент смещения.
Ограничения
1 ≤ n ≤ 100
-10 ≤ каждый вход, вес и смещение ≤ 10
0 ≤ target ≤ 1
Примеры
Ввод:
bias = 0.0
inputs = [1.0, 2.0]
target = 1.0
weights = [0.5, -0.25]
Ожидаемый вывод:
expected = [-0.25, -0.5, -0.25]Ввод:
double bias = 0.0;
std::vector<double> inputs = {1.0, 2.0};
double target = 1.0;
std::vector<double> weights = {0.5, -0.25};
Ожидаемый вывод:
std::vector<double> expected = {-0.25, -0.5, -0.25};Ввод:
double bias = 0.0;
double[] inputs = new double[] {1.0, 2.0};
double target = 1.0;
double[] weights = new double[] {0.5, -0.25};
Ожидаемый вывод:
double[] expected = new double[] {-0.25, -0.5, -0.25};Пояснение
z = 1×0.5 + 2×(-0.25) = 0, значит y = 0.5. delta = 2 × (0.5 - 1) × 0.5 × 0.5 = -0.25. Градиенты: [-0.25×1, -0.25×2, -0.25] = [-0.25, -0.5, -0.25].
Ввод:
bias = 0.0
inputs = [3.0]
target = 0.0
weights = [0.0]
Ожидаемый вывод:
expected = [0.75, 0.25]Ввод:
double bias = 0.0;
std::vector<double> inputs = {3.0};
double target = 0.0;
std::vector<double> weights = {0.0};
Ожидаемый вывод:
std::vector<double> expected = {0.75, 0.25};Ввод:
double bias = 0.0;
double[] inputs = new double[] {3.0};
double target = 0.0;
double[] weights = new double[] {0.0};
Ожидаемый вывод:
double[] expected = new double[] {0.75, 0.25};Пояснение
z = 0 и y = 0.5. delta = 2 × (0.5 - 0) × 0.5 × 0.5 = 0.25, поэтому градиенты равны [0.25×3, 0.25] = [0.75, 0.25]. Положительный градиент означает, что вес нужно уменьшить.
Как подступиться
Сначала попробуйте сами, затем открывайте подсказки по одной.
Подсказка 1
Сначала вычислите sigmoid output нейрона и производную loss по его значению до активации.
Подсказка 2
Градиент для каждого веса — это один и тот же delta, умноженный на соответствующий input, а для bias используется только delta.
Подсказка 3
Сохраняйте градиенты весов в порядке входов, а затем добавьте gradient bias в конце.
Ожидаемая сложность
время O(n), доп. память O(n)
Ссылки
Это задание адаптировано для CodeUtility. Следуйте условию и ограничениям выше.