Gradients d'un seul neurone

Pour entraîner un neurone, il faut savoir comment chaque poids influe sur l'erreur. Pour un exemple d'entraînement :

• z = inputs · weights + bias
• y = sigmoid(z) = 1 / (1 + e^(-z))
• perte L = (y - target)²

Par la règle de dérivation en chaîne, avec delta = dL/dz = 2 × (y - target) × y × (1 - y) :

• dL/dw_i = delta × x_i
• dL/dbias = delta

Implémentez neuron_gradients(inputs, weights, bias, target).

Entrée

inputs, weights : des listes de même longueur n.

bias : le biais du neurone.

target : la sortie correcte pour cet exemple (entre 0 et 1).

Sortie

Renvoyez une liste de n + 1 nombres : le gradient de chaque poids dans l'ordre, puis le gradient du biais.

Contraintes

1 ≤ n ≤ 100

-10 ≤ chaque entrée, poids et biais ≤ 10

0 ≤ target ≤ 1

Exemples

Entrée :
bias = 0.0
inputs = [1.0, 2.0]
target = 1.0
weights = [0.5, -0.25]

Sortie attendue :
expected = [-0.25, -0.5, -0.25]

Entrée :
double bias = 0.0;
std::vector<double> inputs = {1.0, 2.0};
double target = 1.0;
std::vector<double> weights = {0.5, -0.25};

Sortie attendue :
std::vector<double> expected = {-0.25, -0.5, -0.25};

Entrée :
double bias = 0.0;
double[] inputs = new double[] {1.0, 2.0};
double target = 1.0;
double[] weights = new double[] {0.5, -0.25};

Sortie attendue :
double[] expected = new double[] {-0.25, -0.5, -0.25};

Entrée :
bias = 0.0
inputs = [3.0]
target = 0.0
weights = [0.0]

Sortie attendue :
expected = [0.75, 0.25]

Entrée :
double bias = 0.0;
std::vector<double> inputs = {3.0};
double target = 0.0;
std::vector<double> weights = {0.0};

Sortie attendue :
std::vector<double> expected = {0.75, 0.25};

Entrée :
double bias = 0.0;
double[] inputs = new double[] {3.0};
double target = 0.0;
double[] weights = new double[] {0.0};

Sortie attendue :
double[] expected = new double[] {0.75, 0.25};

Références

Ce défi a été adapté pour CodeUtility. Suivez l'énoncé et les contraintes ci-dessus.

• Michael Nielsen, How the backpropagation algorithm works
• Goodfellow, Bengio and Courville, Deep Learning