Problema
Per addestrare un neurone dobbiamo sapere come ogni peso influisce sull'errore. Per un esempio di addestramento:
- z = inputs · weights + bias
- y = sigmoid(z) = 1 / (1 + e^(-z))
- perdita L = (y - target)²
Per la regola della catena, con delta = dL/dz = 2 × (y - target) × y × (1 - y):
- dL/dw_i = delta × x_i
- dL/dbias = delta
Implementa neuron_gradients(inputs, weights, bias, target).
Input
inputs, weights: Liste della stessa lunghezza n.
bias: Il bias del neurone.
target: L'output corretto per questo esempio (tra 0 e 1).
Output
Restituisci una lista di n + 1 numeri: il gradiente di ogni peso in ordine, poi il gradiente del bias.
Vincoli
1 ≤ n ≤ 100
-10 ≤ ogni input, peso e bias ≤ 10
0 ≤ target ≤ 1
Esempi
Input:
bias = 0.0
inputs = [1.0, 2.0]
target = 1.0
weights = [0.5, -0.25]
Output atteso:
expected = [-0.25, -0.5, -0.25]Input:
double bias = 0.0;
std::vector<double> inputs = {1.0, 2.0};
double target = 1.0;
std::vector<double> weights = {0.5, -0.25};
Output atteso:
std::vector<double> expected = {-0.25, -0.5, -0.25};Input:
double bias = 0.0;
double[] inputs = new double[] {1.0, 2.0};
double target = 1.0;
double[] weights = new double[] {0.5, -0.25};
Output atteso:
double[] expected = new double[] {-0.25, -0.5, -0.25};Spiegazione
z = 1×0.5 + 2×(-0.25) = 0, quindi y = 0.5. delta = 2 × (0.5 - 1) × 0.5 × 0.5 = -0.25. Gradienti: [-0.25×1, -0.25×2, -0.25] = [-0.25, -0.5, -0.25].
Input:
bias = 0.0
inputs = [3.0]
target = 0.0
weights = [0.0]
Output atteso:
expected = [0.75, 0.25]Input:
double bias = 0.0;
std::vector<double> inputs = {3.0};
double target = 0.0;
std::vector<double> weights = {0.0};
Output atteso:
std::vector<double> expected = {0.75, 0.25};Input:
double bias = 0.0;
double[] inputs = new double[] {3.0};
double target = 0.0;
double[] weights = new double[] {0.0};
Output atteso:
double[] expected = new double[] {0.75, 0.25};Spiegazione
z = 0 e y = 0.5. delta = 2 × (0.5 - 0) × 0.5 × 0.5 = 0.25, quindi i gradienti sono [0.25×3, 0.25] = [0.75, 0.25]. Un gradiente positivo significa che il peso deve diminuire.
Come affrontarlo
Prova prima da solo, poi apri un suggerimento alla volta.
Suggerimento 1
Inizia calcolando l'output sigmoid del neurone e la derivata della loss rispetto al suo valore pre-attivazione.
Suggerimento 2
Il gradiente di ogni peso è lo stesso delta scalato da quell'input, e per il bias si usa solo il delta.
Suggerimento 3
Mantieni i gradienti dei pesi nell'ordine degli input, poi aggiungi il gradiente del bias alla fine.
Complessità attesa
tempo O(n), spazio aggiuntivo O(n)
Riferimenti
Questa sfida è adattata per CodeUtility. Segui la traccia e i vincoli sopra.