Problème
Le momentum fait rouler la descente de gradient comme une bille dans une pente : chaque pas conserve une partie du précédent.
Partez d'une vitesse de 0 pour chaque poids. Pour chaque pas t avec le vecteur de gradient g (une valeur par poids) :
- v ← beta × v + g
- w ← w - learning_rate × v
Implémentez momentum_steps(gradients, weights, learning_rate, beta) en appliquant une mise à jour par ligne de gradients, dans l'ordre.
Entrée
gradients : Une ligne par pas ; chaque ligne contient un gradient par poids.
weights : Les poids de départ.
learning_rate : La taille du pas.
beta : Le coefficient de momentum (0 donne la descente de gradient simple).
Sortie
Renvoyez les poids après tous les pas.
Contraintes
0 ≤ pas ≤ 1 000, 1 ≤ poids ≤ 100
0 < learning_rate ≤ 1, 0 ≤ beta < 1
-100 ≤ chaque valeur ≤ 100
Exemples
Entrée :
beta = 0.9
weights = [0.0]
gradients = [
[1.0],
[1.0],
[1.0]
]
learning_rate = 0.1
Sortie attendue :
expected = [-0.561]Entrée :
double beta = 0.9;
std::vector<double> weights = {0.0};
std::vector<std::vector<double>> gradients = {
{1.0},
{1.0},
{1.0}
};
double learning_rate = 0.1;
Sortie attendue :
std::vector<double> expected = {-0.561};Entrée :
double beta = 0.9;
double[] weights = new double[] {0.0};
double[][] gradients = new double[][] {
new double[] {1.0},
new double[] {1.0},
new double[] {1.0}
};
double learning_rate = 0.1;
Sortie attendue :
double[] expected = new double[] {-0.561};Explication
La vitesse passe de 1 → 1.9 → 2.71 parce que le gradient pointe toujours dans la même direction, donc les pas valent 0.1, 0.19 et 0.271 : w = -0.561.
Entrée :
beta = 0.0
weights = [1.0, 1.0]
gradients = [
[2.0, -4.0]
]
learning_rate = 0.5
Sortie attendue :
expected = [0.0, 3.0]Entrée :
double beta = 0.0;
std::vector<double> weights = {1.0, 1.0};
std::vector<std::vector<double>> gradients = {
{2.0, -4.0}
};
double learning_rate = 0.5;
Sortie attendue :
std::vector<double> expected = {0.0, 3.0};Entrée :
double beta = 0.0;
double[] weights = new double[] {1.0, 1.0};
double[][] gradients = new double[][] {
new double[] {2.0, -4.0}
};
double learning_rate = 0.5;
Sortie attendue :
double[] expected = new double[] {0.0, 3.0};Explication
Avec beta = 0, c'est la descente de gradient simple : w = [1 - 0.5 × 2, 1 - 0.5 × (-4)] = [0, 3].
Références
Ce défi a été adapté pour CodeUtility. Suivez l'énoncé et les contraintes ci-dessus.