Момент заставляет градиентный спуск катиться, как шар с горы: каждый шаг сохраняет часть предыдущего.
Начните со скорости 0 для каждого веса. Для каждого шага t с вектором градиента g (одно значение на вес):
- v ← beta × v + g
- w ← w - learning_rate × v
Реализуйте momentum_steps(gradients, weights, learning_rate, beta), применяя одно обновление на каждую строку gradients по порядку.
Входные данные
gradients: Одна строка на шаг; в каждой строке по одному градиенту на вес.
weights: Начальные веса.
learning_rate: Размер шага.
beta: Коэффициент момента (0 даёт обычный градиентный спуск).
Выходные данные
Верните веса после всех шагов.
Ограничения
0 ≤ шаги ≤ 1 000, 1 ≤ веса ≤ 100
0 < learning_rate ≤ 1, 0 ≤ beta < 1
-100 ≤ каждое значение ≤ 100
Примеры
Ввод:
beta = 0.9
weights = [0.0]
gradients = [
[1.0],
[1.0],
[1.0]
]
learning_rate = 0.1
Ожидаемый вывод:
expected = [-0.561]Ввод:
double beta = 0.9;
std::vector<double> weights = {0.0};
std::vector<std::vector<double>> gradients = {
{1.0},
{1.0},
{1.0}
};
double learning_rate = 0.1;
Ожидаемый вывод:
std::vector<double> expected = {-0.561};Ввод:
double beta = 0.9;
double[] weights = new double[] {0.0};
double[][] gradients = new double[][] {
new double[] {1.0},
new double[] {1.0},
new double[] {1.0}
};
double learning_rate = 0.1;
Ожидаемый вывод:
double[] expected = new double[] {-0.561};Пояснение
Скорость растёт 1 → 1.9 → 2.71, потому что градиент всё время направлен в одну сторону, поэтому шаги равны 0.1, 0.19 и 0.271: w = -0.561.
Ввод:
beta = 0.0
weights = [1.0, 1.0]
gradients = [
[2.0, -4.0]
]
learning_rate = 0.5
Ожидаемый вывод:
expected = [0.0, 3.0]Ввод:
double beta = 0.0;
std::vector<double> weights = {1.0, 1.0};
std::vector<std::vector<double>> gradients = {
{2.0, -4.0}
};
double learning_rate = 0.5;
Ожидаемый вывод:
std::vector<double> expected = {0.0, 3.0};Ввод:
double beta = 0.0;
double[] weights = new double[] {1.0, 1.0};
double[][] gradients = new double[][] {
new double[] {2.0, -4.0}
};
double learning_rate = 0.5;
Ожидаемый вывод:
double[] expected = new double[] {0.0, 3.0};Пояснение
При beta = 0 это обычный градиентный спуск: w = [1 - 0.5 × 2, 1 - 0.5 × (-4)] = [0, 3].
Ссылки
Это задание адаптировано для CodeUtility. Следуйте условию и ограничениям выше.