Adam хранит для каждого веса два скользящих средних — градиента (m) и квадрата градиента (v) — и с их помощью даёт каждому весу собственный размер шага.
Начните с m = 0 и v = 0 для каждого веса. Для каждого шага t = 1, 2, 3, … с градиентом g:
- m ← beta1 × m + (1 - beta1) × g
- v ← beta2 × v + (1 - beta2) × g²
- m̂ = m / (1 - beta1ᵗ) и v̂ = v / (1 - beta2ᵗ) (коррекция смещения)
- w ← w - learning_rate × m̂ / (√v̂ + epsilon)
Реализуйте adam_steps(gradients, weights, learning_rate, beta1, beta2, epsilon), применяя одно обновление на каждую строку gradients по порядку.
Входные данные
gradients: Одна строка на шаг; в каждой строке по одному градиенту на вес.
weights: Начальные веса.
learning_rate, beta1, beta2, epsilon: Гиперпараметры Adam (типичные значения 0.001, 0.9, 0.999 и 0.00000001).
Выходные данные
Верните веса после всех шагов.
Ограничения
0 ≤ шаги ≤ 1 000, 1 ≤ веса ≤ 100
0 < learning_rate ≤ 1, 0 ≤ beta1, beta2 < 1, 0 < epsilon ≤ 0.001
-100 ≤ каждое значение ≤ 100
Примеры
Ввод:
beta1 = 0.9
beta2 = 0.999
epsilon = 1.0e-08
weights = [1.0]
gradients = [
[2.0]
]
learning_rate = 0.1
Ожидаемый вывод:
expected = [0.9]Ввод:
double beta1 = 0.9;
double beta2 = 0.999;
double epsilon = 1.0e-08;
std::vector<double> weights = {1.0};
std::vector<std::vector<double>> gradients = {
{2.0}
};
double learning_rate = 0.1;
Ожидаемый вывод:
std::vector<double> expected = {0.9};Ввод:
double beta1 = 0.9;
double beta2 = 0.999;
double epsilon = 1.0e-08;
double[] weights = new double[] {1.0};
double[][] gradients = new double[][] {
new double[] {2.0}
};
double learning_rate = 0.1;
Ожидаемый вывод:
double[] expected = new double[] {0.9};Пояснение
m = 0.1 × 2 = 0.2 и v = 0.001 × 4 = 0.004. Коррекция смещения даёт m̂ = 0.2 / 0.1 = 2 и v̂ = 0.004 / 0.001 = 4, поэтому шаг равен 0.1 × 2 / √4 = 0.1: w = 0.9. На первом шаге Adam сдвигает каждый вес примерно на скорость обучения, независимо от величины градиента.
Ввод:
beta1 = 0.9
beta2 = 0.999
epsilon = 1.0e-08
weights = [0.0, 0.0]
gradients = [
[100.0, 0.01]
]
learning_rate = 0.01
Ожидаемый вывод:
expected = [-0.01, -0.01]Ввод:
double beta1 = 0.9;
double beta2 = 0.999;
double epsilon = 1.0e-08;
std::vector<double> weights = {0.0, 0.0};
std::vector<std::vector<double>> gradients = {
{100.0, 0.01}
};
double learning_rate = 0.01;
Ожидаемый вывод:
std::vector<double> expected = {-0.01, -0.01};Ввод:
double beta1 = 0.9;
double beta2 = 0.999;
double epsilon = 1.0e-08;
double[] weights = new double[] {0.0, 0.0};
double[][] gradients = new double[][] {
new double[] {100.0, 0.01}
};
double learning_rate = 0.01;
Ожидаемый вывод:
double[] expected = new double[] {-0.01, -0.01};Пояснение
Градиенты различаются в 10 000 раз, но оба веса сдвигаются примерно на 0.01, до [-0.01, -0.01]: Adam масштабирует каждый шаг по величине собственного градиента.
Как подступиться
Сначала попробуйте сами, затем открывайте подсказки по одной.
Подсказка 1
Отслеживайте два скользящих среднего для каждого веса: одно для направления градиента и одно для его квадрата.
Подсказка 2
Применяйте bias correction с учётом номера текущего шага перед делением на корень.
Подсказка 3
Обратите внимание на epsilon в знаменателе: он предотвращает деление на ноль и немного меняет итоговое обновление.
Ожидаемая сложность
O(s × w) по времени, O(w) по дополнительной памяти
Ссылки
Это задание адаптировано для CodeUtility. Следуйте условию и ограничениям выше.