Все задачи
Средне Решено: 0 Процент решений: 0%

Линейная регрессия градиентным спуском

Найдите наклон и смещение прямой, шаг за шагом спускаясь по среднеквадратичной ошибке.

Чему вы научитесь

  • Минимизировать среднеквадратичную ошибку шаг за шагом
  • Вычислять градиенты наклона и свободного члена
  • Увидеть, как скорость обучения влияет на обучение

Условие

Вместо формулы обучите прямую y = w × x + b пакетным градиентным спуском по среднеквадратичной ошибке MSE = Σ(w × x + b - y)² / n.

Начните с w = 0 и b = 0. В каждой эпохе, используя все точки:

  1. errorᵢ = w × xᵢ + b - yᵢ
  2. dw = (2 / n) × Σ errorᵢ × xᵢ и db = (2 / n) × Σ errorᵢ
  3. w ← w - learning_rate × dw и b ← b - learning_rate × db (оба вычисляются по одним и тем же ошибкам)

Реализуйте train_linear_regression(xs, ys, learning_rate, epochs).

Входные данные

xs, ys: точки данных (одинаковой длины).

learning_rate, epochs: размер шага и число обновлений.

Выходные данные

Верните [w, b] после обучения.

Ограничения

1 ≤ число точек ≤ 1000, 0 ≤ epochs ≤ 10 000

0 < learning_rate ≤ 1

-100 ≤ каждое значение ≤ 100

Примеры

Пример 1
Ввод:
xs = [1.0, 2.0]
ys = [2.0, 4.0]
epochs = 1
learning_rate = 0.1

Ожидаемый вывод:
expected = [1.0, 0.6]
Ввод:
std::vector<double> xs = {1.0, 2.0};
std::vector<double> ys = {2.0, 4.0};
long long epochs = 1;
double learning_rate = 0.1;

Ожидаемый вывод:
std::vector<double> expected = {1.0, 0.6};
Ввод:
double[] xs = new double[] {1.0, 2.0};
double[] ys = new double[] {2.0, 4.0};
long epochs = 1;
double learning_rate = 0.1;

Ожидаемый вывод:
double[] expected = new double[] {1.0, 0.6};

Пояснение

При w = b = 0 ошибки равны -2 и -4. dw = (2 / 2) × (-2×1 - 4×2) = -10 и db = (2 / 2) × (-2 - 4) = -6, поэтому w = 0 - 0.1 × (-10) = 1 и b = 0 - 0.1 × (-6) = 0.6. Результат: [1, 0.6].

Пример 2
Ввод:
xs = [1.0, 2.0, 3.0]
ys = [3.0, 5.0, 7.0]
epochs = 2000
learning_rate = 0.05

Ожидаемый вывод:
expected = [2.0, 1.0]
Ввод:
std::vector<double> xs = {1.0, 2.0, 3.0};
std::vector<double> ys = {3.0, 5.0, 7.0};
long long epochs = 2000;
double learning_rate = 0.05;

Ожидаемый вывод:
std::vector<double> expected = {2.0, 1.0};
Ввод:
double[] xs = new double[] {1.0, 2.0, 3.0};
double[] ys = new double[] {3.0, 5.0, 7.0};
long epochs = 2000;
double learning_rate = 0.05;

Ожидаемый вывод:
double[] expected = new double[] {2.0, 1.0};

Пояснение

Данные лежат на y = 2x + 1. После 2000 эпох градиентный спуск сходится к w = 2 и b = 1 — тот же ответ, что и по формуле наименьших квадратов.

Ссылки

Это задание адаптировано для CodeUtility. Следуйте условию и ограничениям выше.

Учитесь у других

Решения сообщества

Пока нет опубликованных решений. Решите задание, чтобы поделиться первым.