모든 챌린지
쉬움 0명 해결 정답률 0%

모멘텀 경사 하강법

이전 단계의 일부를 유지하는 모멘텀 갱신으로 일관된 방향의 학습을 가속합니다.

배우게 될 내용

  • 가중치마다 속도 유지하기
  • 일정한 방향으로 학습 가속하기
  • 모멘텀과 일반 경사 하강법 비교하기

문제

원문 보기 (영어)

모멘텀은 경사 하강법을 언덕을 굴러 내려가는 공처럼 만듭니다. 각 단계는 이전 단계의 일부를 이어받습니다.

모든 가중치의 속도를 0으로 시작합니다. 각 단계 t에서 기울기 벡터 g(가중치마다 하나의 값)에 대해:

  1. v ← beta × v + g
  2. w ← w - learning_rate × v

momentum_steps(gradients, weights, learning_rate, beta)를 구현하고, gradients의 각 행마다 한 번씩 순서대로 갱신하세요.

입력

gradients: 단계마다 한 행; 각 행은 가중치마다 하나의 기울기를 가집니다.

weights: 초기 가중치.

learning_rate: 학습률.

beta: 모멘텀 계수 (0이면 일반 경사 하강법).

출력

모든 단계 후의 가중치를 반환하세요.

제약 조건

0 ≤ 단계 수 ≤ 1,000, 1 ≤ 가중치 수 ≤ 100

0 < learning_rate ≤ 1, 0 ≤ beta < 1

-100 ≤ 각 값 ≤ 100

예시

예시 1
입력:
beta = 0.9
weights = [0.0]
gradients = [
    [1.0],
    [1.0],
    [1.0]
]
learning_rate = 0.1

예상 출력:
expected = [-0.561]
입력:
double beta = 0.9;
std::vector<double> weights = {0.0};
std::vector<std::vector<double>> gradients = {
    {1.0},
    {1.0},
    {1.0}
};
double learning_rate = 0.1;

예상 출력:
std::vector<double> expected = {-0.561};
입력:
double beta = 0.9;
double[] weights = new double[] {0.0};
double[][] gradients = new double[][] {
    new double[] {1.0},
    new double[] {1.0},
    new double[] {1.0}
};
double learning_rate = 0.1;

예상 출력:
double[] expected = new double[] {-0.561};

설명

기울기가 계속 같은 방향을 가리키므로 속도는 1 → 1.9 → 2.71로 커지고, 단계는 0.1, 0.19, 0.271이 됩니다: w = -0.561.

예시 2
입력:
beta = 0.0
weights = [1.0, 1.0]
gradients = [
    [2.0, -4.0]
]
learning_rate = 0.5

예상 출력:
expected = [0.0, 3.0]
입력:
double beta = 0.0;
std::vector<double> weights = {1.0, 1.0};
std::vector<std::vector<double>> gradients = {
    {2.0, -4.0}
};
double learning_rate = 0.5;

예상 출력:
std::vector<double> expected = {0.0, 3.0};
입력:
double beta = 0.0;
double[] weights = new double[] {1.0, 1.0};
double[][] gradients = new double[][] {
    new double[] {2.0, -4.0}
};
double learning_rate = 0.5;

예상 출력:
double[] expected = new double[] {0.0, 3.0};

설명

beta = 0이면 일반 경사 하강법입니다: w = [1 - 0.5 × 2, 1 - 0.5 × (-4)] = [0, 3].

참고 자료

이 문제는 CodeUtility에 맞게 수정되었습니다. 위의 설명과 제한 조건을 따르세요.

다른 사람의 풀이 보기

커뮤니티 솔루션

아직 공개된 풀이가 없습니다. 문제를 풀고 첫 풀이를 공유하세요.