Учебный путь по ИИ

Создайте нейросеть с нуля на Python

15 задач проведут вас от скалярного произведения до сети, которая учится XOR, и дальше до современных оптимизаторов вроде Adam, без библиотек ИИ: нейроны, функции активации, потери, градиенты, обратное распространение и обучение. Решайте их по порядку на Python; каждая запускается в браузере с мгновенными тестами и отзывом ИИ.

  1. 1

    Основы

    Векторы, функции активации и один нейрон.

    0/3
    1. 1 Скалярное произведение двух векторов Легко Решить на Python
    2. 2 Функции активации Легко Решить на Python
    3. 3 Один искусственный нейрон Легко Решить на Python
  2. 2

    Прямой проход

    Слои, двухслойная сеть и функции потерь.

    0/3
    1. 1 Прямой проход через полносвязный слой Средне Решить на Python
    2. 2 Прямое распространение в двухслойной сети Средне Решить на Python
    3. 3 Функции потерь: MSE, MAE и перекрёстная энтропия Легко Решить на Python
  3. 3

    Обучение

    Градиенты, обратное распространение и градиентный спуск — вплоть до решения XOR.

    0/5
    1. 1 Производные функций активации Легко Решить на Python
    2. 2 Градиенты одного нейрона Средне Решить на Python
    3. 3 Обратное распространение ошибки в двухслойной сети Сложно Решить на Python
    4. 4 Обучение нейрона градиентным спуском Средне Решить на Python
    5. 5 Обучите нейросеть решать XOR Сложно Решить на Python
  4. 4

    Обучение лучше

    Инициализация весов, мини-батчи, момент и Adam.

    0/4
    1. 1 Инициализация весов Xavier и He Легко Решить на Python
    2. 2 Мини-батч градиентный спуск Средне Решить на Python
    3. 3 Градиентный спуск с моментом Легко Решить на Python
    4. 4 Оптимизатор Adam Средне Решить на Python