Percorso di IA

Costruisci una rete neurale da zero in Python

15 sfide ti portano dal prodotto scalare a una rete che impara lo XOR, e poi agli ottimizzatori moderni come Adam, senza librerie di IA: neuroni, attivazioni, perdita, gradienti, retropropagazione e addestramento. Risolvile in ordine in Python; ognuna gira nel browser con test immediati e una revisione dell'IA.

  1. 1

    Elementi di base

    Vettori, funzioni di attivazione e un singolo neurone.

    0/3
    1. 1 Prodotto scalare di due vettori Facile Risolvi in Python
    2. 2 Funzioni di attivazione Facile Risolvi in Python
    3. 3 Un singolo neurone artificiale Facile Risolvi in Python
  2. 2

    Propagazione in avanti

    Strati, una rete a due strati e funzioni di perdita.

    0/3
    1. 1 Propagazione in avanti in uno strato denso Media Risolvi in Python
    2. 2 Propagazione in avanti in una rete a due strati Media Risolvi in Python
    3. 3 Funzioni di perdita: MSE, MAE ed entropia incrociata Facile Risolvi in Python
  3. 3

    Addestramento

    Gradienti, retropropagazione e discesa del gradiente, fino a risolvere lo XOR.

    0/5
    1. 1 Derivate delle funzioni di attivazione Facile Risolvi in Python
    2. 2 Gradienti di un singolo neurone Media Risolvi in Python
    3. 3 Retropropagazione in una rete a due strati Difficile Risolvi in Python
    4. 4 Addestra un neurone con la discesa del gradiente Media Risolvi in Python
    5. 5 Addestra una rete neurale a risolvere lo XOR Difficile Risolvi in Python
  4. 4

    Addestrare meglio

    Inizializzazione dei pesi, mini-batch, momentum e Adam.

    0/4
    1. 1 Inizializzazione dei pesi Xavier e He Facile Risolvi in Python
    2. 2 Discesa del gradiente a mini-batch Media Risolvi in Python
    3. 3 Discesa del gradiente con momentum Facile Risolvi in Python
    4. 4 Ottimizzatore Adam Media Risolvi in Python