Pas encore de compte ?
En construisant des réseaux de neurones, nous calculons des gradients avec l'algorithme de rétropropagation.
Ces gradients sont utilisés pour effectuer les mises à jour des paramètres.
La méthode par défaut consiste à mettre à jour le gradient le long de la direction du gradient négatif, c'est-à-dire en utilisant l'optimiseur de descente de gradient.
SGD
Momentum update
Nesterov momentum
Learning Rate Decay
Adagrad
RMSprop
Adam
Source : https://kharshit.github.io/blog/2018/08/17/optimizers
Bienvenu, je m’appelle Eric Soupet et je suis l'administrateur du site elodees.com. elodees.com est un état de l'art de l'Intelligence Artificielle et se veut collaboratif, vous pouvez dès à présent proposer du contenu tels que des articles, des événements, des tutoriels, ... alors n'hésitez pas !
Crédit des images de la plate-forme : Pixabay - Pixabay License | Pexels - Pexels License