Réseau de neurones à rétropropagation
Pas encore de compte ?
Qu’est-ce que la rétropropagation ?
La rétropropagation est la méthode de réglage fine des poids d’un réseau neuronal en fonction du taux d’erreur obtenu lors de l’époque ou itération précédente.
Un bon réglage des poids permet de réduire les taux d’erreur et de fiabiliser le modèle en augmentant sa généralisation.
La rétropropagation est en fait la propagation à rebours des erreurs.
Il s’agit d’une méthode standard de formation des réseaux neuronaux artificiels et permet de calculer le gradient d’une fonction de perte par rapport à tous les poids du réseau.
La rétropropagation sert à évaluer l’impact qu’a une variable d’entrée sur la sortie d’un réseau. Les connaissances acquises à partir de cette analyse doivent être représentées dans des règles.
La rétropropagation est particulièrement utile pour les réseaux neuronaux profonds travaillant sur des projets sujets aux erreurs, tels que la reconnaissance d’images ou de la parole.
La rétropropagation tire parti des règles de chaîne et de puissance permet à la rétropropagation de fonctionner avec un nombre quelconque de sorties.
La rétropropagation du gradient
La technique de rétropropagation du gradient est une méthode qui permet de calculer le gradient de l'erreur pour chaque neurone du réseau, de la dernière couche vers la première.
La correction des erreurs peut également se faire selon d'autres méthodes, par exemple par le calcul de la dérivée seconde.
Dans le cas des réseaux de neurones, les poids synaptiques qui contribuent à engendrer une erreur importante se verront modifiés de manière plus significative que les poids qui ont engendré une erreur marginale.
Les descentes de gradient ont pour but de converger de manière itérative vers une configuration optimisée des poids synaptiques.
Cet état peut être un minimum local de la fonction à optimiser et idéalement, un minimum global de cette fonction.
Bienvenu, je m’appelle Eric Soupet et je suis l'administrateur du site elodees.com. elodees.com est un état de l'art de l'Intelligence Artificielle et se veut collaboratif, vous pouvez dès à présent proposer du contenu tels que des articles, des événements, des tutoriels, ... alors n'hésitez pas !
