Method for training neural networks

G - Physics – 06 – N

Patent

Rate now

  [ 0.00 ] – not rated yet Voters 0   Comments 0

Details

G06N 3/08 (2006.01)

Patent

CA 2629069

The present invention provides a method (30) for training an artificial neural network (NN). The method (30) includes the steps of: initialising the NN by selecting an output of the NN to be trained and connecting an output neuron of the NN to input neuron(s) in an input layer of the NN for the selected output; preparing a data set to be learnt by the NN; and, applying the prepared data set to the NN to be learnt by applying an input vector of the prepared data set to the first hidden layer of the NN, or the output layer of the NN if the NN has no hidden layer(s), and determining whether at least one neuron for the selected output in each layer of the NN can learn to produce the associated output for the input vector. If none of the neurons in a layer of the NN can learn to produce the associated output for the input vector, then a new neuron is added to that layer to learn the associated output which could not be learnt by any other neuron in that layer. The new neuron has its output connected to all neurons in next layer that are relevant to the output being trained. If an output neuron cannot learn the input vector, then another neuron is added to the same layer as the current output neuron and all inputs are connected directly to it. This neuron learns the input the old output could not learn. An additional neuron is added to the next layer. The inputs to this neuron are the old output of the NN, and the newly added neuron to that layer.

L'invention concerne une méthode (30) pour entraîner un réseau neural artificiel (NN). Cette méthode (30) comprend les étapes consistant à: initialiser le NN par la sélection d'une sortie du NN à entraîner et relier un neurone de sortie du NN à un ou à plusieurs neurones d'entrée de la couche d'entrée du NN pour la sortie sélectionnée; préparer un ensemble de données destinées à être apprises par le NN; et, appliquer l'ensemble de données préparées à apprendre au NN, par l'application d'un vecteur d'entrée de l'ensemble de données préparées à la première couche cachée du NN, ou à la couche de sortie du NN, si le NN ne présente aucune couche(s) cachée(s), et déterminer si au moins un neurone de la sortie sélectionnée de chaque couche du NN peut apprendre à produire la sortie associée pour ce vecteur d'entrée. Si aucun des neurones d'une couche du NN ne peut apprendre à produire la sortie associée, pour ledit vecteur d'entrée, alors un nouveau neurone est ajouté à cette couche pour apprendre la sortie associée qui ne pouvait pas être apprise par un autre neurone quelconque de cette couche. Le nouveau neurone possède une sortie reliée à tous les neurones de la couche suivante qui sont pertinents à la sortie en cours d'entraînement. Si un neurone de sortie ne peut pas apprendre le vecteur d'entrée, alors un autre neurone est ajouté à la même couche que le neurone de sortie actuel, et toutes les entrées sont directement reliées à ce dernier. Ce neurone apprend l'entrée que l'ancienne sortie ne pouvait pas apprendre. Un neurone supplémentaire est ajouté à la couche suivante. Les entrées de ce neurone sont constituées par l'ancienne sortie du NN et par le neurone qui vient d'être ajouté à cette couche.

LandOfFree

Say what you really think

Search LandOfFree.com for Canadian inventors and patents. Rate them and share your experience with other people.

Rating

Method for training neural networks does not yet have a rating. At this time, there are no reviews or comments for this patent.

If you have personal experience with Method for training neural networks, we encourage you to share that experience with our LandOfFree.com community. Your opinion is very important and Method for training neural networks will most certainly appreciate the feedback.

Rate now

     

Profile ID: LFCA-PAI-O-1868625

  Search
All data on this website is collected from public sources. Our data reflects the most accurate information available at the time of publication.