G - Physics – 06 – F
Patent
G - Physics
06
F
G06F 15/80 (2006.01) G06N 3/08 (2006.01)
Patent
CA 2174522
An unsupervised back propagation method for training neural networks. For a set of inputs, target outputs are assigned 1's and 0's randomly or arbitrarily for a small number of outputs. The learning process is initiated and the convergence of outputs towards targets is monitored. At intervals, the learning is paused, and the values for those targets for the outputs which are converging at a less than average rate, are changed (e.g., 0 1, or 1 0), and the learning is then resumed with the new targets. The process is continuously iterated and the outputs converge on a stable classification, thereby providing unsupervised back propagation. In a further embodiment, samples classified with the trained network may serve as the training sets for additional subdivisions to grow additional layers of a hierarchical classification tree which converges to indivisible branch tips. After training is completed, such a tree may be used to classifiy new unlabelled samples with high efficiency. In yet another embodiment, the unsupervised back propagation method of the present invention may be adapted to classify fuzzy sets.
Le procédé concerne la rétropropagation sans supervision appliquée à l'apprentissage des réseaux neuronaux. Partant d'un nombre défini d'entrées, on affecte aux sorties cibles des 1 et des 0 au hasard, ou de façon arbitraire dans le cas d'un petit nombre de sorties. Une fois que le processus d'apprentissage est amorcé, on surveille la convergence des sorties en direction des cibles. A intervalles réguliers, l'apprentissage subit une pause mise à profit pour modifier les valeurs des cibles correspondant à des sorties convergeant à une vitesse inférieure à la moyenne. (La modification consiste par exemple à remplacer les 1 par des 0 et vice versa). Le processus d'apprentissage reprend ensuite avec les nouvelles cibles. Ce processus étant en perpétuelle itération, les sorties convergent vers une classification stable, ce qui assure une rétropropagation sans supervision. Dans un autre mode de réalisation, les échantillons classifiés à l'aide du réseau ayant subi l'apprentissage peuvent resservir comme jeux d'apprentissage destinés à des subdivisions supplémentaires venant s'ajouter aux couches d'une arborescence hiérarchisée, ces couches convergeant aux extrémités indivisibles des embranchements. Une fois que l'apprentissage est achevé, il est possible de se servir d'une telle arborescence pour classifier avec une haute efficacité d'autres échantillons non encore étiquetés. Dans une autre réalisation, le procédé de rétropropagation sans supervision de la présente invention peut être adapté à la classification d'ensembles flous.
Macrae & Co.
Miles Inc.
LandOfFree
Method for unsupervised neural network classification with... does not yet have a rating. At this time, there are no reviews or comments for this patent.
If you have personal experience with Method for unsupervised neural network classification with..., we encourage you to share that experience with our LandOfFree.com community. Your opinion is very important and Method for unsupervised neural network classification with... will most certainly appreciate the feedback.
Profile ID: LFCA-PAI-O-1750916