Page 1 of 1

Hybrid SOM

Posted: Fri 9. Oct 2009, 19:23
by Youngster
Moin moin,

ich möchte ein Hybrid SOM Netz trainieren - also ein Netz bei dem hinter die Kohonen-Map noch ein Hidden-Layer und dann ein Output Neuron kommt. Die SOM hab ich glaube ich soweit erstmal mit "Competitive with Momentum" ganz erfolgreich trainiert. Nun dachte ich, ich könnte einfach die Links für den Teacher locken und noch einen Layer plus Output Neuron dahinter schalten, die Kohonen-Neuronen in Hiddel-Layer umdefinieren, und das ganze mit BP oder RPROP supervised trainieren. Das geht nur leider irgendwie nicht.

Dann dachte ich, probiere ich mal die Outputs der Kohonen-Map mit record in csv zu speichern, um die dann als Input an die Kohonen-Neuronen zu geben... Aber da scheitere ich beim recorden...

Dazu finde ich auch in der Hilfe nix... Vielleicht denk ich auch einfach falsch?

Der große Meister hat bestimmt wie immer eine Lösung ;)

Schon mal vielen Dank im Vorraus!

Re: Hybrid SOM

Posted: Fri 9. Oct 2009, 22:56
by Admin
Youngster wrote:Nun dachte ich, ich könnte einfach die Links für den Teacher locken und noch einen Layer plus Output Neuron dahinter schalten, die Kohonen-Neuronen in Hiddel-Layer umdefinieren, und das ganze mit BP oder RPROP supervised trainieren. Das geht nur leider irgendwie nicht.
Was genau 'geht denn nicht', d.h., was passiert denn oder passiert eben nicht?

Eigentlich müsste der Ansatz tatsächlich so funktionieren, allerdings müssen nicht nur die Link-Gewichte für den Teacher gesperrt werden, sondern auch die 'Activation Thresholds' der vormaligen Output-Neuronen, diese werden nämlich auch vom überwachten Teacher verändert. Kann es sein, dass das noch gefehlt hat?

Also am besten nach dem Trainieren der SOM:
- Alles markieren (Strg + A)
- Dann Rechtsklick auf eines der markierten Neuronen und 'Lock Core Properties' wählen (das tut das selbe wie der zugehörige Eigenschaften-Dialog für die Links und Neuronen, was natürlich auch geht).
- Dann alle Output-Neuronen in Hidden umwandeln.
- Dann das Netz fertig bauen und mit z.B. RPROP trainieren.

Wenn's immer noch nicht klappt, dann bitte genau beschreiben, was nicht geht.

Viele Grüße

Re: Hybrid SOM

Posted: Sat 10. Oct 2009, 11:06
by Youngster
Funktioniert jetzt! Das mit den Activation Thresholds war ein guter Tipp - hatte ich natürlich vergessen. Hauptproblem war allerdings dass ich das Outputneuron falsch benannt hatte - zu blöd :oops: