Moin moin,
ich möchte ein Hybrid SOM Netz trainieren - also ein Netz bei dem hinter die Kohonen-Map noch ein Hidden-Layer und dann ein Output Neuron kommt. Die SOM hab ich glaube ich soweit erstmal mit "Competitive with Momentum" ganz erfolgreich trainiert. Nun dachte ich, ich könnte einfach die Links für den Teacher locken und noch einen Layer plus Output Neuron dahinter schalten, die Kohonen-Neuronen in Hiddel-Layer umdefinieren, und das ganze mit BP oder RPROP supervised trainieren. Das geht nur leider irgendwie nicht.
Dann dachte ich, probiere ich mal die Outputs der Kohonen-Map mit record in csv zu speichern, um die dann als Input an die Kohonen-Neuronen zu geben... Aber da scheitere ich beim recorden...
Dazu finde ich auch in der Hilfe nix... Vielleicht denk ich auch einfach falsch?
Der große Meister hat bestimmt wie immer eine Lösung
Schon mal vielen Dank im Vorraus!
Hybrid SOM
Re: Hybrid SOM
Was genau 'geht denn nicht', d.h., was passiert denn oder passiert eben nicht?Youngster wrote:Nun dachte ich, ich könnte einfach die Links für den Teacher locken und noch einen Layer plus Output Neuron dahinter schalten, die Kohonen-Neuronen in Hiddel-Layer umdefinieren, und das ganze mit BP oder RPROP supervised trainieren. Das geht nur leider irgendwie nicht.
Eigentlich müsste der Ansatz tatsächlich so funktionieren, allerdings müssen nicht nur die Link-Gewichte für den Teacher gesperrt werden, sondern auch die 'Activation Thresholds' der vormaligen Output-Neuronen, diese werden nämlich auch vom überwachten Teacher verändert. Kann es sein, dass das noch gefehlt hat?
Also am besten nach dem Trainieren der SOM:
- Alles markieren (Strg + A)
- Dann Rechtsklick auf eines der markierten Neuronen und 'Lock Core Properties' wählen (das tut das selbe wie der zugehörige Eigenschaften-Dialog für die Links und Neuronen, was natürlich auch geht).
- Dann alle Output-Neuronen in Hidden umwandeln.
- Dann das Netz fertig bauen und mit z.B. RPROP trainieren.
Wenn's immer noch nicht klappt, dann bitte genau beschreiben, was nicht geht.
Viele Grüße
Thomas Jetter
Re: Hybrid SOM
Funktioniert jetzt! Das mit den Activation Thresholds war ein guter Tipp - hatte ich natürlich vergessen. Hauptproblem war allerdings dass ich das Outputneuron falsch benannt hatte - zu blöd