Hybrid SOM

Haben Sie Fragen zur Bedienung bestimmter Features von MemBrain? Sind Sie nicht sicher, welches Häkchen was bewirkt? Möchten Sie wissen, ob eine bestimmte Funktionalität in MemBrain vorhanden ist oder nicht?

Dann stellen Sie Ihre Fragen hier!
Post Reply
Youngster
Posts: 3
Joined: Fri 11. Sep 2009, 11:39

Hybrid SOM

Post by Youngster »

Moin moin,

ich möchte ein Hybrid SOM Netz trainieren - also ein Netz bei dem hinter die Kohonen-Map noch ein Hidden-Layer und dann ein Output Neuron kommt. Die SOM hab ich glaube ich soweit erstmal mit "Competitive with Momentum" ganz erfolgreich trainiert. Nun dachte ich, ich könnte einfach die Links für den Teacher locken und noch einen Layer plus Output Neuron dahinter schalten, die Kohonen-Neuronen in Hiddel-Layer umdefinieren, und das ganze mit BP oder RPROP supervised trainieren. Das geht nur leider irgendwie nicht.

Dann dachte ich, probiere ich mal die Outputs der Kohonen-Map mit record in csv zu speichern, um die dann als Input an die Kohonen-Neuronen zu geben... Aber da scheitere ich beim recorden...

Dazu finde ich auch in der Hilfe nix... Vielleicht denk ich auch einfach falsch?

Der große Meister hat bestimmt wie immer eine Lösung ;)

Schon mal vielen Dank im Vorraus!
User avatar
Admin
Site Admin
Posts: 438
Joined: Sun 16. Nov 2008, 18:21

Re: Hybrid SOM

Post by Admin »

Youngster wrote:Nun dachte ich, ich könnte einfach die Links für den Teacher locken und noch einen Layer plus Output Neuron dahinter schalten, die Kohonen-Neuronen in Hiddel-Layer umdefinieren, und das ganze mit BP oder RPROP supervised trainieren. Das geht nur leider irgendwie nicht.
Was genau 'geht denn nicht', d.h., was passiert denn oder passiert eben nicht?

Eigentlich müsste der Ansatz tatsächlich so funktionieren, allerdings müssen nicht nur die Link-Gewichte für den Teacher gesperrt werden, sondern auch die 'Activation Thresholds' der vormaligen Output-Neuronen, diese werden nämlich auch vom überwachten Teacher verändert. Kann es sein, dass das noch gefehlt hat?

Also am besten nach dem Trainieren der SOM:
- Alles markieren (Strg + A)
- Dann Rechtsklick auf eines der markierten Neuronen und 'Lock Core Properties' wählen (das tut das selbe wie der zugehörige Eigenschaften-Dialog für die Links und Neuronen, was natürlich auch geht).
- Dann alle Output-Neuronen in Hidden umwandeln.
- Dann das Netz fertig bauen und mit z.B. RPROP trainieren.

Wenn's immer noch nicht klappt, dann bitte genau beschreiben, was nicht geht.

Viele Grüße
Thomas Jetter
Youngster
Posts: 3
Joined: Fri 11. Sep 2009, 11:39

Re: Hybrid SOM

Post by Youngster »

Funktioniert jetzt! Das mit den Activation Thresholds war ein guter Tipp - hatte ich natürlich vergessen. Hauptproblem war allerdings dass ich das Outputneuron falsch benannt hatte - zu blöd :oops:
Post Reply