Tutorium (Learning the English Past Tense)
Posted: Mon 3. Jan 2011, 19:02
Hallo,
wie ich gestern im englischen Forum erwähnt habe, soll ich in den nächsten Wochen 4 Tutorien zu Neuronalen Netzen in der Uni halten. Seit 10 Jahren werden sie mit tlearn gelehrt, aber tlearn ist inzwischen so veraltet, dass es sich wirklich nur noch mit Mühe zum Laufen bringen lässt, weshalb ich nach einer Alternative gesucht habe.
Ich habe jetzt mit der Umsetzung eines der Tutorien angefangen, erreiche aber beim "Teaching" nichts. Das ganze ist eine Vereinfachung der Plunkett und Marchmann '91 Simulation über das englische Perfekt. Ich hänge das Netz an und die Trainingsdaten an. In tlearn wird das ganze laut Lehrbuch mit Backprop für 50 epochs mit Learning Rate 0.3 und Momentum 0.8 trainiert. Ich habe also ein Teacher mit "Std. BP with Momentum", "Learning Rate: 0.3", "Repetitions per Lesson: 50" und "Random Order" definiert (wie ich Momentum einstelle, weiß ich nicht), bei den anderen Optionen die default Werte stehen gelassen, auf die einfache Birne geklickt (Teach Lesson), und das Net Error Viewer aufgemacht, aber der Fehler scheint einfach nicht kleiner zu werden :-/ In der unteren rechten Ecke des Membrain Fenster sehe ich, dass der Fehler sehr wohl auf weniger als 0.01 sinkt, aber es wird im Error Viewer nicht so dargestellt.
Was mache ich hier falsch?
Viele Grüße,
Garance
wie ich gestern im englischen Forum erwähnt habe, soll ich in den nächsten Wochen 4 Tutorien zu Neuronalen Netzen in der Uni halten. Seit 10 Jahren werden sie mit tlearn gelehrt, aber tlearn ist inzwischen so veraltet, dass es sich wirklich nur noch mit Mühe zum Laufen bringen lässt, weshalb ich nach einer Alternative gesucht habe.
Ich habe jetzt mit der Umsetzung eines der Tutorien angefangen, erreiche aber beim "Teaching" nichts. Das ganze ist eine Vereinfachung der Plunkett und Marchmann '91 Simulation über das englische Perfekt. Ich hänge das Netz an und die Trainingsdaten an. In tlearn wird das ganze laut Lehrbuch mit Backprop für 50 epochs mit Learning Rate 0.3 und Momentum 0.8 trainiert. Ich habe also ein Teacher mit "Std. BP with Momentum", "Learning Rate: 0.3", "Repetitions per Lesson: 50" und "Random Order" definiert (wie ich Momentum einstelle, weiß ich nicht), bei den anderen Optionen die default Werte stehen gelassen, auf die einfache Birne geklickt (Teach Lesson), und das Net Error Viewer aufgemacht, aber der Fehler scheint einfach nicht kleiner zu werden :-/ In der unteren rechten Ecke des Membrain Fenster sehe ich, dass der Fehler sehr wohl auf weniger als 0.01 sinkt, aber es wird im Error Viewer nicht so dargestellt.
Was mache ich hier falsch?
Viele Grüße,
Garance