MemBrain Neural Network Editor + Simulator User Forum

Hallo zusammen,

ich bin ein absoluter Neuling auf den Gebieten Neuronale Netze und Programmierung. Mein Betreuer meines Praktikums hat mir nun zur Aufgabe gegeben, zukünftige Daten der Netzlast von Deutschland vorherzusagen. Als Einflussfaktoren habe ich den Wind und die Temperatur. Ich hab mich nun soweit vorgearbeitet, dass ich ein MLP erstellt habe, das auch ganz gut läuft (denke ich ). Ich habe bisher 22 Vektoren mit jeweils 3 Inputneuronen für den Wind, die Temperatur und die vergangene Netzlast verwendet sowie ein Outputneuron. Das macht mein Netz aber ziemlich unübersichtlich, weil ich für z.B. jeden Tag 3 Inputs brauche und das auf ein paar Monate ganz schön chaotisch wird. Nun kam mir die Idee ein zeitabhängiges Netz zu erstellen, genauer ein Feed-Forward-Netz mit ausschließlich Eingangsdaten vom aktuellen Zeitpunkt, in Verbindung mit speziellen Netz-Elementen, die vergangene Eingangsdaten zwischenspeichern. Ich hab aber keinen blassen Schimmer, wie ich das bewerkstelligen soll

Ich hoffe es war alles verständlich und mir kann jemand helfen

Viele Grüße
Hexe

Hallo und herzlich willkommen im Forum!

Hexe wrote:Ich habe bisher 22 Vektoren mit jeweils 3 Inputneuronen für den Wind, die Temperatur und die vergangene Netzlast verwendet sowie ein Outputneuron. Das macht mein Netz aber ziemlich unübersichtlich, weil ich für z.B. jeden Tag 3 Inputs brauche und das auf ein paar Monate ganz schön chaotisch wird.

Was empfindest Du dabei als unübersichtlich? Ich halte vielmehr die Anzahl an Inputs für recht überschaubar und 22 Vektoren sind garantiert viel zu wenig. Du wirst eher in die Hunderte gehen müssen, um mit NNs etwas zu erreichen.

Hexe wrote:Nun kam mir die Idee ein zeitabhängiges Netz zu erstellen, genauer ein Feed-Forward-Netz mit ausschließlich Eingangsdaten vom aktuellen Zeitpunkt, in Verbindung mit speziellen Netz-Elementen, die vergangene Eingangsdaten zwischenspeichern.

Wenn Du absoluter NN-Anfänger bist und auch keine Programmierkenntnisse hast, dann solltest Du Dich zunächst nicht an ein zeitabhängiges Netz wagen. Diese Netze sind ungleich schwerer zu trainieren und reproduzierbar anzuwenden. Außerdem können sie instabil werden.

Hexe wrote: Ich hab aber keinen blassen Schimmer, wie ich das bewerkstelligen soll

Wenn Du es dennoch angehen willst, dann arbeite Dich zunächst gründlich durch die Netz-Beispiele von der Homepage. Insbesondere wichtig ist hierbei das 'Time Series Prediction' Beispiel, das die Mackey-Glass Zeitreihe als Datenbasis verwendet. Danach solltest DU hier im Forum Dir einmal die verschiedenen Threads anschauen, die sich um zeitabhängige Netze drehen, da sind schon Unmengen an Informationen vorhanden und die Grundaussagen bleiben immer gültig. Das wird Dir bestimmt erst einmal weiterhelfen. Was Du auf jeden Fall erst einmal umgehen solltest, sind Rückkopplungen im Netz. Wenn schon zeitabhängig, dann so wie im Homepage-Beispiel mit Delaylinks und Decayneuronen.
Wenn Du damit durch bist und erste Experiemente mit zeitabhängigen Netzen gemacht hast, dann können wir konkret in Deine Aufgabe einsteigen.

Wie gesagt, würde ich aber zunächst den bisherigen Ansatz weiterverfolgen (Inputs aus der Vergangenheit) bis Du damit sicher unterwegs bist und brauchbare Ergebnisse hast.

Viel Erfolg und Grüße

Hallo nochmal Hexe,

habe gestern den Inhalt des Time Series Prediction Beispiels von der Homepage selbst noch einmal durchgearbeitet und denke, dass das doch auch für einen NN Anfänger passt.
Solange Du nicht anfängst mit Rückkopplungen in Deinem Netz zu arbeiten, sondern DIch erst einmal an die Konstrukte aus dem Tutorial hältst, sollte das eigentlich problemlos funktionieren.

In sofern entschuldige, wenn ich DIch gestern etwas demotoviert haben sollte, das war nicht meine Absicht. Versuch es ruhig mit dem zeitabhängigen Netz, Deine Datenaufbearbeitung wird es selbstverständlich sehr vereinfachen, da Du in den Datenmustern dann keine Vergangenhheit mehr abbilden musst.

Ganz wichtig: Beim Training in den Teacher-Einstellungen beachten: Einstellung 'Lesson Pattern Selection' auf 'Ordered' stellen! Die Pattern müssen bei einem zeitabhängigen Netz während Training und Validierung (!) immer in ihrere korrekten Reihenfolge präsentiert werden, da sie ja nicht mehr unabhängig voneinander sind, wie das zuvor der Fall war, als die Vergangenheit noch in jedem Mustern selbst abgebildet wurde.

Viel Erfolg und Grüße!