Was ist der Hauptgrund dafür, dass sich gepulste neuronale Netze (Spiking Neural Networks, SNN), die beim neuromorphen Computing verwendet werden, nur schwer direkt mit der Backpropagation gewöhnlicher neuronaler Netze trainieren lassen?

Antwort: B. Das Auslösen eines Spikes ist ein unstetiger Vorgang, der davon abhängt, ob ein Schwellenwert überschritten wird, und ist daher nicht differenzierbar

Jedes Neuron eines SNN sammelt eingehende Spikes als Membranpotenzial an und gibt einen Spike ab, wenn dieses einen Schwellenwert überschreitet. Weil dieser Ausgang unstetig zwischen 0 und 1 springt, ist der für die Backpropagation nötige Gradient fast überall 0 oder nicht definiert. Erforscht werden daher Verfahren, die nur beim Training einen Gradienten verwenden, der die Spike-Funktion durch eine glatte Funktion annähert, oder die ein gewöhnliches Netz trainieren und anschließend in ein SNN umwandeln. Die Entwicklung von Trainingsverfahren ist eine der Herausforderungen beim neuromorphen Computing.