Grundlagen des maschinellen Lernens

Welche logische Funktion lässt sich nicht mit einem einfachen Perzeptron darstellen, das nur aus Eingabe- und Ausgabeschicht besteht (ein einzelnes Neuron, das über einen Schwellenwert 0 oder 1 ausgibt)?

  1. AXOR
  2. BAND
  3. COR
Antwort und Erläuterung anzeigen

Antwort: A. XOR

Ein einfaches Perzeptron bestimmt seine Ausgabe danach, ob die gewichtete Summe der Eingaben einen Schwellenwert überschreitet; es kann den Eingaberaum daher nur mit einer einzigen Geraden (Hyperebene) in zwei Teile teilen. Bei AND und OR lassen sich die Punkte mit Ausgabe 1 und die mit Ausgabe 0 durch eine Gerade trennen, XOR ergibt aber 1 bei (0, 1) und (1, 0) und 0 bei (0, 0) und (1, 1), was keine einzelne Gerade trennen kann. Ein mehrschichtiges Perzeptron mit einer verborgenen Schicht dazwischen und einer nichtlinearen Aktivierungsfunktion kann auch XOR darstellen.

Dieses Thema üben Zur Themenseite

Weitere Fragen zu Grundlagen des maschinellen Lernens

  1. Bei einer Klassifikation mit drei Klassen betragen die Eingabewerte der Softmax-Funktion (Logits) 3, 1 und 0. Etwa das Wievielfache der Ausgabe (Wahrscheinlichkeit) der zweiten Klasse ist die Ausgabe der ersten Klasse? Welcher Wert liegt am nächsten?
  2. Ein kleines neuronales Netz mit den Eingaben x₁ = 1 und x₂ = 2 hat zwei Neuronen in der verborgenen Schicht, h₁ = ReLU(x₁ + x₂ − 1) und h₂ = ReLU(x₁ − 2x₂ + 1), und die Ausgabe y = 2h₁ + 3h₂ + 1. Welchen Wert hat y?
  3. Sei p die Wahrscheinlichkeit, die ein Modell für die richtige Klasse ausgibt. Welche Beschreibung des beim Training von Klassifikatoren verwendeten Kreuzentropie-Verlusts −log p trifft zu?
  4. Beim Gradientenabstieg hat der Gradient des Verlusts ∂L/∂w beim Gewicht w = 2,0 den Wert 0,5, und die Lernrate beträgt 0,1. Wie groß ist das Gewicht nach einer Aktualisierung?
  5. Die Ableitung dy/dx von y = (2x + 1)² an der Stelle x = 1 wird mit der Kettenregel und u = 2x + 1, y = u² bestimmt. Welcher Wert ist richtig?