Wie viele trainierbare Parameter hat eine vollständig verbundene Schicht mit 64 Eingaben und 32 Ausgaben (mit einem Bias je Ausgabe)?

Antwort: C. 2080

Eine vollständig verbundene Schicht hat für jedes Paar aus Eingabe und Ausgabe ein Gewicht, also 64 × 32 = 2048 Gewichte. Mit den 32 Bias-Werten, einem je Ausgabe, ergeben sich 2048 + 32 = 2080 Parameter. Allgemein hat eine vollständig verbundene Schicht mit n Eingaben und m Ausgaben (n + 1) × m Parameter. Eine Faltungsschicht verwendet denselben Filter über das ganze Bild hinweg und hat daher bei gleich großer Eingabe weit weniger Parameter als eine vollständig verbundene Schicht.