Basis van machine learning

Een model wordt getraind op 10.000 trainingsgegevens met een minibatchgrootte (batchgrootte) van 50. Hoeveel keer worden de gewichten in één epoch bijgewerkt?

  1. A50 keer
  2. B200 keer
  3. C2000 keer
Antwoord en toelichting tonen

Antwoord: B. 200 keer

Een epoch is de trainingseenheid waarin de volledige trainingsdata één keer zijn gebruikt. Bij training met minibatches wordt voor elke minibatch de gradiënt berekend en worden de gewichten één keer bijgewerkt, dus het aantal updates per epoch (het aantal iteraties) is 10.000 ÷ 50 = 200. Bij 10 epochs training zijn dat in totaal 2000 updates. Training met minibatches ligt tussen batchtraining, die één keer met alle gegevens bijwerkt, en onlinetraining, die na elk afzonderlijk gegevenspunt bijwerkt.

Dit onderwerp oefenen Naar de onderwerppagina

Meer vragen over Basis van machine learning

  1. Hoeveel trainbare parameters heeft een volledig verbonden laag met 64 ingangen en 32 uitgangen (met één bias per uitgang)?
  2. Op een beeld van 28×28 met één kanaal wordt een convolutie met een filter van 5×5 (stride 1, geen padding) toegepast, gevolgd door max-pooling van 2×2 (stride 2). Wat zijn de hoogte en breedte van de uitvoer?
  3. Welke beschrijving van recurrente neurale netwerken (RNN's) en LSTM's is juist?
  4. Welke beschrijving van de self-attention die in de Transformer wordt gebruikt, is juist?
  5. Welke beschrijving van transfer learning, waarbij een model dat op een grote hoeveelheid gegevens is getraind met weinig gegevens voor een andere taak wordt gebruikt, is juist?