Basis van machine learning
Welke van de volgende stappen bij het bouwen van een machinelearningmodel veroorzaakt data leakage (informatie uit de evaluatiedata die in de training terechtkomt)?
- AHet gemiddelde en de standaardafwijking voor de standaardisatie alleen uit de trainingsdata berekenen en de validatie- en testdata met dezelfde waarden standaardiseren
- BHet gemiddelde en de standaardafwijking voor de standaardisatie uit alle gegevens berekenen en standaardiseren, en de gegevens daarna in trainings- en testdata verdelen
- CTijdreeksgegevens zo verdelen dat de gegevens vóór een bepaalde datum voor het trainen en de gegevens vanaf die datum voor het testen worden gebruikt
Antwoord en toelichting tonen
Antwoord: B. Het gemiddelde en de standaardafwijking voor de standaardisatie uit alle gegevens berekenen en standaardiseren, en de gegevens daarna in trainings- en testdata verdelen
Data leakage betekent dat informatie die op het moment van voorspellen eigenlijk niet beschikbaar zou zijn, of informatie uit de evaluatiedata, in het trainingsproces terechtkomt. Als het gemiddelde en de standaardafwijking vóór het verdelen over alle gegevens worden berekend, bereiken statistieken van de testdata via de voorbewerking de training, en kunnen de prestaties beter lijken dan ze werkelijk zijn. De juiste werkwijze is de parameters van de voorbewerking alleen uit de trainingsdata te bepalen en die waarden op de validatie- en testdata toe te passen. Tijdreeksgegevens worden in tijdsvolgorde verdeeld, omdat een willekeurige verdeling zou betekenen dat het verleden met informatie uit de toekomst wordt voorspeld.