Basis van machine learning

Bij classificatie met drie klassen zijn de waarden die in de softmaxfunctie gaan (logits) 3, 1 en 0. Ongeveer hoeveel keer zo groot is de uitvoer (kans) van de eerste klasse als die van de tweede klasse? Welke waarde ligt het dichtst bij het antwoord?

A2 keer
B3 keer
C7,4 keer

Antwoord en toelichting tonen

Antwoord: C. 7,4 keer

De softmaxfunctie zet elke waarde zᵢ om in exp(zᵢ) ÷ Σexp(zⱼ), zodat kansen ontstaan die samen 1 zijn. De noemer is voor alle klassen gelijk, dus de verhouding van de uitvoer van twee klassen is exp(3) ÷ exp(1) = e² ≈ 7,4. De verhouding van de uitvoer hangt dus alleen af van het verschil tussen de logits, en een verschil van 2 maakt de kans ongeveer 7,4 keer zo groot. Als bij alle logits hetzelfde getal wordt opgeteld, verandert de uitvoer niet.

Dit onderwerp oefenen Naar de onderwerppagina

Meer vragen over Basis van machine learning

Een klein neuraal netwerk met de invoer x₁ = 1 en x₂ = 2 heeft twee verborgen neuronen h₁ = ReLU(x₁ + x₂ − 1) en h₂ = ReLU(x₁ − 2x₂ + 1) en de uitvoer y = 2h₁ + 3h₂ + 1. Wat is de waarde van y?
Zij p de kans die een model aan de juiste klasse toekent. Welke beschrijving van het kruisentropieverlies −log p, dat wordt gebruikt om classificatiemodellen te trainen, is juist?
Bij gradiëntafdaling is de gradiënt van het verlies ∂L/∂w bij het gewicht w = 2,0 gelijk aan 0,5 en is de leersnelheid 0,1. Wat is het gewicht na één update?
De afgeleide dy/dx van y = (2x + 1)² bij x = 1 wordt met de kettingregel bepaald, met u = 2x + 1 en y = u². Welke waarde is juist?
Waarom zijn in een neuraal netwerk met veel gestapelde lagen de lagen dicht bij de invoer moeilijk te trainen als de sigmoïdefunctie als activatiefunctie wordt gebruikt?