Norsk kunstig intel­ligens skal forhindre om­skjæring i Tanzania [Ekstra]

[SarahG]

Norsk kunstig intel­ligens skal forhindre om­skjæring i Tanzania [Ekstra]

[morten7]

Husk at når man skal retrene modellen så holder det ikke å legge til nye data og fortsette treningen. Dette vil fungere, men veldig mye dårlige resultat enn alternativet:

1. Frys alle lag utenom det siste, for så å trene dette på nytt med nye data.

2. Sett ulik "learning rate" for ulike deler av nettet, med minst frihet på de første delene av nettet og høyere mot slutten. En oppdeling med 3-5 ulike learning rate pleier å holde mer enn nok.

 

Når man tenker på det er det selvforklarende, det er mindre sannsynlig at man trenger å lære opp de første lagene som har lært seg å skille farger/linjer, mot de senere lagene som har lært seg mer abstrakte ting som hvordan kombinasjonen av farger/linjer utgjør tak.

Noe usikker på om tensorflow har fått støtte for dette i den siste tiden (som jeg ser at koden er skrevet i), hvis ikke kan det kanskje være verdt det på sikt å konvertere til PyTorch?