Cilj predmeta

Uvođenje studenata u oblast dubokog učenja. Upoznavanje sa osnovnim konceptima, tehnikama za obučavanje i arhitekturama dubokih neuronskih mreža.

Ishod predmeta

Poznavanje osnovnih arhitektura, tehnika i algoritama koji se koriste u obučavanju dubokih neuronskih mreža. Razumevanje prednosti dubokog učenja u odnosu na tradicionalne pristupe. Poznavanje domena gde su tehnike dubokog učenja primenjive i daju dobre rezultate.

Sadržaj predmeta

Uvod u oblast dubokog učenja i istorijski kontekst. Model veštačkog neurona i veštačke neuronske mreže. Obučavanje neuronskih mreža, funkcija greške i optimizacija parametara. Backpropagation algoritam. Konvolucione neuronske mreže. Aktivacione funkcije, inicijalizacija parametara, odbacivanje (dropout), batch normalizacija. Ažuriranje parametara pri obučavanju, ansambli mreža i glasanje, proširivanje podataka (data augmentation), preneseno učenje (transfer learning). Hardver i softver za duboko učenje. Arhitekture konvolucionih neuronskih mreža (AlexNet, VGG, GoogLeNet, ResNet, ...). Rekurentne neuronske mreže. Semantička segmentacija, detekcija objekata, izdvajanje instanci. Generativni modeli, autoenkoderi, Generative Adversarial Networks (GAN). Vizuelizacija i razumevanje dubokih neuronskih mreža. Duboko pojačano učenje (deep reinforcement learining).

Praktičan rad na implementaciji dubokih neurosnkih mreža korišenjem TensorFlow i Keras biblioteka.