Syllabus del Corso di Reti Neurali 1 (una unita') - a.a. 1998-99

Docente: Francesco Masulli.

http://www.disi.unige.it/person/MasulliF/syllabus-rn198
Ultima modifica: 8 Feb 1999.

Metodi di ricerca

Metodi di ricerca analitici, enumerativi, casuali - Steepest Ascend/Descent Procedures - Simulated Annealing - Applicazione al problema TSP.

Generazione numeri casuali

Generazione di numeri casuali con distribuzione uniforme - Generazione di distribuzioni casuali basato sulla legge di trasformazione delle probabilita'.

Calcolo Evoluzionario

Ispirazione biologica - Elementi costituenti gli Algoritmi Genetici - Schemi - Teorema degli scheni - Funzioni GA-hard - Minimal Deceptive Problem - Convergenza prematura - Stagnazione - Operatori avanzati di selezione - Scalatura della fitness - Coding - Codifica multiparametrica - Discretizzazione - Ottimizzazione con vincoli - Operatori avanzati di crossover - GA per ottimizzazione combinatoria.

Riconoscimento delle forme

Classificazione supervisionata e non supervisionata - Training set - Validation set - Test Set - Curse of dimensionality - Overtraining - Regole di decisione - Superfici di decisione - Funzioni discriminanti - Regioni di decisione - Confini di decisione - Condensed Nearest Neigboor - Regola di decisione di Bayes - Minimizzazione del rischio - Applicazione alla classificazione - Caso distribuzione normale dei pattern - Classificatori supervisionati parametrici - Stima con massima verosomiglianza - Classificatori supervisionati non parametrici - NN e KNN.

Reti Neurali.

Neurone e reti di neuroni biologici - Neuroni matematici - Neurone di Mc Culloch e Pitts - Percettroni semplici - Unita' deterministica a soglia o Linear Threshold Unit - Problemi linearmente separabili e problemi non linearmente separabili - Regole hebbiane per LTU Regola di Rosemblatt - Unita' a funzione di attivazione lineare o ADALINE - Apprendimento mediate discesa a gradiente - Unita' a funzione di attivazione non lineare - Percettroni multistrato con unita' tipo LTU - Esistenza della soluzione per problemi non linearmente separabili - Soluzione problema xor - Percettrone multistrato con unita' a funzione di attivazione non lineare - Regola di apprendimento Back-Propagation - Bold driver - Momento - Metodi di ottimizzazione di second'ordine - Metodi globali - Teorema di approssimazione universale di funzioni - Applicazione alla classificazione - Teorema di approssimazione della funzione discriminante di Bayes - Problema dei falsi positivi - Reti di funzioni a base radiale - Problema di previsione di serie temporali - Tapped Delay Neural Networks - Reti Neurali Ricorrenti - Memorie Associative Neurali - Rete di Hopfield -Applicazione a problemi di ottimizzazione combinatoria - Clustering - Approccio Parametrico - Massima Verosomiglianza - Hard C-Means - Quantizzazione Vettoriale - Mappe Auto-organizzanti.