Reti Neurali 1 (una unita') - a.a. 1998-99

Ultima modifica: 4 Novembre 1998. Commenti a Francesco Masulli.

Docente: Francesco Masulli.
Corso:

Prerequisiti
Obiettivi
Programma
Laboratorio
Testi di Riferimento
Informazioni On-Line

Prerequisiti

Programmazione in linguaggio (consigliati C e/o C++). Elementi di analisi matematica, algebra lineare e di calcolo delle probabilita'.

Obiettivi

Conoscenza delle basi teoriche degli algoritmi genetici e delle reti neurali e capacita' di applicare questi strumenti a problemi concreti.

Programma del Corso

Introduzione.

Soft Computing e Applicazioni Industriali. Analisi di serie temporali non lineari. Riconoscimento automatico delle forme. Controllo adattativo. Simulatori e implementazioni hardware di sistemi di Soft Computing.

Algoritmi genetici.

Metodig di ricerca locali. Discesa (salita) a gradiente. Simulated Anealing. Generazione di numeri e bit casuali. Fondamenti Matematici dei GA. Simulazione al Calcolatore. Applicazioni. Operatori Avanzati e Tecniche di Ricerca. Apprendimento Automatico Basato su Algoritmi Genetici e Applicazioni.

Reti Neurali.

Paradigmi di Apprendimento. Percettrone ad uno strato. Percettrone Multistrato. Apprendimento e generalizzazione. Approssimazione di funzioni. Approssimazione della funzione discriminante di Bayes. Reti di Funzioni a base radiale. Modelli probabilistici. Reti a Moduli di esperti. Reti Ricorrenti. Macchine di Boltzmann. Apprendimento non supervisionato. Reti autoorganizzanti. Quantizzazione vettoriale. Apprendimento con rinforzo. Memorie associative. Multi-classificatori. Ottimizzazione.

Laboratorio

1. Discesa a gradiente.
2. Studio di generatori di numeri casuali.
3. Simulated annealing
3. SGA e sua applicazione all'ottimizzazione di funzioni.
4. GA e ottimizzazione combinatoria.
5. Classificatori parametrici.
5. Classificatori non parametrici.
6. Percettrone semplice.
7. Percettrone multistrato.
8. Mappe auto-organizzanti.

Testi di riferimento

Libri di testo

D.E. Goldberg. Genetic Algorithms in Search, Optimization and Machine Learning, Addison Wesley, 1989 (MAT 68-1989-48IN, CHI1 M.9, ING1 A.ELE.T.0264).
C. Domeniconi & M. Jordan, Reti Neurali e Apprendimento, in corso di stampa.

Altri testi consigliati

H.D.I Abarbanel, Analysis of Observed Chaotic Data, Springer, 1996 (MAT 68-1996-198,IFI BIBL.DOC.53).
C.M. Bishop, Neural Networks for Pattern Recognition, Oxford U.P., 1995 (MAT 68-1995-190, ING2 AI.0135. ARC C.3673, SAV 006.3 BIS).
C. Chatfield, The Analysis of Time Series-An Introduction, Chapmann and Hall, 1996 (MAT 68-1996-196).
R.O. Duda e P.E. Hart, Pattern Classification and Scene Analysis, J. Wiley & Sons, 1973, (MAT 68-1973-03IN, ING2 EL.0069).
D. Floreano, Manuale sulle Reti Neurali, Il Mulino, 1996 (ARC C.3475, ECO 006.3/001).
D.B. Fogel, Evolutionary Computation, IEEE Press, 1995 (MAT 68-1995-191).
J. Hertz, A. Krogh, & R.G. Palmer, Introduction to the Theory of Neural Computation, Addison Wesley, 1991 (MAT 68-1991-118, FIS 577.27 HER 70, ING2 EL.0666, ING2 EL.0665, ING2 EL.0994 ).
S. Haykin, Neural Networks-A Comprehensive Foundation, IEEE Press, 1994 (MAT 68-1994-037IN).
J.R. Koza, Genetic Programming, MIT Press, 1992 (MAT 68-1992-038IN).
M. Mitchell, An Introduction to Genetic Algoritms, MIT Press, 1996 (MAT 68-1996-197).
A. Papoulis Probalility, random variables and stochastic processes, McGraw-Hill, 1991 (IMI MM:0259, ING2 GE.0925, ING2 MAN.04.0038, ING1 A.MAT.T.0252, ING2 MAN.04.0026).
T.S. Parker & L.O. Chua, Practical Numerical Algorithms for Chaotic Systems, Springer Verlag, 1989 (MAT 68-1989-49IN, IID 32.2.006).
W.H. Press, S. A. Teukolsky, W.T. Vetterling, B.P. Flannery Numerical Recepies in C: the art of scientific computing (2nd ed.), Cambridge University Press, 1992 (MAT 68-1992-094, NG2 EL.O1.0151, DISEG F.0796) Vedi anche sito web NUMERICAL RECEPIES.
H.P. Schwefel, Evolution and Optimum Seeking, J. Wiley & Sons, 1995.

Ulteriore materiale didattico sara' reso disponibile agli studenti durante il corso.