INTRODUZIONE AL MACHINE LEARNING FOR SIGNAL PROCESSING (MLSP). Utilizzo delle metodologie di machine learning per problemi di elaborazione delle informazioni. Introduzione ai segnali e possibili rappresentazioni. Introduzione alle problematiche di regressione e classificazione. Tassonomia metodologica per l’MLSP. Tipici campi applicativi dell’MLSP. [1: Cap. 1 - 2: Cap. 1]
CONCETTI DI BASE PER MLSP. Richiami dei concetti fondamentali di algebra lineare, probabilità e variabili aleatorie, distribuzioni, processi stocastici, teoria dell’informazione. Esempi pratici utilizzando dati e scenari tipici dell’MLSP. [1: Cap. 2], [2: Cap. 2]
L’APPRENDIMENTO NELLA MODELLAZIONE PARAMETRICA. Stima parametrica. Polarizzazione e varianza di uno stimatore. Stima deterministica e stocastica. Funzioni costo. Fondamenti di ottimizzazione di funzioni costo per il machine learning. Equazioni normali. Stima ottima ai minimi quadrati. Regressione lineare e regressione logistica. Algoritmi basati sul gradiente. Regolarizzazione e apprendimento sparso. Esempi applicativi. [1: Cap. 3, 4, 5, 10]
ALGORITMI DI APPRENDIMENTO NON LINEARI. Modellamento e stima non lineari. Algoritmi non lineari di apprendimento online. Metodi basati sui kernel. Regressione e classificazione con metodi a kernel. Apprendimento online con kernel. Esempi applicativi. [1: Ch. 11], [2: Ch. 18], [3: Ch. 1, 2, 11]
RETI NEURALI E DEEP LEARNING PER MLSP. Introduzione alle reti neurali, approssimazione universale, backpropagation, reti neurali feed-forward. Reti neurali ricorrenti per l’elaborazione dei segnali. Metodi long short-term memory. Deep learning. Reti neurali convolutive. Architetture neurali deep avanzate. Esempi applicativi con segnali audio, biomedici, immagini, musica, ecc. [1: Cap. 18 - 4: Cap. 6, 7]

Il programma è articolato secondo la seguente suddivisione. Nella prima parte del corso (10 ore) verranno introdotti dei concetti generali e verranno richiamati alcune nozioni fondamentali con specifica applicazione al contesto del corso. Seguirà una parte di approfondimento metodologico (35 ore) che verterà sui principali argomenti del corso. Nell’arco dell’intero corso saranno previste delle esercitazioni in Python (15 ore) in cui verranno implementati i principali metodi di machine learning in diversi contesti applicativi all’elaborazione di segnali (e.g., segnali audio e vocali, immagini, segnali biomedici, segnali musicali, segnali raccolti da sensori eterogenei, IoT e processi di manutenzione predittiva, ecc.).

Testo principale:
Sergios Theodoridis, “Machine Learning: A Bayesian and Optimization Perspective”. Elsevier, 2015.

Testi alternativi
- Kevin P. Murphy, “Machine Learning: A Probabilistic Perspective”. The MIT Press, 2012.
- Danilo Comminiello and José C. Príncipe, “Adaptive Learning Methods for Nonlinear System Modeling”. Elsevier, 2018.
- Christopher M. Bishop, "Pattern Recognition and Machine Learning". Springer, 2006.


Materiale integrativo a cura del docente (lucidi del corso, articoli) disponibile sul sito web http://danilocomminiello.site.uniroma1.it.