Ingegneria Informatica e Intelligenza artificiale L-8

L’insegnamento si propone di far acquisire agli studenti i concetti fondamentali dell’Intelligenza Artificiale con particolare riferimento alle tecniche di ricerca, rappresentazione della conoscenza e ragionamento automatico. Saranno inoltre introdotti i fondamenti teorici, le proprietà computazionali e gli usi delle principali tecniche di apprendimento supervisionato e non supervisionato. In particolare, gli studenti esploreranno argomenti come Machine Learning  saranno in grado di impostare problemi di classificazione, regressione e clustering usando algoritmi e strumenti condivisi dalla comunità scientifica e industriale.

L’insegnamento include un modulo pratico dedicato all’implementazione di modelli con Python utilizzando librerie come scikit-learn e TensorFlow

L’insegnamento contribuisce anche al potenziamento delle capacità trasversali Autonomia di giudizio, Abilità comunicative e Capacità di apprendimento degli studenti.

 Video lezioni + seminari aggiuntivi

Bishop, C.M. (2006). Pattern Recognition and Machine Learning. Springer.

 

================================================================

MODULO 1 — AGENTI INTELLIGENTI

================================================================

Lezione 1 — Introduzione all'Intelligenza Artificiale

  Definizioni di IA (pensare/agire, umanamente/razionalmente); storia e

  fondamenti disciplinari; stato dell'arte e ambiti applicativi.

Lezione 2 — Agenti intelligenti e ambienti

  Concetto di agente razionale; misure di prestazione; proprietà degli

  ambienti (osservabile, deterministico, episodico, statico, discreto,

  singolo/multi-agente); nozione PEAS.

Lezione 3 — Struttura degli agenti

  Programmi-agente; agenti reattivi semplici, basati su modello, basati

  su obiettivi, basati su utilità; agenti che apprendono.

================================================================

MODULO 2 — RISOLUZIONE DI PROBLEMI MEDIANTE RICERCA

================================================================

Lezione 4 — Agenti risolutori di problemi

  Formulazione del problema; spazio degli stati; grafo di ricerca;

  misure di prestazione (completezza, ottimalità, complessità).

Lezione 5 — Algoritmi di ricerca

  Struttura generale della ricerca ad albero e su grafo; frontiera,

  espansione, insieme esplorato.

Lezione 6 — Ricerca non informata

  BFS, ricerca a costo uniforme, DFS, depth-limited, iterative

  deepening; confronto costi e completezza.

Lezione 7 — Ricerca informata

  Euristiche; best-first greedy; algoritmo A*; ammissibilità e

  consistenza; progettazione di euristiche.

================================================================

MODULO 3 — LOGICA E RAPPRESENTAZIONE DELLA CONOSCENZA

================================================================

Lezione 8 — Agenti basati su conoscenza

  Base di conoscenza; ciclo TELL/ASK; il mondo del Wumpus; entailment.

Lezione 9 — Logica proposizionale

  Sintassi e semantica; modelli; equivalenza, validità, soddisfacibilità;

  inferenza per enumerazione e risoluzione.

Lezione 10 — Logica del primo ordine (FOL)

  Oggetti, relazioni, funzioni; quantificatori; sintassi e semantica;

  espressività rispetto alla logica proposizionale.

Lezione 11 — Usare la logica del primo ordine

  Assiomatizzazione di domini; asserzioni e query; ingegneria della

  conoscenza in FOL.

Lezione 12 — Introduzione all'inferenza

  Regole di inferenza; forward e backward chaining; clausole di Horn.

Lezione 13 — Inferenza nella logica del primo ordine

  Unificazione; forward/backward chaining in FOL; risoluzione e forma a

  clausole; teorema di completezza.

Lezione 14 — Rappresentazione della conoscenza

  Ontologie; categorie e oggetti; eventi; ragionamento con default;

  reti semantiche e sistemi a frame.

================================================================

MODULO 4 — FONDAMENTI PROBABILISTICI E INTRODUZIONE AL ML

================================================================

Lezione 15 — Basi di probabilità

  Incertezza; assiomi di probabilità; probabilità congiunta e

  condizionata; indipendenza; teorema di Bayes.

Lezione 16 — Introduzione al Machine Learning

  Forme di apprendimento (supervisionato, non supervisionato, per

  rinforzo); ipotesi e generalizzazione; overfitting/underfitting.

================================================================

MODULO 5 — APPRENDIMENTO SUPERVISIONATO

================================================================

Lezione 17 — Apprendimento supervisionato

  Classificazione e regressione; spazio delle ipotesi; funzione di

  perdita; rischio empirico e atteso.

Lezione 18 — Selezione del modello e ottimizzazione

  Trade-off bias-varianza; validazione incrociata; regolarizzazione;

  ricerca degli iperparametri.

Lezione 19 — Metriche di valutazione

  Accuratezza, precisione, recall, F1; matrice di confusione; curve

  ROC e AUC; metriche per la regressione (MSE, MAE, R²).

Lezione 20 — Alberi di decisione

  Apprendimento induttivo; entropia e guadagno informativo; algoritmo

  ID3/C4.5; potatura (pruning).

Lezione 21 — Apprendimento bayesiano

  Massima verosimiglianza e MAP; Naive Bayes; stima delle densità;

  classificazione probabilistica.

Lezione 22 — Regressione lineare

  Modello lineare; minimi quadrati; discesa del gradiente; regressione

  logistica per la classificazione.

Lezione 23 — Nearest Neighbor

  k-NN; metriche di distanza; effetto di k; costo computazionale e

  strutture dati (k-d tree).

Lezione 24 — Support Vector Machines

  Margine massimo; iperpiano separatore; kernel trick; soft margin;

  SVM non lineari.

================================================================

MODULO 6 — METODI DI ENSEMBLE E ALTA DIMENSIONALITÀ

================================================================

Lezione 25 — Ensemble Learning

  Combinazione di modelli; bagging; random forest; voto di maggioranza.

Lezione 26 — Ensemble Learning avanzato

  Boosting; AdaBoost; gradient boosting; stacking.

Lezione 27 — Machine Learning in dimensioni elevate

  Maledizione della dimensionalità; selezione delle feature;

  regolarizzazione L1/L2; sparsità.

================================================================

MODULO 7 — APPRENDIMENTO NON SUPERVISIONATO

================================================================

Lezione 28 — Clustering

  k-means; clustering gerarchico; modelli a miscela gaussiana (EM);

  valutazione dei cluster.

Lezione 29 — Riduzione della dimensionalità

  PCA; SVD; proiezioni; t-SNE; apprendimento di rappresentazioni.

================================================================

MODULO 8 — TEORIA E PARADIGMI AVANZATI DI APPRENDIMENTO

================================================================

Lezione 30 — Teoria dell'apprendimento

  Apprendimento PAC; dimensione di Vapnik-Chervonenkis; limiti di

  generalizzazione; complessità del campione.

Lezione 31 — Apprendimento incrementale e online

  Apprendimento online; discesa del gradiente stocastica; concept

  drift; algoritmi a passaggio singolo.

Lezione 32 — Apprendimento per rinforzo

  Processi decisionali di Markov (MDP); funzione valore e policy;

  Q-learning; esplorazione vs sfruttamento.

================================================================

MODULO 9 — IL PROCESSO DI MACHINE LEARNING NELLA PRATICA

================================================================

Lezione 33 — Pipeline e processo di Machine Learning

  Raccolta e preparazione dati; feature engineering; addestramento,

  validazione, test; ciclo di vita del modello.

Lezione 34 — Bias nei dati e fairness

  Fonti di bias; equità algoritmica; metriche di fairness; mitigazione

  e implicazioni etiche.

Lezione 35 — Conduzione, monitoraggio e manutenzione dei modelli

  Deployment; monitoraggio delle prestazioni; degrado e drift;

  ri-addestramento; MLOps di base.

================================================================

MODULO 10 — FONDAMENTI DI DEEP LEARNING

================================================================

Lezione 36 — Introduzione al Deep Learning

  Dal percettrone alle reti multistrato; funzioni di attivazione;

  motivazioni e differenze rispetto al ML classico.

Lezione 37 — Backpropagation

  Grafo computazionale; regola della catena; propagazione in avanti e

  all'indietro; calcolo dei gradienti.

Lezione 38 — Architetture di Deep Learning

  Reti feedforward profonde; scelte progettuali; profondità e capacità

  rappresentativa.

Lezione 39 — Convolutional Neural Networks

  Operazione di convoluzione; filtri; campi recettivi; condivisione dei

  pesi; architetture per immagini.

Lezione 40 — Pooling, tensori e connessioni residue

  Strati di pooling; rappresentazione tensoriale; blocchi residui

  (ResNet); reti profonde.

Lezione 41 — Ottimizzazione e backpropagation

  SGD e varianti (Momentum, Adam); learning rate; batch; problemi di

  gradiente evanescente/esplosivo.

Lezione 42 — Generalizzazione nelle reti neurali

  Regolarizzazione; dropout; early stopping; data augmentation;

  capacità e overfitting nelle reti profonde.

================================================================

MODULO 11 — SEQUENZE, APPRENDIMENTO NON SUPERVISIONATO

              PROFONDO E MODELLI GENERATIVI

================================================================

Lezione 43 — Reti neurali ricorrenti

  RNN; elaborazione di sequenze; backpropagation nel tempo; cenni a

  LSTM/GRU.

Lezione 44 — Apprendimento non supervisionato nel Deep Learning

  Autoencoder; rappresentazioni latenti; pre-addestramento;

  apprendimento di feature.

Lezione 45 — Modelli generativi

  Modelli generativi ================================================================

MODULO 1 — AGENTI INTELLIGENTI

================================================================

Lezione 1 — Introduzione all'Intelligenza Artificiale

  Definizioni di IA (pensare/agire, umanamente/razionalmente); storia e

  fondamenti disciplinari; stato dell'arte e ambiti applicativi.

Lezione 2 — Agenti intelligenti e ambienti

  Concetto di agente razionale; misure di prestazione; proprietà degli

  ambienti (osservabile, deterministico, episodico, statico, discreto,

  singolo/multi-agente); nozione PEAS.

Lezione 3 — Struttura degli agenti

  Programmi-agente; agenti reattivi semplici, basati su modello, basati

  su obiettivi, basati su utilità; agenti che apprendono.

================================================================

MODULO 2 — RISOLUZIONE DI PROBLEMI MEDIANTE RICERCA

================================================================

Lezione 4 — Agenti risolutori di problemi

  Formulazione del problema; spazio degli stati; grafo di ricerca;

  misure di prestazione (completezza, ottimalità, complessità).

Lezione 5 — Algoritmi di ricerca

  Struttura generale della ricerca ad albero e su grafo; frontiera,

  espansione, insieme esplorato.

Lezione 6 — Ricerca non informata

  BFS, ricerca a costo uniforme, DFS, depth-limited, iterative

  deepening; confronto costi e completezza.

Lezione 7 — Ricerca informata

  Euristiche; best-first greedy; algoritmo A*; ammissibilità e

  consistenza; progettazione di euristiche.

================================================================

MODULO 3 — LOGICA E RAPPRESENTAZIONE DELLA CONOSCENZA

================================================================

Lezione 8 — Agenti basati su conoscenza

  Base di conoscenza; ciclo TELL/ASK; il mondo del Wumpus; entailment.

Lezione 9 — Logica proposizionale

  Sintassi e semantica; modelli; equivalenza, validità, soddisfacibilità;

  inferenza per enumerazione e risoluzione.

Lezione 10 — Logica del primo ordine (FOL)

  Oggetti, relazioni, funzioni; quantificatori; sintassi e semantica;

  espressività rispetto alla logica proposizionale.

Lezione 11 — Usare la logica del primo ordine

  Assiomatizzazione di domini; asserzioni e query; ingegneria della

  conoscenza in FOL.

Lezione 12 — Introduzione all'inferenza

  Regole di inferenza; forward e backward chaining; clausole di Horn.

Lezione 13 — Inferenza nella logica del primo ordine

  Unificazione; forward/backward chaining in FOL; risoluzione e forma a

  clausole; teorema di completezza.

Lezione 14 — Rappresentazione della conoscenza

  Ontologie; categorie e oggetti; eventi; ragionamento con default;

  reti semantiche e sistemi a frame.

================================================================

MODULO 4 — FONDAMENTI PROBABILISTICI E INTRODUZIONE AL ML

================================================================

Lezione 15 — Basi di probabilità

  Incertezza; assiomi di probabilità; probabilità congiunta e

  condizionata; indipendenza; teorema di Bayes.

Lezione 16 — Introduzione al Machine Learning

  Forme di apprendimento (supervisionato, non supervisionato, per

  rinforzo); ipotesi e generalizzazione; overfitting/underfitting.

================================================================

MODULO 5 — APPRENDIMENTO SUPERVISIONATO

================================================================

Lezione 17 — Apprendimento supervisionato

  Classificazione e regressione; spazio delle ipotesi; funzione di

  perdita; rischio empirico e atteso.

Lezione 18 — Selezione del modello e ottimizzazione

  Trade-off bias-varianza; validazione incrociata; regolarizzazione;

  ricerca degli iperparametri.

Lezione 19 — Metriche di valutazione

  Accuratezza, precisione, recall, F1; matrice di confusione; curve

  ROC e AUC; metriche per la regressione (MSE, MAE, R²).

Lezione 20 — Alberi di decisione

  Apprendimento induttivo; entropia e guadagno informativo; algoritmo

  ID3/C4.5; potatura (pruning).

Lezione 21 — Apprendimento bayesiano

  Massima verosimiglianza e MAP; Naive Bayes; stima delle densità;

  classificazione probabilistica.

Lezione 22 — Regressione lineare

  Modello lineare; minimi quadrati; discesa del gradiente; regressione

  logistica per la classificazione.

Lezione 23 — Nearest Neighbor

  k-NN; metriche di distanza; effetto di k; costo computazionale e

  strutture dati (k-d tree).

Lezione 24 — Support Vector Machines

  Margine massimo; iperpiano separatore; kernel trick; soft margin;

  SVM non lineari.

================================================================

MODULO 6 — METODI DI ENSEMBLE E ALTA DIMENSIONALITÀ

================================================================

Lezione 25 — Ensemble Learning

  Combinazione di modelli; bagging; random forest; voto di maggioranza.

Lezione 26 — Ensemble Learning avanzato

  Boosting; AdaBoost; gradient boosting; stacking.

Lezione 27 — Machine Learning in dimensioni elevate

  Maledizione della dimensionalità; selezione delle feature;

  regolarizzazione L1/L2; sparsità.

================================================================

MODULO 7 — APPRENDIMENTO NON SUPERVISIONATO

================================================================

Lezione 28 — Clustering

  k-means; clustering gerarchico; modelli a miscela gaussiana (EM);

  valutazione dei cluster.

Lezione 29 — Riduzione della dimensionalità

  PCA; SVD; proiezioni; t-SNE; apprendimento di rappresentazioni.

================================================================

MODULO 8 — TEORIA E PARADIGMI AVANZATI DI APPRENDIMENTO

================================================================

Lezione 30 — Teoria dell'apprendimento

  Apprendimento PAC; dimensione di Vapnik-Chervonenkis; limiti di

  generalizzazione; complessità del campione.

Lezione 31 — Apprendimento incrementale e online

  Apprendimento online; discesa del gradiente stocastica; concept

  drift; algoritmi a passaggio singolo.

Lezione 32 — Apprendimento per rinforzo

  Processi decisionali di Markov (MDP); funzione valore e policy;

  Q-learning; esplorazione vs sfruttamento.

================================================================

MODULO 9 — IL PROCESSO DI MACHINE LEARNING NELLA PRATICA

================================================================

Lezione 33 — Pipeline e processo di Machine Learning

  Raccolta e preparazione dati; feature engineering; addestramento,

  validazione, test; ciclo di vita del modello.

Lezione 34 — Bias nei dati e fairness

  Fonti di bias; equità algoritmica; metriche di fairness; mitigazione

  e implicazioni etiche.

Lezione 35 — Conduzione, monitoraggio e manutenzione dei modelli

  Deployment; monitoraggio delle prestazioni; degrado e drift;

  ri-addestramento; MLOps di base.

================================================================

MODULO 10 — FONDAMENTI DI DEEP LEARNING

================================================================

Lezione 36 — Introduzione al Deep Learning

  Dal percettrone alle reti multistrato; funzioni di attivazione;

  motivazioni e differenze rispetto al ML classico.

Lezione 37 — Backpropagation

  Grafo computazionale; regola della catena; propagazione in avanti e

  all'indietro; calcolo dei gradienti.

Lezione 38 — Architetture di Deep Learning

  Reti feedforward profonde; scelte progettuali; profondità e capacità

  rappresentativa.

Lezione 39 — Convolutional Neural Networks

  Operazione di convoluzione; filtri; campi recettivi; condivisione dei

  pesi; architetture per immagini.

Lezione 40 — Pooling, tensori e connessioni residue

  Strati di pooling; rappresentazione tensoriale; blocchi residui

  (ResNet); reti profonde.

Lezione 41 — Ottimizzazione e backpropagation

  SGD e varianti (Momentum, Adam); learning rate; batch; problemi di

  gradiente evanescente/esplosivo.

Lezione 42 — Generalizzazione nelle reti neurali

  Regolarizzazione; dropout; early stopping; data augmentation;

  capacità e overfitting nelle reti profonde.

================================================================

MODULO 11 — SEQUENZE, APPRENDIMENTO NON SUPERVISIONATO

              PROFONDO E MODELLI GENERATIVI

================================================================

Lezione 43 — Reti neurali ricorrenti

  RNN; elaborazione di sequenze; backpropagation nel tempo; cenni a

  LSTM/GRU.

Lezione 44 — Apprendimento non supervisionato nel Deep Learning

  Autoencoder; rappresentazioni latenti; pre-addestramento;

  apprendimento di feature.

Lezione 45 — Modelli generativi

  Modelli generativi profondi; VAE; GAN; cenni ai modelli di

  diffusione; generazione di dati.

; VAE; GAN; cenni ai modelli di

  diffusione; generazione di dati.

Non sono previste propedeuticità formali.

Per il proficuo raggiungimento degli obiettivi formativi del corso, è auspicabile che lo studente possegga conoscenze pregresse relative ai fondamenti di programmazione, ai concetti elementari di probabilità e statistica, nonché alle nozioni fondamentali di algebra lineare e analisi matematica, indispensabili per la comprensione degli algoritmi di apprendimento automatico e delle reti neurali.

previa prenotazione tramite mail al docente. 

45 video lezioni 18 ore di didattica sincrona 

L'acquisizione dei risultati di apprendimento previsti viene accertata attraverso la verifica del completamento delle attività di autovalutazione presenti alla fine di ogni videolezione e attraverso la prova d'esame finale.

I test di autovalutazione consentono allo studente di monitorare la propria comprensione degli argomenti trattati e, in caso di difficoltà, di attivarsi per colmare le lacune attraverso le attività di didattica interattiva o contattando il docente.

Conoscenza e capacità di comprensione - dei fondamenti dell'Intelligenza Artificiale, degli agenti intelligenti e delle tipologie di ambiente; - degli algoritmi di ricerca non informata e informata per la risoluzione di problemi; - della logica proposizionale e del primo ordine, dei metodi di inferenza e della rappresentazione della conoscenza; - dei principali paradigmi di apprendimento automatico (supervisionato, non supervisionato, per rinforzo) e dei relativi algoritmi; - dei fondamenti del Deep Learning: reti neurali, backpropagation, reti convoluzionali, reti ricorrenti e modelli generativi. Capacità di applicare conoscenza e comprensione - alla formulazione di problemi in termini di agenti, stati e spazi di ricerca e alla scelta dell'algoritmo di ricerca appropriato; - alla formalizzazione della conoscenza mediante logica e all'applicazione dei metodi di inferenza; - all'addestramento e alla valutazione di modelli di classificazione e regressione (alberi di decisione, metodi bayesiani, SVM, nearest neighbor, ensemble); - all'applicazione di tecniche di clustering e di riduzione della dimensionalità; - alla progettazione di una pipeline completa di Machine Learning, dal preprocessing dei dati al monitoraggio del modello in produzione. Abilità di giudizio - nella scelta del modello di apprendimento più adeguato al problema e ai dati disponibili; - nella valutazione delle prestazioni dei modelli mediante metriche appropriate, riconoscendo fenomeni di overfitting e underfitting; - nell'analisi delle implicazioni etiche legate a bias nei dati, fairness e affidabilità dei sistemi di apprendimento automatico. Abilità di comunicare - esporre concetti, algoritmi e modelli con linguaggio tecnico appropriato e rigoroso; - motivare le scelte metodologiche compiute nella costruzione di un sistema di apprendimento automatico; - presentare e discutere risultati sperimentali con chiarezza espositiva. Capacità di apprendimento - proseguire negli studi avanzati in intelligenza artificiale, deep learning e data science; - aggiornare e approfondire le proprie conoscenze attraverso lo studio di articoli scientifici e testi specialistici; - sviluppare un metodo di apprendimento fondato sulla comprensione concettuale e sull'analisi critica degli algoritmi di apprendimento. Conoscenza e capacità di comprensione - dei fondamenti dell'Intelligenza Artificiale, degli agenti intelligenti e delle tipologie di ambiente; - degli algoritmi di ricerca non informata e informata per la risoluzione di problemi; - della logica proposizionale e del primo ordine, dei metodi di inferenza e della rappresentazione della conoscenza; - dei principali paradigmi di apprendimento automatico (supervisionato, non supervisionato, per rinforzo) e dei relativi algoritmi; - dei fondamenti del Deep Learning: reti neurali, backpropagation, reti convoluzionali, reti ricorrenti e modelli generativi. Capacità di applicare conoscenza e comprensione - alla formulazione di problemi in termini di agenti, stati e spazi di ricerca e alla scelta dell'algoritmo di ricerca appropriato; - alla formalizzazione della conoscenza mediante logica e all'applicazione dei metodi di inferenza; - all'addestramento e alla valutazione di modelli di classificazione e regressione (alberi di decisione, metodi bayesiani, SVM, nearest neighbor, ensemble); - all'applicazione di tecniche di clustering e di riduzione della dimensionalità; - alla progettazione di una pipeline completa di Machine Learning, dal preprocessing dei dati al monitoraggio del modello in produzione. Abilità di giudizio - nella scelta del modello di apprendimento più adeguato al problema e ai dati disponibili; - nella valutazione delle prestazioni dei modelli mediante metriche appropriate, riconoscendo fenomeni di overfitting e underfitting; - nell'analisi delle implicazioni etiche legate a bias nei dati, fairness e affidabilità dei sistemi di apprendimento automatico. Abilità di comunicare - esporre concetti, algoritmi e modelli con linguaggio tecnico appropriato e rigoroso; - motivare le scelte metodologiche compiute nella costruzione di un sistema di apprendimento automatico; - presentare e discutere risultati sperimentali con chiarezza espositiva. Capacità di apprendimento - proseguire negli studi avanzati in intelligenza artificiale, deep learning e data science; - aggiornare e approfondire le proprie conoscenze attraverso lo studio di articoli scientifici e testi specialistici; - sviluppare un metodo di apprendimento fondato sulla comprensione concettuale e sull'analisi critica degli algoritmi di apprendimento.