Transfer Learning
Transfer Learning
Il transfer learning è una tecnica di machine learning che sfrutta la conoscenza appresa da un modello in un determinato dominio per migliorare le prestazioni di un altro modello in un diverso dominio. Questo approccio è utile quando si dispone di un ampio dataset iniziale in un dominio correlato e si desidera applicare tale conoscenza per risolvere un problema diverso ma correlato. Spesso i confini di questa tecnica sono riferiti al semplice finetuning di un modello neurale artificiale. In questo corso vogliamo espandere il concetto di transfer learning facendo una panoramica di una parte importante di metodi che utilizzano informazione pre-acquisita per migliorare le performance su diversi task. In questa ottica parleremo ampiamente di temi come la Domain Adaptation non supervisionata, introducendo modelli e tecniche per affrontare il problema. Allargheremo quindi il discorso imponendo vincoli piu’ stringenti, analizzeremo problemi come l’open-set domain adaptation, la source-free domain adaptation e il federated learning. Vedremo quindi tecniche per evitare la perdita di conoscenza della rete dando uno sguardo al Continual Learning. Nella seconda parte vedremo come questa conoscenza puo’ essere appresa direttamente dai dati senza la necessita’ di una supervisione. Vedremo poi come la stessa tecnica puo’ essere applicata a modelli multimodali (es. testo e immagini) su set di dati internet scale per generare modelli estremamente efficienti che rendono possibile l’inferenza cross modale.
Il transfer learning è una tecnica di machine learning che sfrutta la conoscenza appresa da un modello in un determinato dominio per migliorare le prestazioni di un altro modello in un diverso dominio. Questo approccio è utile quando si dispone di un ampio dataset iniziale in un dominio correlato e si desidera applicare tale conoscenza per risolvere un problema diverso ma correlato. Spesso i confini di questa tecnica sono riferiti al semplice finetuning di un modello neurale artificiale. In questo corso vogliamo espandere il concetto di transfer learning facendo una panoramica di una parte importante di metodi che utilizzano informazione pre-acquisita per migliorare le performance su diversi task. In questa ottica parleremo ampiamente di temi come la Domain Adaptation non supervisionata, introducendo modelli e tecniche per affrontare il problema. Allargheremo quindi il discorso imponendo vincoli piu’ stringenti, analizzeremo problemi come l’open-set domain adaptation, la source-free domain adaptation e il federated learning. Vedremo quindi tecniche per evitare la perdita di conoscenza della rete dando uno sguardo al Continual Learning. Nella seconda parte vedremo come questa conoscenza puo’ essere appresa direttamente dai dati senza la necessita’ di una supervisione. Vedremo poi come la stessa tecnica puo’ essere applicata a modelli multimodali (es. testo e immagini) su set di dati internet scale per generare modelli estremamente efficienti che rendono possibile l’inferenza cross modale.
Cosa Imparerai nel corso?
Il corso sul transfer learning offre una panoramica sulle tecniche di machine learning chepermettono di utilizzare conoscenze pre-acquisite da un modello in un determinato dominio per migliorare le prestazioni di un altro modello in un diverso dominio. Si discuteranno metodi come la Domain Adaptation non supervisionata, l’open-set domain adaptation, la source-free domain adaptation, federated learning e Continual Learning. Nella seconda parte del corso si tratterà come questa conoscenza può essere appresa direttamente dai dati senza supervisione e come può essere applicata a modelli multimodali su grandi set di dati per generare modelli efficienti e permettere l’inferenza cross-modale.
Il corso sul transfer learning offre una panoramica sulle tecniche di machine learning chepermettono di utilizzare conoscenze pre-acquisite da un modello in un determinato dominio per migliorare le prestazioni di un altro modello in un diverso dominio. Si discuteranno metodi come la Domain Adaptation non supervisionata, l’open-set domain adaptation, la source-free domain adaptation, federated learning e Continual Learning. Nella seconda parte del corso si tratterà come questa conoscenza può essere appresa direttamente dai dati senza supervisione e come può essere applicata a modelli multimodali su grandi set di dati per generare modelli efficienti e permettere l’inferenza cross-modale.
Struttura delle lezioni
Deep Learning Italia struttura le sue lezioni in maniera molto semplice: all’interno di ogni sezione ci sono video esplicativi, in cui il docente spiega la lezione, corredati da slides.
Il percorso di apprendimento solitamente è intervallato da test a risposta multipla che permettono di monitorare la comprensione degli argomenti di studio e si conclude con un test pratico finalenel quale verranno valutate le competenze acquisite durante il corso python machine learning.
Deep Learning Italia struttura le sue lezioni in maniera molto semplice: all’interno di ogni sezione ci sono video esplicativi, in cui il docente spiega la lezione, corredati da slides.
Il percorso di apprendimento solitamente è intervallato da test a risposta multipla che permettono di monitorare la comprensione degli argomenti di studio e si conclude con un test pratico finalenel quale verranno valutate le competenze acquisite durante il corso python machine learning.
Chi può seguire il corso?
Chi ha una mente aperta e predisposta all’analisi: le lezioni sono adatte a chiunque ma è necessario avere passione per i numeri e i calcoli, oltre che tanta pazienza.
Chi lavora anche full time: se sei un lavoratore full time non ti preoccupare! Potrai seguire le lezioni in completa autonomia nel tuo tempo libero.
Chi vuole crescere professionalmente: Se vuoi elevare la tua carriera Deep Learning Italia ti da l’opportunità di poterlo fare a costi contenuti.
Chi ha una mente aperta e predisposta all’analisi: le lezioni sono adatte a chiunque ma è necessario avere passione per i numeri e i calcoli, oltre che tanta pazienza.
Chi lavora anche full time: se sei un lavoratore full time non ti preoccupare! Potrai seguire le lezioni in completa autonomia nel tuo tempo libero.
Chi vuole crescere professionalmente: Se vuoi elevare la tua carriera Deep Learning Italia ti da l’opportunità di poterlo fare a costi contenuti.
Introduzione al corso
- Presentazione del corso
- Pretraining e funetuning
Domain shift, adattamento di dominio e apprendimento continuo
- Domain Shift
- Domain Adaptation, cenni storici
- Deep Domain Adaptation
- Oltre alla Domain Adaptation
- Continual Learning
- Quiz
Supervisione multimodale
- Self Supervision
- Natural Language Supervision
- Quiz
Supervisione multimodale
- Certificato
Introduzione al corso
- Presentazione del corso
- Pretraining e funetuning
Domain shift, adattamento di dominio e apprendimento continuo
- Domain Shift
- Domain Adaptation, cenni storici
- Deep Domain Adaptation
- Oltre alla Domain Adaptation
- Continual Learning
- Quiz
Supervisione multimodale
- Self Supervision
- Natural Language Supervision
- Quiz
Supervisione multimodale
- Certificato
Paolo Rota e’ un ricercatore all’Universita’ degli studi di Trento, lavora presso il Centro Interdipartimentale Mente e Cervello e si occupa di temi come l’apprendimento automatico multimodale (Visione e Linguaggio) e Transfer Learning. Paolo ha ricevuto il Ph.D. nel 2015 presso il dipartimento di Ingegneria e Scienza dell’Informazione dell’Universita’ di Trento. Ha lavorato come postdoc prima a Vienna alla TU Wien, poi all’Istituto Italiano di Tecnologia di Genova. Ha poi collaborato con la ProM Facility di Rovereto (TN) su tematiche relative al Machine Learning Industriale. Dal 2022 e’ un Tenure- track researcher presso il Centro Interdipartimentale Mente e Cervello (CIMeC) e il Dipartimento di Ingegneria e Scienza dell’Informazione dell’Universita’ di Trento. I suoi interessi di ricerca sono nel campo della Visione Artificiale e del Machine Learning, in particolare su temi come l’apprendimento automatico multimodale (Visione e Linguaggio) e Transfer Learning. Paolo e’ membro della ELLIS society e CVPL.
-
Puoi seguire il corso dove e quando vuoi: Deep Learning, infatti, ti offre l’opportunità di accedere alla piattaforma in qualsiasi momento tu abbia voglia e possibilità di studiare. Basta semplicemente un dispositivo elettronico e una connessione internet!
Troverai sempre materiale nuovo e lezioni aggiornate: i nostri professori ti forniranno moltissimo materiale per supportare i tuoi studi e aggiorneranno periodicamente la piattaforma con nuove slides o con nuovi moduli;
Nei nostri corsi troverai sempre una componente interattiva per stimolare l‘apprendimento: giochi, quiz, podcast e tanto altro ti aiuteranno a migliorare e a rendere la tua formazione unica;
-
Non sarai mai solo! Avrai a disposizione la nostra community per metterti in contatto con altri studenti.
A fine percorso riceverai una certificazione che potrai aggiungere al tuo CV e che ti darà la possibilità di farti notare da grandi aziende del settore;
Se lo vorrai, Deep Learning Italia, ti potrà aiutare a trovare lavoro mettendoti in contatto con le nostre aziende partner.
-
Puoi seguire il corso dove e quando vuoi: Deep Learning, infatti, ti offre l’opportunità di accedere alla piattaforma in qualsiasi momento tu abbia voglia e possibilità di studiare. Basta semplicemente un dispositivo elettronico e una connessione internet!
Troverai sempre materiale nuovo e lezioni aggiornate: i nostri professori ti forniranno moltissimo materiale per supportare i tuoi studi e aggiorneranno periodicamente la piattaforma con nuove slides o con nuovi moduli;
Nei nostri corsi troverai sempre una componente interattiva per stimolare l‘apprendimento: giochi, quiz, podcast e tanto altro ti aiuteranno a migliorare e a rendere la tua formazione unica;
-
Non sarai mai solo! Avrai a disposizione la nostra community per metterti in contatto con altri studenti.
A fine percorso riceverai una certificazione che potrai aggiungere al tuo CV e che ti darà la possibilità di farti notare da grandi aziende del settore;
Se lo vorrai, Deep Learning Italia, ti potrà aiutare a trovare lavoro mettendoti in contatto con le nostre aziende partner.
-
Accesso Lifelong
-
Accesso Lifelong
