Otimização Avançada

Conhecimentos de Base Recomendados

Otimização Contínua

Métodos de Ensino

As aulas são de carácter expositivo, mas apelando também à participação dos estudantes, onde se espera que seja o aluno a desenvolver aplicações das técnicas apresentadas.

Serão ainda resolvidos exercícios e executados pequenos projectos computacionais de aplicação das matérias dadas.

Semanalmente, é disponibilizado um tempo de orientação tutorial.

Resultados de Aprendizagem

Dotar os alunos de conhecimentos avançados de otimização, com ênfase particular naqueles que mais importância têm na aprendizagem automática. Pretende-se que os estudantes obtenham uma sólida fundamentação matemática dos métodos que utilizam, que lhes permita avaliar do alcance e limitações das matérias estudadas e suas aplicações.

Esta unidade curricular permite desenvolver as seguintes competências instrumentais: análise e síntese, organização e planificação, comunicação oral e escrita, capacidade de resolver problemas. A nível pessoal permite também desenvolver capacidades de aprendizagem autónoma e espírito crítico, bem como aplicar na prática os conhecimentos teórico

Estágio(s)

Não

Programa

1 - Método do elipsóide
2 – Métodos avançados de primeira ordem
- Funções convexas gerais, convexidade estrita e forte e subgradientes.
- Revisão da descida de gradiente
- Descida de gradiente acelerada de Nesterov
- Descida de gradiente condicional de Frank-Wolfe
- Subgradiente projectado
3- Somas de funções suaves e funções não suaves simples
- LASSO
- ISTA e FISTA
4 –Métodos de ponto interior
- Funções auto-concordantes
- Caminho central
5 – Programação semidefinida
- Propriedades
- Relaxações de problemas combinatórios
- Aplicações diversas: Norma nuclear, recuperação de fase, optimização polinomial...
6 – Otimização sem derivadas

Docente(s) responsável(eis)

João Eduardo da Silveira Gouveia

Métodos de Avaliação

Avaliação
Projecto: 15.0%
Frequência: 85.0%

Bibliografia

Convex Optimization: Algorithms and Complexity (2015) de Sébastien Bubeck

Lectures on Convex Optimization, 2^nd ed., (2018) de Yurii Nesterov

Convex Optimization (2004) de Stephen Boyd e Lieven Vandenberghe

Optimization for Machine Learning (2011), editado por Suvrit Sra, Sebastian Nowozin, Stephen J. Wright

Introduction to Derivative-Free Optimization (2009) de Andrew R. Conn , Katya Scheinberg e Luis N. Vicente