Inteligência Artificial Confiável e Responsável

Conhecimentos de Base Recomendados

Competências de Programação, Matemática, Inteligência Artificial e Aprendizagem Computacional.

Métodos de Ensino

As aulas teóricas consistem na apresentação detalhada de conceitos, princípios e teorias fundamentais de Inteligência Artificial confiável e responsável.

Nas aulas laboratoriais, adota-se uma Aprendizagem Baseada em Projeto, direcionada para a aquisição de competências através da realização de trabalho laboratorial, envolvendo três componentes: (i) análise de trabalhos de Inteligência Artificial confiável e responsável descritos na literatura, (ii) implementação, e (iii) escrita de um artigo científico, que descreva o trabalho de implementação realizado e que poderá ser apresentado e defendido.

Resultados de Aprendizagem

O curso tem como objetivo fornecer aos alunos uma compreensão abrangente da IA confiável e responsável, dotando-os com capacidades de pensamento crítico e habilitando-os a projetar e implementar sistemas de IA que estejam alinhados com princípios éticos, imparcialidade, transparência, responsabilidade, privacidade, segurança e sustentabilidade.

Estágio(s)

Não

Programa

1. Introdução à IA Responsável e Confiável

 

2. Agência e Supervisão Humana

2.1 IA Colaborativa

2.2 Human in the Loop, Human in Command and Human out of the loop.

2.3 Aprenticeship Learning

2.4 Modelo do Utilizador e Personalização

 

3. Transparência e Interpretabilidade/Explicabilidade em Sistemas de IA

3.1 Motivação

3.2 Desafios

3.3 Abordagens

 

4. Diversidade, Não-discriminação e Justiça em Sistemas de IA

4.1 Motivação

4.2 Desafios

4.3 Abordagens

 

5. Responsabilidade em Sistemas de IA

5.1 Motivação

5.2 Desafios

5.3 Abordagens

 

6. Robustez e Segurança em Sistemas de IA

6.1 Motivação

6.2 Desafios

6.3 Abordagens

 

7. Privacidade e Governança de Dados em Sistemas de IA

7.1 Motivação

7.2 Desafios

7.3 Abordagens

 

8. Bem-estar Societal e Ambiental em Sistemas de IA

8.1 Motivação

8.2 Desafios

8.3 Abordagens

 

9. Ética e Moralidade em Sistemas de IA

9.1 Motivação

9.2 Desafios

9.3 Abordagens

 

10. Estruturas e Diretrizes

10.1 Implementação em Organizações

10.2 Conformidade legal

 

11.Aplicações

Métodos de Avaliação

Avaliação
Exame: 40.0%
Projecto: 60.0%

Bibliografia

European Commission High-Level Expert Group on AI, Ethics guidelines for trustworthy AI (2019).

 

European Union, Proposal for a Regulation of the European Parliament and of the Council Laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts. COM/2021/206 final (2021).

 

UNESCO, Recommendation on the ethics of artificial intelligence, Digital Library UNESDOC (2020). URL en.unesco.org

 

Molnar, C. Interpretable machine learning. A Guide for Making Black Box Models Explainable, 2019. https://christophm.github.io/interpretable-ml-book/.

 

Russell, S. (2019). Human compatible: Artificial intelligence and the problem of control. Viking.

 

Dignum, V. (2021). Responsible artificial intelligence: How to develop and use AI in a responsible way. Springer.

Dubber, M.D., Pasquale, F. and Das, S. (Eds.) (2020). The Oxford handbook of ethics of AI. Oxford University Press.