Inteligência Artificial Centrada no Humano

Conhecimentos de Base Recomendados

Competências de Programação, Matemática, Inteligência Artificial e Aprendizagem Computacional.

Métodos de Ensino

As aulas teóricas consistem na apresentação detalhada de conceitos, princípios e teorias fundamentais de Inteligência Artificial Centrada no Humano.
Nas aulas laboratoriais, adota-se uma Aprendizagem Baseada em Projeto, direcionada para a aquisição de competências através da realização de um trabalho laboratorial, envolvendo três componentes: (i) análise de trabalhos de Inteligência Artificial Centrada no Humano descritos na literatura, (ii) implementação, e (iii) escrita de um artigo científico, que descreva o trabalho de implementação realizado e que poderá ser apresentado e defendido.

Resultados de Aprendizagem

O curso tem como objetivo proporcionar aos estudantes conhecimentos sobre uma IA em que predomine a cooperação humano-IA, assente na consideração de níveis adequados de automação e de autonomia das máquinas, sem perda de controle humano, e timonada pelos objetivos e valores humanos, no sentido da promoção da condição humana, nas suas mais diversas dimensões, incluindo as plasmadas em declarações e guias de referência tais como os Objetivos de Desenvolvimento Sustentabilidade, das Nações Unidas, o EU AI Act, ou a Recomendações sobre a Ética da IA, da UNESCO.
Espera-se que os estudantes adquiram conhecimentos e competências para estudar, projetar e desenvolver esta categoria de sistemas de IA centrados no ser humano, no contexto de um sistema multiagente formado por humanos e sistemas de IA e na senda de uma inteligência híbrida e coletiva, humano-IA, que amplifique a inteligência humana, sem a substituir.

Estágio(s)

Não

Programa

1 IA Centrada no Humano
- Agentes e Sistemas Multiagente
- Requisitos para IA Centrada no Humano
2 Cooperação Humano-IA
- Coordenação, Cooperação, Colaboração
- Inteligência Híbrida Humano-IA
- Autonomia, controle, automação
- Human-in-the-Loop, AI-in-the-Loop, Human-out-of-the-Loop
- Confiança Humano-IA
3 Aprendiz. Comput. com Human-in-the-Loop
- Amostragem de dados de treino e anotação humana
- Anotação de dados:
- Anotadores humanos, automatizados e semi-automatizados
- Controle de qualidade da anotação
- Interfaces para anotação
- Aprender comportamentos a partir de demonstrações humanas, feedback humano e linguagem natural:
- Aprendiz. por imitação e por reforço inverso
- Aprendiz. por reforço a partir de feedback humano
- Inferência de crenças, desejos, intenções humanas para personalização
4 Comunicação Humano-IA
- Computação Afetiva
- Proc de Linguagem Natural
- IA Interativa
5 Agentes de Assistente Pessoal

Métodos de Avaliação

Avaliação
Exame: 40.0%
Projecto: 60.0%

Bibliografia

Russell, S. J., & Norvig, P. (2020). Artificial intelligence: A modern approach (4th ed.). Pearson.

Monarch, R. (2021). Human-in-the-Loop Machine Learning: Active Learning and Annotation for Human-centered AI. Manning Publications.

Settles, B. (2009). Active Learning Literature Survey (Computer Sciences Technical Report1648). University of Wisconsin--Madison.

Russell, S. (2019). Human compatible: Artificial intelligence and the problem of control. Viking.

Shneiderman, B. (2022). Human-centered AI. Oxford University Press.

Molnar, C. Interpretable machine learning. A Guide for Making Black Box Models Explainable, 2019. https://christophm.github.io/interpretable-ml-book/.

EU AI Act. https://artificialintelligenceact.eu/ (acc. 30/04/2024).

UNESCO, Recommendation on the ethics of artificial intelligence, Digital Library UNESDOC (2020). https://en.unesco.org.

United Nations Sustainable Development Goals. https://www.un.org/sustainabledevelopment/ (accessed 30/04/2024).