Inteligência Artificial Centrada no Humano

Conhecimentos de Base Recomendados

Competências de Programação, Matemática, Inteligência Artificial e Aprendizagem Computacional.

Métodos de Ensino

As aulas teóricas consistem na apresentação detalhada de conceitos, princípios e teorias fundamentais de Inteligência Artificial Centrada no Humano.
Nas aulas laboratoriais, adota-se uma Aprendizagem Baseada em Projeto, direcionada para a aquisição de competências através da realização de um trabalho laboratorial, envolvendo três componentes:
(i) análise de trabalhos de Inteligência Artificial Centrada no Humano descritos na literatura,
(ii) implementação,
(iii) escrita de um artigo científico, que descreva o trabalho de implementação realizado e que poderá ser apresentado e defendido.

Resultados de Aprendizagem

O curso tem como objetivo proporcionar aos estudantes conhecimentos sobre uma IA em que predomine a cooperação humano-IA, assente na consideração de níveis adequados de automação e de autonomia das máquinas, sem perda de controle humano, e timonada pelos objetivos e valores humanos, no sentido da promoção da condição humana, nas suas mais diversas dimensões, incluindo as plasmadas em declarações e guias de referência tais como os Objetivos de Desenvolvimento Sustentabilidade, das Nações Unidas, o EU AI Act, ou a Recomendações sobre a Ética da IA, da UNESCO.
Espera-se que os estudantes adquiram conhecimentos e competências para estudar, projetar e desenvolver esta categoria de sistemas de IA centrados no ser humano, no contexto de um sistema multiagente formado por humanos e sistemas de IA e na senda de uma inteligência híbrida e coletiva, humano-IA, que amplifique a inteligência humana, sem a substituir.

Estágio(s)

Não

Programa

1. Inteligência Artificial Centrada no Humano (IA)
- Agentes e Sistemas Multiagente
- Requisitos

2. Cooperação Humano-IA
- Coordenação, Cooperação, Colaboração
- Inteligência Coletiva Híbrida
- Autonomia, controlo, automação
- Human/AI-in-the-Loop, Human-out-of-the-Loop
- Confiança Humano-IA

3. Aprendizagem Computacional com Human-in-the-Loop
- Amostragem de dados de treino e anotação humana:
- Agentes curiosos e aprendizagem ativa
- Anotação:
- Anotadores humanos, automatizados e semi-automatizados
- Controle de qualidade
- Interfaces para anotação
- Aprender a delegar
- Aprender comportamentos humanos a partir de demonstrações, feedback e linguagem:
- Aprendizagem por imitação e por reforço inverso
- Aprendizagem por reforço com feedback humano
- Inferência de crenças, desejos, intenções humanas para personalização

4. Comunicação Humano-IA
- Computação Afetiva
- Processamento de Linguagem Natural
- IA Interativa

5. Agentes Assistentes Pessoaisl

Docente(s) responsável(eis)

Luís Miguel Machado Lopes Macedo

Métodos de Avaliação

Avaliação
Exame: 40.0%
Projecto: 60.0%

Bibliografia

Russell, S. J., & Norvig, P. (2020). Artificial intelligence: A modern approach (4th ed.). Pearson.
Monarch, R. (2021). Human-in-the-Loop Machine Learning: Active Learning and Annotation for Human-centered AI. Manning Publications.

Settles, B. (2009). Active Learning Literature Survey (Computer Sciences Technical Report1648). University of Wisconsin--Madison.

Russell, S. (2019). Human compatible: Artificial intelligence and the problem of control. Viking.

Shneiderman, B. (2022). Human-centered AI. Oxford University Press.

Molnar, C. Interpretable machine learning. A Guide for Making Black Box Models Explainable, 2019.
https://christophm.github.io/interpretable-ml-book/.

EU AI Act. https://artificialintelligenceact.eu/ (accessed 30/04/2024)

UNESCO, Recommendation on the ethics of artificial intelligence, Digital Library UNESDOC (2020). https://en.unesco.org

United Nations Sustainable Development Goals. https://www.un.org/sustainabledevelopment/ (accessed 30/04/2024)