Explicabilidade

Os algoritmos podem ser compreendidos?

Explica o funcionamento e as implicações decorrentes das funções computacionais

A explicabilidade complementa a transparência ao permitir que as decisões tomadas por sistemas de IA possam ser compreendidas e justificadas. Mais do que saber que uma decisão foi tomada, é essencial entender como e porquê.

Um sistema explicável deve:

• Ajudar os utilizadores a compreender os motivos por trás das decisões;

• Fornecer interpretações claras dos resultados, mesmo que complexos;

• Permitir antecipar comportamentos futuros com base em ações anteriores;

• Reduzir a resistência à adoção da IA, promovendo a confiança e a aceitação social.

Este princípio é especialmente relevante em contextos sensíveis, como saúde, justiça ou finanças, onde as decisões automatizadas têm impacto direto na vida das pessoas.