Explicabilidade

Os algoritmos podem ser compreendidos?

Explica o funcionamento e as implicações decorrentes das funções computacionais.

A explicabilidade complementa a transparência, ao permitir que as decisões tomadas por sistemas de IA possam ser compreendidas e justificadas. Mais do que saber que uma decisão foi tomada, é essencial entender como e porquê.

Um sistema explicável deve:

• Ajudar os utilizadores a compreender os motivos por trás das decisões

• Fornecer interpretações claras dos resultados, mesmo que estes sejam complexos

• Permitir antecipar comportamentos futuros com base em ações anteriores

• Reduzir a resistência à adoção da IA, ao promover a confiança e a aceitação social

Este princípio é especialmente relevante em contextos sensíveis, como saúde, justiça ou finanças, onde as decisões automatizadas têm impacto direto na vida das pessoas.