Explicabilidade

Os algoritmos podem ser compreendidos?

Explica o funcionamento e as implicações decorrentes das funções computacionais

A transparência e a explicabilidade são duas dimensões complementares, uma vez que a explicabilidade consolida o cumprimento da transparência.

A partir da transparência de informação inerente aos sistemas de IA, os mecanismos de explicabilidade permitem:

• Confirmar que o sistema funcionou como esperado;

• Prever o que é possível desencadear a partir de diferentes ações computacionais;

• Reduzir a resistência à utilização e aceitação da IA, ao consolidar a confiança da sociedade em relação à tecnologia.

Mais que conhecer questões técnicas específicas, como os algoritmos, trata-se de ser capaz de explicar como uma decisão foi tomada por um modelo de IA e entender as implicações dos resultados/impactos decorrentes, esperados ou não.

Um sistema com IA transparente e passível de explicação torna os valores de base da entidade que o desenvolveu explícitos e conduz à responsabilização na tomada de decisões.