Mosaico
Search
⌃K

Explicabilidade

Os algoritmos podem ser compreendidos?
Explica o funcionamento e as implicações decorrentes das funções computacionais
A transparência e a explicabilidade são duas dimensões complementares, uma vez que a explicabilidade consolida o cumprimento da transparência.
A partir da transparência de informação inerente aos sistemas de IA, os mecanismos de explicabilidade permitem:
• Confirmar que o sistema funcionou como esperado;
• Prever o que é possível desencadear a partir de diferentes ações computacionais;
• Reduzir a resistência à utilização e aceitação da IA, ao consolidar a confiança da sociedade em relação à tecnologia.
Mais que conhecer questões técnicas específicas, como os algoritmos, trata-se de ser capaz de explicar como uma decisão foi tomada por um modelo de IA e entender as implicações dos resultados/impactos decorrentes, esperados ou não.
Um sistema com IA transparente e passível de explicação torna os valores de base da entidade que o desenvolveu explícitos e conduz à responsabilização na tomada de decisões.