Responsabilização

Estão identificados todos os responsáveis?

Cumpre a execução de responsabilidades e possibilidade plena de auditoria/inspeção

A responsabilização de um sistema de IA inclui todos os indivíduos responsáveis por cada uma das partes num fluxo de trabalho complexo dum sistema com IA:

• Assegura o trabalho desde a conceção à implementação;

• Monitoriza da solução;

• Revê o sistema na sua fase evolutiva;

• Garante suporte ao utilizador/beneficiário;

• Supervisiona e gere os riscos éticos, antes e após estar em operação.

A garantia de uma IA ética carece assim de mecanismos que assegurem a responsabilização pela criação, desenvolvimento e/ou utilização de sistemas de IA, e minimizem os efeitos da parcialidade e opacidade inerentes às redes de autonomia artificiais.

Tais mecanismos estão intimamente relacionados com: a gestão de risco e o rastreamento completo de procedimentos e resultados para poderem ser explicados e auditados por terceiros.

Isto significa:

• Ter em conta a origem e a utilização de dados;

• Modelos;

• Interfaces de programação de aplicações;

• Outros componentes estruturais desse sistema com IA.

Uma das ferramentas à tomada de decisões de IA Responsável é a definição de limites e regulamentos, por legisladores e autoridades, para os temas de recolha e utilização de dados e de certificados elegíveis para a produção de sistemas que utilizam IA.