Mosaico
Search
K

Responsabilização

Estão identificados todos os responsáveis?
Cumpre a execução de responsabilidades e possibilidade plena de auditoria/inspeção
A responsabilização de um sistema de IA inclui todos os indivíduos responsáveis por cada uma das partes num fluxo de trabalho complexo dum sistema com IA:
• Assegura o trabalho desde a conceção à implementação;
• Monitoriza da solução;
• Revê o sistema na sua fase evolutiva;
• Garante suporte ao utilizador/beneficiário;
• Supervisiona e gere os riscos éticos, antes e após estar em operação.
A garantia de uma IA ética carece assim de mecanismos que assegurem a responsabilização pela criação, desenvolvimento e/ou utilização de sistemas de IA, e minimizem os efeitos da parcialidade e opacidade inerentes às redes de autonomia artificiais.
Tais mecanismos estão intimamente relacionados com: a gestão de risco e o rastreamento completo de procedimentos e resultados para poderem ser explicados e auditados por terceiros.
Isto significa:
• Ter em conta a origem e a utilização de dados;
• Modelos;
• Interfaces de programação de aplicações;
• Outros componentes estruturais desse sistema com IA.
Uma das ferramentas à tomada de decisões de IA Responsável é a definição de limites e regulamentos, por legisladores e autoridades, para os temas de recolha e utilização de dados e de certificados elegíveis para a produção de sistemas que utilizam IA.