Responsabilização

Estão identificados todos os responsáveis?

Cumpre a execução de responsabilidades e a possibilidade plena de auditoria/inspeção.

A responsabilização é o princípio essencial para garantir que os sistemas de IA operam sob supervisão humana e com mecanismos claros de prestação de contas. Em todas as fases do ciclo de vida, desde a conceção até à implementação e monitorização, devem estar identificadas as pessoas ou entidades responsáveis pelas decisões e os impactos gerados.

Um sistema de IA responsável deve:

• Atribuir responsabilidades de forma clara a todos os intervenientes

• Permitir auditorias e supervisão contínua das decisões automatizadas

• Incluir mecanismos para a gestão de riscos éticos, antes e depois da entrada em funcionamento

• Assegurar que os utilizadores podem contestar decisões que os afetem

Para tal é fundamental garantir o rastreamento completo dos procedimentos e resultados, o que permite que sejam explicados e auditados por terceiros. Isto inclui a origem e a utilização dos dados, os modelos utilizados, as interfaces de programação e outros componentes estruturais do sistema.