Responsabilização

Estão identificados todos os responsáveis?

Cumpre a execução de responsabilidades e possibilidade plena de auditoria/inspeção

A responsabilização é o princípio essencial para garantir que os sistemas de IA operam sob supervisão humana e com mecanismos claros de prestação de contas. Em todas as fases do ciclo de vida, desde a conceção até à implementação e monitorização, devem estar identificadas as pessoas ou entidades responsáveis pelas decisões e impactos gerados.

Um sistema de IA responsável deve:

• Atribuir responsabilidades de forma clara a todos os intervenientes;

• Permitir auditorias e supervisão contínua das decisões automatizadas;

• Incluir mecanismos para a gestão de riscos éticos, antes e depois da entrada em funcionamento;

• Assegurar que os utilizadores podem contestar decisões que os afetem.

Para isso, é fundamental garantir o rastreamento completo dos procedimentos e resultados, permitindo que sejam explicados e auditados por terceiros. Isto inclui a origem e utilização dos dados, os modelos utilizados, as interfaces de programação e outros componentes estruturais do sistema.