Justiça

Os algoritmos e os dados são justos e não discriminam?

Incorpora garantias e salvaguardas aos utilizadores e beneficiários, sendo justos e não discriminativos

A justiça é um conceito que se refere ao estado ideal de ausência de preconceito ou favoritismo direcionado a um indivíduo ou grupo, com base nas suas características herdadas

ou adquiridas.

Este engloba os ideais de equidade, imparcialidade, igualitarismo e não discriminação. É necessário que o sistema com IA, em particular o algoritmo, garanta:

• Os direitos individuais (p.e., liberdade de expressão e proteção dos dados);

• Os direitos coletivos (p.e., direito à saúde, à educação, à cultura, à vacinação e à justiça);

• O cumprimento de normativos.

A abertura à inclusão e à diversidade nos sistemas com IA, aproximam a comunidade através do aumento de confiança nestas tecnologias.

É intuito de uma IA ética dirigir-se a todos os utilizadores, permitindo que todos possam utilizar os seus produtos e serviços.

A introdução ou criação de viés em sistemas de IA está intimamente ligada ao princípio de justiça. A dimensão da justiça está intimamente ligada à introdução ou criação de viés nos sistemas de IA. Elementos tendenciosos podem entrar no sistema algorítmico de IA conduzindo a resultados injustos, preconceito e discriminação não intencional. Isto pode acontecer através de inclusão inadvertida de histórias tendenciosas, incompletas e imprecisas, através de arquétipos culturais, sociais ou institucionais pré-existentes, limitações técnicas existentes ou até a partir da existência de modelos de má governança.

Estes problemas são muitas vezes consequência do algoritmo desenhado ou das escolhas relacionadas com a codificação, recolha, seleção ou utilização dos dados para alimentar o algoritmo.

É essencial o desenvolvimento de procedimentos padronizados que verifiquem preconceitos ou outros objetos de discriminação adaptados ao número crescente de dados disponíveis e da celeridade desse mesmo crescimento.