Os sistemas de inteligência artificial são usados ​​para determinar quem recebe os serviços públicos e quem tem a oportunidade de ser contratado para trabalhar, disse o oficial de direitos das Nações Unidas.

A Alta Comissária das Nações Unidas para os Direitos Humanos, Michelle Bachelet, pediu uma moratória sobre a venda e uso de sistemas de inteligência artificial (IA) que ameaçam os direitos humanos até que as salvaguardas apropriadas sejam tomadas para garantir que a tecnologia não seja abusada.

“Não podemos nos dar ao luxo de manter o atraso na IA. Vamos permitir que a IA seja usada com limites ou vigilância limitados ou sem limites, e lidar com os impactos quase inevitáveis ​​sobre os direitos humanos que se seguem”, disse Bachelet em um comunicado à imprensa.

O Escritório do Alto Comissariado das Nações Unidas para os Direitos Humanos divulgou um relatório na quarta-feira alertando sobre os riscos da tecnologia de IA e, embora a IA atue como uma força de bondade, seu uso irresponsável pode ter consequências catastróficas.

“O ambiente de dados, os algoritmos, a complexidade do modelo e os segredos deliberados do governo e das partes interessadas privadas que fundamentam o desenvolvimento e a operação dos sistemas de IA ajudam o público a entender o impacto dos sistemas de IA nos direitos humanos e na sociedade. É um fator que prejudica métodos significativos, “disse o relatório.

Bachelet, oficial de direitos humanos da ONU, enfatizou que as aplicações de IA que não cumprem as leis internacionais de direitos humanos devem ser proibidas.

“Não podemos negar o poder da IA ​​para servir as pessoas, mas não podemos negar a capacidade da IA ​​de alimentar abusos dos direitos humanos em uma escala enorme que é virtualmente invisível. Direitos humanos para o uso da IA ​​para o benefício de todos nós. Ação agora é necessário instalar os trilhos de proteção na área “, enfatizou Bachelet.

A capacidade da IA ​​de realizar perfis e automatizar a tomada de decisões, e outros usos, ameaça uma miríade de direitos humanos. Pode afetar “os direitos à saúde, educação, liberdade de movimento, reunião e associação pacíficas, liberdade de expressão”, advertiu a Agência de Direitos Humanos das Nações Unidas.

“Os sistemas de IA são usados ​​para determinar quem recebe os serviços públicos e quem tem a oportunidade de ser contratado para trabalhar. Claro, os sistemas de IA são sobre informações que as pessoas podem ver e compartilhar online. Isso terá um impacto”, disse o Alto Comissário.

O relatório expressa profunda preocupação com a adoção de aplicativos de IA por alguns países e pelo setor privado, sem primeiro investigar a miríade de riscos da tecnologia.

De acordo com o escritório da ONU, ele citou casos em que indivíduos já haviam sido negados ou presos para receber benefícios da previdência social por falha no reconhecimento facial, com alguns erros perigosos já cometidos.

Os sistemas de IA geralmente coletam, compartilham, mesclam e analisam dados de maneiras opacas. As informações que a AI coleta podem estar comprometidas, desatualizadas e discriminadas.

“O risco de discriminação associado às decisões baseadas em IA, ou seja, decisões que podem mudar, definir ou ferir a vida humana, é muito real”, diz Bashlet. “É por isso que precisamos avaliar e monitorar sistematicamente a eficácia dos sistemas de IA para identificar e mitigar os riscos aos direitos humanos.”

..

Deixe uma resposta

O seu endereço de email não será publicado. Campos obrigatórios marcados com *