Via Semanário InternetLab

Em 15.09, o Alto Comissariado para os Direitos Humanos da ONU publicou o relatório “O direito à privacidade na era digital”. A finalidade é analisar como o uso de Inteligência Artificial (IA) por Estados e empresas afeta os direitos humanos e, em especial, o direito à privacidade. O documento identificou quatro principais áreas de preocupação envolvendo o uso dessa tecnologia. A primeira área diz respeito ao uso de IA na aplicação da lei, na segurança nacional, na justiça criminal e na gestão de fronteiras. Nesses casos, o Alto Comissariado destacou os riscos na utilização de sistemas de reconhecimento biométrico e como eles podem resultar em intervenções imprecisas do Estado. A segunda área de preocupação se relaciona aos sistemas de IA e os serviços públicos. Segundo o relatório, a grande quantidade de dados coletados por sistemas de IA, e a sua imprecisão, podem originar uma “distopia de bem-estar digital” que afeta especialmente aos grupos beneficiários de políticas sociais. A terceira área de preocupação aborda o uso de IA no contexto de trabalho e os principais riscos na automação para processos de contratação, promoção ou demissão. Por fim, na quarta área, o Alto Comissariado destacou o uso de IA para gerenciar informações online. Segundo a autoridade, a perpétua coleta de informações e a extrema concentração de mercado levou poucas empresas a deter e controlar perfis de bilhões de indivíduos e a esfera pública em rede. Com base nessas áreas, o Alto Comissariado fez uma série de recomendações, sendo uma delas a proibição de aplicativos de IA que não são operados em conformidade com as leis internacionais de direitos humanos. Nesse sentido, a autoridade recomendou a suspensão da venda e do uso dessas tecnologias até que medidas para a proteção dos direitos humanos estejam em vigor.