Apresentação: Este trabalho tem como objeto de análise bioética a reportagem intitulada “Deputada acusa Inteligência Artificial (IA) de 'racismo algorítmico' por desenho de negra armada”, divulgada em outubro de 2023 pelo portal de notícias digital UOL. Objetiva discutir alguns dos efeitos do uso da IA, considerando a tendência atual crescente de seu uso, inclusive na área da saúde, como ferramenta potencial de agravamento de iniquidades, injustiça social e imperialismo moral. Desenvolvimento do trabalho: Trata-se de uma análise adensada, realizada coletivamente no âmbito da disciplina de Ciências Sociais do Programa de Pós Graduação em Saúde Coletiva/UFSC, de uma matéria descritiva de denúncia realizada pela deputada estadual Renata Souza (PSOL/RJ). A deputada compartilhou em rede social sua denúncia-crítica e a ilustração gerada por um aplicativo internacional que usa IA para a composição de imagens. A orientação dada ao aplicativo foi que compusesse uma imagem de: "uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela”. A imagem gerada continha uma mulher negra segurando uma arma na mão. Resultados: A partir da análise do caso, reconhece-se o preconceito contido na IA. Sendo a IA composta por um algoritmo, que é um conjunto de instruções finitas, passível de ser criado a partir das subjetividades individuais, surge o questionamento se esse algoritmo poderia ser programado com sentido ético. A discussão suscitou a preocupação de que grande parte das ferramentas de IA são internacionais, o que pode trazer preocupações relativas ao reforço da colonialidade. Além disso, tratando-se da saúde da população negra no Brasil, observa-se que a maioria dos estudos populacionais são pequenos, havendo a dificuldade da representatividade algorítmica, o que reforçaria iniquidades dependendo do uso para a qual a IA fosse destinada, sendo uma importante preocupação para a saúde coletiva. Refletiu-se sobre a possibilidade de estabelecer a criação de algoritmos que favoreçam as políticas públicas desde a perspectiva da equidade, universalidade, da promoção e prevenção em saúde, em detrimento de um mercado em que a lógica do algoritmo é tratada como recurso de valor financeiro, desenvolvido e disponibilizado majoritariamente por empresas de países centrais. Um outro aspecto a problematizar, é como está sendo implementado o uso da IA no campo da saúde no Brasil, já que não prevê participação popular nesta construção e tampouco observam-se discussões acerca de recomendações sobre sua utilização. Considerações finais: O trabalho suscitou a urgência sobre a necessidade de que recomendações éticas brasileiras, principalmente relacionadas à saúde, sejam elaboradas. Critérios como transparência e explicabilidade, importantes características da IA, precisam estar presentes como forma de minimizar os riscos. O fato de que sempre há uma moral em todo ato humano, incluindo a programação da IA, podendo gerar possíveis vieses na elaboração dos algoritmos, pode explicar o acontecido no caso relato, sendo a bioética uma importante ferramenta de análise crítica de situações como esta.
Complete tool for submission, evaluation and publication of proceedings for scientific events.
