Estamos vivendo a era da datificação, em que todos os aspectos da vida social são transformados em dados. Esse processo, fundamental para o desenvolvimento da inteligência artificial (IA), nos promete um futuro onde decisões complexas podem ser automatizadas e otimizadas em uma escala sem precedentes. No entanto, isso frequentemente simplifica a complexidade da vida humana em métricas e números, ignorando as relações e os contextos que tornam cada indivíduo único. Quando esses dados são usados em sistemas de IA, eles podem acabar reforçando as mesmas desigualdades e exclusões que pretendiam resolver.
Os dados que alimentam esses sistemas muitas vezes refletem contextos históricos de desigualdade. Como Coté (2022) observa, ao moldar identidades e comportamentos humanos em padrões digitais, a datificação impõe limites às representações, limitando a diversidade de experiências humanas e, em muitos casos, perpetuando estereótipos. Isso pode resultar em decisões enviesadas, criando um ciclo de exclusão e discriminação. Esse desafio nos obriga a questionar a suposta neutralidade dos algoritmos e a refletir sobre como essas decisões automatizadas moldam a sociedade, frequentemente favorecendo certos grupos em detrimento de outros.
Leia também: Siemens Software projeta futuro da indústria com IA, sustentabilidade e talento brasileiro
Trazendo a governança para as mãos das comunidades
Pensando em uma governança que seja realmente inclusiva, Browne (2023) propõe a criação de “AI Public Body” — uma entidade pública que permite a participação de cidadãos comuns, especialmente daqueles mais afetados pelas tecnologias de IA, nas decisões sobre o uso dessas tecnologias. Inspirado em modelos de democracia deliberativa, esse corpo incluiria a voz de comunidades diversas, trazendo uma nova perspectiva para as decisões que, até hoje, são dominadas por especialistas técnicos.
Esse modelo representa uma mudança significativa na forma como entendemos a governança, enfatizando que a IA não deve ser apenas uma questão de precisão técnica, mas também de justiça e representatividade. A inclusão dessas vozes no processo de governança cria um espaço onde os efeitos sociais das tecnologias podem ser mais bem compreendidos e endereçados, resultando em uma governança que reflete a diversidade da sociedade.
A justiça algorítmica muitas vezes é tratada como uma questão de otimização matemática, ajustando dados e métricas para minimizar desigualdades estatísticas. No entanto, como Van Nuenen (2022) aponta, a justiça social na IA deve ir além dos ajustes técnicos, considerando as complexas desigualdades estruturais que esses dados representam. Em vez de se limitar a resultados estatísticos, a justiça social exige uma compreensão mais profunda do impacto das decisões tecnológicas na vida das pessoas.
No caso de algoritmos usados em concessão de crédito ou reconhecimento facial, é essencial entender que esses sistemas não operam em um vácuo: eles são parte de uma sociedade com uma longa história de desigualdade. Para que a IA seja realmente justa, ela deve ser projetada com o compromisso de mitigar essas desigualdades, considerando as realidades vividas por comunidades marginalizadas e integrando suas vozes no desenvolvimento e na aplicação dessas tecnologias.
Para uma IA mais humana e justa
A era da datificação trouxe grandes avanços tecnológicos, mas também nos desafia a refletir sobre o papel da IA em promover uma sociedade equitativa. Uma IA que adota a ética do cuidado e uma governança inclusiva oferece um modelo mais humano e justo, onde as tecnologias servem a todas as pessoas, e não apenas a interesses comerciais. Desenvolvê-la com esses valores em mente significa construir um futuro digital que respeite a diversidade e o bem-estar coletivo, promovendo uma sociedade mais justa e equitativa.
Esse caminho exige mudança de perspectiva, onde a datificação e a inteligência artificial se tornam ferramentas para fortalecer nossa responsabilidade mútua e promover a inclusão. Somente com a abordagem que valorize o cuidado, a inclusão e a justiça social podemos transformar a IA em uma força positiva, que reflete o melhor de nossa humanidade.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!