Código enviesado: por que a falta de diversidade prejudica a área Tech?
Problemas de reconhecimento facial, limitações de acesso e até policiamento excessivo: como o código pode contribuir para as desigualdades.
A tecnologia pode ser neutra, isenta ou livre de influências das pessoas que a desenvolvem? Embora o senso comum talvez pense que sim, a realidade é um pouco mais complicada do que isso. É o que aborda o documentário de 2020 da Netflix, Coded Bias (algo como “código enviesado” em português), em que uma pesquisadora percebeu que as tecnologias de reconhecimento facial não eram tão competentes em reconhecer rostos de pessoas negras, quando comparada à capacidade de reconhecer rostos de pessoas brancas.
Esse é só um dos casos: o viés no código pode afetar e prejudicar a sociedade de diversas maneiras, reforçando desigualdades ao aumentar o policiamento em bairros mais pobres, ou negar acesso a crédito a determinadas pessoas por sua raça, entre outras problemáticas mais sutis.
Mas por quê? E como isso pode ser resolvido?
O código não pode ser feito sempre pelas mesmas pessoas
Duas principais questões contribuem para o problema da desigualdade na tecnologia. Primeiro, existe a questão dos times de desenvolvimento. Dados demonstram que menos de 12% das posições em desenvolvimento de IA são ocupadas por mulheres. Em um cenário de trabalho com pouca diversidade, fica difícil perceber possíveis vieses e as necessidades de outros públicos. Um grupo de desenvolvimento trabalhando em tecnologias de reconhecimento facial, por exemplo, pode acreditar que sua tecnologia é um sucesso ao testá-la em toda sua equipe, mas se essa equipe for formada apenas ou principalmente por homens, existe o risco da tecnologia ter falhas que não serão percebidas no reconhecimento de mulheres.
Além dos times de desenvolvimento, inteligências artificiais também estão propensas a repetir os vieses sociais mais gerais, principalmente quando são alimentadas com bancos de dados de informações que refletem as desigualdades do mundo. Por exemplo, uma inteligência artificial alimentada com fotos de bancos de dados pode se tornar competente apenas em reconhecer rostos de pessoas brancas, se o banco de dados de onde está tirando suas informações for principalmente de fotos de pessoas brancas.
Como resolver?
A discussão sobre código, diversidade e preconceito ainda está em crescimento, mas já é relevante o suficiente para ter alcançado inclusive o Brasil. A PUC-Rio, por exemplo, já conta com um grupo de pesquisa dedicado às questões sobre Ética e Mediação Algorítmica de Processos Sociais. Esse tipo de iniciativa, liderada por acadêmicos e profissionais da área, é importante para questionar as tecnologias que estão sendo desenvolvidas e encontrar caminhos para a melhora.
O que muda é principalmente a mentalidade de quem desenvolve, analisa e consome produtos de tecnologia. Aos poucos, questões éticas e legais vão se tornando cada vez mais consideradas na tecnologia e contribuem para que o processo se refine, tornando-se mais justo, ético e eficiente.
Ao mesmo tempo, para além da discussão, duas medidas simples podem ajudar a vencer os vieses do algoritmo. A primeira delas é alimentar os bancos de dados e portanto as inteligências artificiais com informações mais diversas: chega daquele banco só de fotos de pessoas loiras, por exemplo. Mas para além disso, o principal talvez seja replicar essa diversidade nas próprias equipes de desenvolvimento. Aqui, a questão é sobre criar times de programadores que envolvam mais diversidade étnica (um grupo com programadores negros tende a correr menos riscos de desenvolver códigos racistas) e mais equidade de gênero (na mesma linha, um grupo de programação com mulheres é menos propenso a desenvolver códigos machistas).
Não só essa discussão mostra que a tecnologia está longe de ser apenas algo racional e imparcial, como muitas vezes ficamos tentados a entendê-la, mas mostra também como as discussões sobre aspecto humanos, especialmente no que diz respeito a times mais diversos, também contribui para melhorar o código e criar tecnologias mais eficientes.
Quer saber mais?
Se você quer saber mais sobre tendências digitais, estratégias de conteúdo e insights para novos negócios, fica de olho no blog da PYXYS.
