- * OPINIÃO – Katya Hemelrijk
Mesmo com tantas transformações que a Inteligência Artificial (IA) já trouxe ao nosso cotidiano, vale reforçar que os algoritmos que tentam imitar e se aproximar cada vez mais do comportamento humano trazem consigo vieses de uma sociedade que ainda exclui pessoas por suas características como deficiências, raça, gênero etc.
Exatamente por tentar imitar o comportamento humano, ela atua com falhas que impactam no tema Diversidade e Inclusão, com a possibilidade de perpetuar preconceitos e acentuar desigualdades por conta dos vieses que ela carrega. Eu comprovei isso testando vários sites de inteligência artificial, um exercício que eu proponho a quem esteja atuando como aliado da diversidade.
Constantemente faço perguntas sobre o tema e pedi informações sobre um estudo da condição econômica social da pessoa com deficiência e a IA me trouxe os dados, mas respondia a mim como se eu fosse um homem. Ao questioná-la sobre o porquê de me tratar assim, sendo que sou uma mulher, ela se desculpou justificando que esse tipo de pergunta, geralmente, é de interesse masculino.
Com relação às informações e imagens de pessoas com deficiência, tudo chega pela IA em tom assistencialista, sem muitos dados macroeconômicos.
Testei uma inteligência artificial que faz busca de imagens com elementos que a gente abastece. Pedi uma charge de um contexto urbano de pessoas com diversas deficiências e diversos marcadores sociais. Em segundos ela me apresentou uma ilustração com várias pessoas, todas brancas e cadeirantes. Pedi também uma imagem que retrate a diversidade em uma grande empresa em 2023 e o resultado é um retrato sem ninguém da diversidade. Somente pessoas brancas e jovens.
Pedi então uma imagem que retratasse colaboradores de uma grande empresa em 2050. O resultado foi uma ilustração com pessoas brancas, negras, homens e mulheres, aparentemente mais sêniores, porém nenhuma pessoa com deficiência. Tem robô como funcionário, mas não tem pessoa com deficiência. Esse é o time do futuro para a IA. Quantos anos serão necessários para a inteligência artificial considerar a representatividade da sociedade no mundo corporativo?
A inteligência artificial é a repetição dos nossos comportamentos, e comprovadamente ela já nasce excludente porque ainda não aprendeu a ser diversa. Quem está ensinando essa tecnologia é o ser humano falho e ainda muito enviesado, com informações e dados equivocados que busca na internet.
Outra tentativa foi pedir à IA que trouxesse imagens de pessoas com deficiência em ambiente corporativo misturados com outros marcadores sociais e o resultado foi muito impactante. Além de trazer pessoas com deficiência “fake”, o chamado “cripface” – uso de imagens que distorcem a realidade da pessoa com deficiência-, a IA trouxe (pasmem!) um homem em uma cadeira de rodas de hospital, que não são iguais às utilizadas pelas pessoas cadeirantes de fato, e fazendo um gesto com as mãos que imita um tiro em sua própria cabeça.
A IA ainda precisa entender como evitar preconceitos e estereótipos que são reproduzidos em bancos de imagens, quase sem representatividade real dos marcadores sociais, com imagens fakes e estereotipadas.
O mesmo para os processos de recrutamento e seleção. Quantos vieses trazem os algoritmos e o que a IA entende quando interpreta um currículo de uma pessoa com deficiência concorrendo a uma vaga de trabalho? Também é preciso mudar a cultura e falar de inclusão da diversidade com quem está programando e alimentando a inteligência artificial.
O fato é que ao humanizar as máquinas estamos passando para elas não apenas as boas qualidades, mas aprendizados que ainda estamos aprendendo como sociedade. A inclusão deveria ser natural do ser humano, mas infelizmente ainda não é.
- Katya Hemelrijk é CEO da Talento Incluir Consultoria, pioneira no país com soluções focadas nos pilares de DE&I Conscientização, Contratação, Carreira, Acessibilidade e Consultoria Estratégica para a inclusão de pessoas com deficiência.
