• Por Marcia Barreto

O tema inteligência artificial – seus benefícios e contrapontos que impactam a sociedade na forma como vivemos e interagimos – tem sido um dos assuntos de maior interesse do momento.
 

Ao contrário do que se imagina, este não é um tema tão novo. Ele teve início na década dos anos 1950, nos Estados Unidos, quando começou um movimento para criar máquinas que reproduzissem a capacidade de pensar e de agir dos seres humanos.
 

Com a evolução da tecnologia, temos hoje uma ‘explosão’ de soluções que prometem, pesquisas rápidas, criação de textos, vozes e até de imagens em pouquíssimo tempo. E como isso acontece?
 

Com a gama de dados disponíveis na internet, estas “máquinas” pesquisam e processam em segundos todas as informações dos bancos de dados, criam ou recriam o desejo do seu interlocutor — o usuário humano. Quanto mais informações, mais ela aprende, corrige erros e melhora as suas respostas. A tecnologia com o advento da IA (Inteligência Artificial) gera uma série de benefícios.
 

No mundo corporativo, os chatbots melhoram o atendimento ao cliente e reduzem o custo das empresas, apoiam gestores em decisões ao avaliar o comportamento do consumidor e definir diferentes cenários e ações de marketing, como realizar vendas de acordo com a estratégia da empresa. Ainda traz o aperfeiçoamento de mecanismos de segurança, para reduzir a fragilidade durante a tentativa de ataques cibernéticos.
 

Não podemos deixar de citar as facilidades cotidianas como selecionar músicas, trancar portas, ligar e desligar luzes entre outras. Segundo uma pesquisa da consultoria alemã Statista, as assistentes de voz chegarão a 11% dos lares brasileiros até 2025.
 

As máquinas aprendem com aquilo que produzimos de informações. Mas, nesse caso, como essa tecnologia pode beneficiar o aumento da diversidade e inclusão? Se a Inteligência artificial “pensa” e “age” de acordo com os padrões que encontra em suas pesquisas, estes padrões também podem se tornar excludentes.

A reflexão aqui é de que os padrões possuem uma série de vieses não aceitos e questionáveis em nossa sociedade, tais como os estereótipos de beleza, trabalho e comportamento humano. Se ainda vivemos em uma sociedade em que se discute as relações humanas, a inclusão e a diversidade, então a resposta da IA em seus algoritmos também virá enviesada.
 

Por exemplo, softwares de smartphones para fotos com seus filtros utilizados diariamente por milhões de usuários, quando treinados a partir de pessoas brancas e padrão étnico europeu, vão reproduzir este estereótipo como padrão e desconsiderar outras características de região, raça-etnia. Ao aplicar este filtro, as principais características podem ser perdidas.
 

O uso de câmeras e filtros parte de um desejo individual, mas os softwares precisam estar preparados para as diferentes e principais características da variedade étnica que seu consumidor possui.
 

O Google percebeu isso e, em 2022, anunciou que está trabalhando para tornar suas câmeras mais precisas, evitando o brilho excessivo e representando as pessoas de forma mais realista. Para isso, vai passar a utilizar bases de dados inclusivas, que contemplam pessoas de todas as cores e tons de pele.
 

Ainda neste contexto, temos as IA’s generativas que são capazes de criar imagens e vozes a partir de um conteúdo. O desafio não está apenas em questões legais, como direitos autorais para os artistas que a ferramenta utilizou. Encontra-se também, nas pessoas que podem se reconhecer em uma imagem criada artificialmente, sem permissão de uso de sua imagem. Além disso, os algoritmos, baseados nas informações disponíveis, podem trazer características físicas limitadas e pouco diversas.
 

Para mudar este cenário, é importante que as pessoas que desenvolvem a tecnologia sejam também diversas em suas raças, etnias, corpos, gênero e regionalidades. Assim, vão ‘ensinar’ as máquinas a considerarem a diversidade humana. Desta forma, a inteligência artificial será treinada a “pensar” de forma diversa e representativa.
 

A tecnologia pode e deve ser utilizada como aliada da inclusão e diversidade, respeitando o direito das pessoas de se sentirem e estarem realmente representadas.

• Marcia Barreto é head das áreas de negócios da empresa: UinStock — primeiro banco digital e nacional para a produção e venda de imagens de diversidade da população brasileira pouco representada e UinHub, o primeiro marketplace voltado às pessoas com deficiência.