O bias (que pode ser traduzido como o viés) não é algo muito fácil de definir, para se ter uma ideia existem discussões filosóficas em torno do assunto. Bias está muito ligado à coleta, testes e treinamento e é exatamente por isso que iremos tratar sobre este tema neste breve artigo que visa abordar porque precisamos nos preocupar com relação ao viés no contexto da  inteligência artificial (IA).

Fonte: Imagem de Geralt (Gerd Altmann) por Pixabay (2020).

Na pesquisa científica, o bias ou viés pode acontecer principalmente na coleta e treinamento dos dados e aqui podemos citar como exemplos, o viés de seleção, viés de amostragem e viés experimental.

Desse modo, o bias pode ser compreendido como  o objetivo a ser apreendido como aquilo que pode nos desviar da decisão correta. O perigo do bias é a geração de influências inconscientes ou conscientes. 

Com algoritmos já é um pouco mais complicado definir um bias, pois cada algoritmo de IA tende a ter comportamentos bem diferentes e por consequência valorizar diferentes características.

Qual é o Perigo do Bias no contexto da inteligência artificial?

Do mesmo modo que o bias é uma preocupação dos pesquisadores sobre o resultado da pesquisa, a ocorrência de viés pode gerar influências inconscientes ou conscientes por parte dos sujeitos que interagem com uma inteligência artificial. Os resultados ficam menos confiáveis e podem se configurarem totalmente enganosos.

Fonte: Imagem de John Hain por Pixabay (2020).

Da maneira como são treinados, os algoritmos de IA terão relação irrestrita com os bias ou vieses que serão automatizados. Desse modo, com base em Nate Silver, precisamos descobrir como fazer melhor é tarefa de casa com uso da IA, como também descobrir que isso é preocupação de cada um de nós (desenvolvedor, design e usuário), seja no mercado de trabalho, seja nas relações sociais e na hora de votar. 

A inteligência artificial tem potencial para impactar tudo no presente, porque não é mais algo que relacionamos ao futuro. Desse modo, vale salientar que até agora o que se percebe é que os modelos de IA são neutros, mas o bias (viés) acontece quando treinados com dados tendenciosos. Daí a importância de se coletar dados de fontes de informação verdadeiras e, se possível, que estejam estruturados.

Desse modo, as principais características do bias na IA:

• É uma tendência que pode ser de gênero, de classes sociais ou raça;
• Pode ser intencional ou não;
• Se a base de dados estiver viciada irá transferir o bias para o algoritmo;
• Os algoritmos de reconhecimento facial tem dificuldades de reconhecer pessoas do sexo feminino e de etnia negra;
• Uma resolução é tomar cuidado com o Dataset, que deve ser proporcional ao que se tem na sociedade.

Em se tratando de redes neurais artificiais, uma solução é a inclusão de um neurônio denominado bias propositalmente na rede, visando simular o erro e levar os demais neurônios a apontarem soluções para lhe dar com o problema antes que ele possa ocorrer durante a interação com o usuário. 

Exemplo básico do neurônio “bias” numa rede neural artificial.

Vislumbra-se aqui um interessante nicho de colaboração e associação com a Ciência da Informação, pois os profissionais e alguns campos dessa área podem contribuir com a curadoria digital de dados e treinamento dos modelos de IA. Historicamente os campos que atuam nesta área – Arquivologia, Biblioteconomia e Documentação e Museologia – estão familiarizados com o tratamento das fontes em sistemas físicos e automatizados que alimentam bancos e bases de dados complexos. 

Saiba mais sobre o assunto do bias acessando o LTI Digital (ltidigital.ufba.br) .