Crianças e pessoas pretas podem não ser detectadas pelos carros de direção autônoma, diz estudo

A montadora americana Tesla, do bilionário Elon Musk, vem sendo investigada por acidentes causados por seu sistema de direção automatizada. Os carros que dirigem sem motorista não são uma novidade, mas um estudo pré-publicado no repositório científico online arXiv sugere que os softwares de detecção de pedestres podem ser menos eficazes quando se trata de pessoas pretas e crianças.

Segundo o site americano Insider, pesquisadores do Reino Unido e da China testaram oito sistemas de detecção de pedestres, levando em conta raça, sexo e idade do alvo. Embora o gênero apresentasse apenas uma pequena discrepância na precisão, os cientistas descobriram que a inteligência artificial (IA) era menos precisa na detecção de pedestres com tons de pele mais escuros.

Os sistemas de detecção apresentaram 19,67% mais probabilidade de detectar adultos do que crianças e 7,52% mais probabilidade de perceber pessoas com tons de pele mais claros, de acordo com o estudo.

“No geral, o estudo revela questões sociais presentes nos detectores de pedestres, enfatizando a importância de abordar preconceitos relacionados à idade e ao tom de pele”, afirmam os pesquisadores, citados pelo site americano. “Os resultados obtidos podem abrir caminho para sistemas de condução autônoma mais justos e imparciais no futuro”.

Essas descobertas corroboram para preconceitos presentes nos sistemas de IA de código aberto que muitas empresas utilizam para construir os detectores dos carros autônomos, revela o Insider. Embora o estudo não tenha usado os softwares de montadoras como a Tesla, porque são confidenciais, os sistemas analisados são baseados na mesma IA de código aberto que essas empresas usam.