Quais são os limites do uso da AI?

O potencial de uso da inteligência artificial é enorme e sua aplicação está em todos os lugares. Hoje, já é possível vivermos em casas hiperconectadas com sensores e gadgets que nos permitem programar a hora de esquentar a comida ou ligar e desligar aparelhos, por exemplo. O uso da tecnologia de biometria facial se espalha por aeroportos, empresas e locais públicos. 

Ao mesmo tempo em que a automação e a inteligência artificial nos abrem um mundo infinito de possibilidades, elas também nos colocam dilemas e trazem questões éticas relevantes. Matt Joe, CTIO da Avanade, uma joint venture entre Microsoft e Accenture, com mais de 35 mil funcionários no mundo todo, veio ao Brasil a convite do Experience Club, para falar com um público de mais de cem executivos durante o Fórum CIO Club, que termina hoje, dia 4 de outubro, no Sofitel Guarujá Jequitimar. 

“Não sabemos o quanto essas tecnologias são transparentes”.

Ele trouxe alguns exemplos como o da Vizio, uma fabricante norte-americana de televisores. Em 2017, eles foram obrigados a pagar uma multa no valor US$ 2,2 milhões para a FTC (Federal Trade Commission), de Nova Jersey, por ter instalado um software em suas TVs para coletar dados de exibição em 11 milhões de TVs sem o conhecimento ou consentimento dos consumidores. Os dados de acesso e comportamento dos consumidores são combinados com detalhes demográficos, como sexo, idade, renda, estado civil, tamanho da família, educação, propriedade da casa e valor da família. Essas informações são então vendidas para análises e empresas de publicidade e usadas para direcionar anúncios. 

SISTEMAS NÃO SÃO NEUTROS

“Não são apenas as tecnologias centradas em dados que nos colocam em situações vulneráveis”, diz Matt. Os sistemas automatizados, como os de reconhecimento facial, não são neutros. Ao contrário, quase todos eles carregam preconceitos. Por isso, é importante considerar as intersecções. Ou seja, ao invés de observar as características homem x mulher, mais claro versus mais escuro, também é preciso considerar mulheres mais escuras, homens mais escuros, mulheres mais claras e homens mais claros. “Por isso, é preciso garantir a diversidade já na fase de design desses apps”. 

Matt ilustrou sua fala com um exemplo da indústria automobilística norte-americana que criou manequins de teste de colisão, com base apenas nas características do homem americano médio. O resultado disso: as mulheres foram mais gravemente feridas em acidentes do que homens. Somente após 2011, outros tipos de corpos passaram a ser considerados na confecção de manequins. 

Para ele, é importante que as organizações estejam atentas a algumas questões centrais na medida em que embarcam na jornada de AI e automação. Como garantir que o uso da tecnologia será seguro e confiável? Como podemos obter os benefícios de tecnologias avançadas enquanto protegemos a privacidade? Quando a tecnologia aumenta a tomada de decisão humana, como podemos garantir que ela trate todos de forma justa? “As questões éticas sobre o que estamos desenhando são tão importantes quanto às técnicas. Sua cultura deve suportar a sua estratégia, caso contrário, estamos caminhando para o lado errado”. 

Texto: Luana Dalmolin

Foto: Marcos Mesquita | Experience Club e Reprodução