A IA não pode ser vista como uma “máquina divina”

missão [EXP + PROS]

O problema não é a IA como tecnologia, é que ela tem sido vendida como um ente todo poderoso, argumentam a jornalista Karen Hao, autora do best-seller Empire of AI, e Dr. Timnit Gebru, cientista da computação que ganhou as manchetes em 2020 por ter sido demitida pelo Google e acusado a empresa de racismo.

Colocar tecnologias muito diferentes no mesmo saco é um dos grandes problemas do debate atual, diz Dr. Gebru, especialista em ética da IA. “Essa mistura dificulta qualquer conversa séria sobre impactos e riscos”, diz.

Para Karen, em vez de começar pelo produto, o desenvolvimento tecnológico deveria começar pelos objetivos: “Quais desafios queremos resolver para melhorar a vida das pessoas? Só depois disso deveria ser possível decidir quais ferramentas, incluindo soluções não tecnológicas, realmente fazem sentido.”

Acontece que a IA tem sido empurrada em todo lugar em nome da AGI. “O argumento implícito é que, se estamos construindo uma ‘máquina divina’, então qualquer custo se torna justificável”, argumenta Karen. “Inclusive a exploração de recursos naturais ou de trabalho humano”. Timnit complementa: “O que antes era considerado um objetivo marginal ou especulativo passou a orientar grande parte do setor como se fosse uma religião”.

Se temos a sensação de que o debate sobre IA é muito polarizado é porque, de acordo com Karen, é exatamente o que o Vale do Silício quer. “Eles dizem: se o futuro pode ser maravilhoso ou catastrófico, então é melhor que um pequeno grupo seja responsável por controlar isso”. E, claro, eles são “Os Escolhidos”.

As empresas de IA tendem a desenvolver sistemas que pretendem servir o mundo inteiro. O problema é que esses modelos carregam os valores, a cultura e as perspectivas de quem os construiu, ignorando a diversidade de línguas, contextos e formas de vida existentes no planeta.

Apesar da concentração de poder na indústria, tanto Karen quanto Timnit apostam em movimentos crescentes de resistência: artistas processando empresas de IA, comunidades protestando contra data centers e jornalistas aprendendo a cobrir melhor o setor. E se animam com pesquisadores e organizações que estão tentando desenvolver tecnologias menores e mais alinhadas às necessidades específicas de comunidades.