The Equality Machine: Harnessing Digital Technology for a Brighter, More Inclusive Future

Autora: Orly Lobel

Ideias centrais

1 – A inteligência artificial pode trazer muitos benefícios, mas ainda há problemas, como quando algoritmos reproduzem os preconceitos enraizados na sociedade.

2 – Podemos criar uma IA que desafie os estereótipos, beneficiando grupos diversos para negócios, empregos, saúde e até mesmo a vida afetiva.

3 – O objetivo da igualdade deve estar incorporado em todos os avanços digitais.

4 – Para agilizar esses avanços, é preciso que haja diversidade também entre os desenvolvedores de softwares.

5 – A política tem um papel importante para incentivar, alavancar e supervisionar a tecnologia.

Sobre a autora:

Orly Lobel leciona na Universidade de San Diego e é uma das principais especialistas em Direito Trabalhista dos Estados Unidos. Os seus trabalhos acadêmicos estão entre os mais citados do país e ela publicou três livros para o público geral. A última obra, The Equality Machine, foi considerada como um dos melhores livros de 2022 pela revista The Economist.

Introdução

A ideia por trás deste livro é iniciar uma conversa sobre o caminho para a igualdade e o empoderamento na era digital.

Quando a tecnologia nos dá limões

Apesar de seus riscos e falhas, a digitalização deve se tornar uma força poderosa para o bem da sociedade. A Inteligência Artificial pode ser usada para diminuir injustiças e fornecer detecção precoce de discriminação e abuso.

Um projeto para construir uma máquina de igualdade

Para abraçar a digitalização como uma força para o bem da sociedade, não precisamos achá-la perfeita. Devemos ver os erros como oportunidades de aprendizado e redobrar nossos esforços para corrigi-los.

Parte 1. Uma força para o bem

Capítulo 1. Por que nós precisamos de uma máquina de igualdade

Construtores e bloqueadores

Novas manchetes costumam alertar que novas tecnologias – de inteligência artificial a robôs e big data – têm um problema de gênero ou raça. Bots de anúncios de empregos, por exemplo, mostram diferentes tipos de vagas para homens e mulheres, para trabalhadores mais jovens e mais velhos. Poderíamos considerar esses desafios como oportunidades para fazer melhor.

A moneyball da igualdade

Um estudo sobre o site de leilões eBay descobriu que, quando homens e mulheres oferecem exatamente o mesmo produto, as vendas de mulheres recebem menos lances e preços finais mais baixos – recebendo em média apenas 80 centavos para cada dólar que os vendedores recebem.

Figuras não ocultas

Quando se trata de empresas ou governos usando algoritmos, não precisamos nos contentar com seu sigilo e status de propriedade. O primeiro passo, sempre, é identificar e entender o problema. A Inteligência Artificial nos fornece insights inestimáveis e sem precedentes que podemos aproveitar para criar mudanças com mais precisão – e intenção.

Podemos ensinar novos truques a um bot

Os algoritmos estão cada vez mais tomando decisões com base nas informações que extraem e nos padrões que detectam. O machine learning é uma aplicação de IA que permite que os computadores melhorem de forma autônoma por meio de dados e experiências sem serem explicitamente programados sobre como fazê-lo.

Linguagem rasteira

Em um estudo publicado na Science, uma máquina treinada para ler artigos do Google News aprendeu a fazer associações entre palavras. Sem ser guiado de forma alguma, o programa passou a associar nomes masculinos e femininos a diferentes tipos de carreiras e diferentes tipos de emoções. O preconceito se insinua nos algoritmos dessa maneira porque está embutido na linguagem de nossa cultura, mas um número crescente de cientistas da computação se comprometeu a tornar o machine learning mais justo e igualitário.

Contra a cegueira

A abordagem mais recente preferida dos especialistas é definir justiça em relação aos resultados, não aos insumos. Podemos direcionar algoritmos de maneiras mais ajustadas para determinar como queremos que uma máquina de igualdade se pareça.

O ambiente de aprendizagem

Quando aumentamos as capacidades dos sistemas preditivos, algumas pessoas podem ser prejudicadas, seja por imprecisão ou precisão. Não devemos perpetuar a discriminação histórica, mas também não podemos esperar que eles resolvam todos os nossos erros do passado em um passe de mágica.

Competência: o que tememos

No momento, o que mais tememos é a incompetência, por isso precisamos focar em melhorar nossos sistemas. Isso significa que temos que ser proativos na identificação de oportunidades e metas, atuando conscientemente hoje para moldar a máquina de igualdade de amanhã.

Da Condessa ao Algoritmo

Em meados de 1800, a Condessa de Lovelace criou o que hoje é considerado o primeiro algoritmo para um computador. O software nasceu como uma profissão feminina, mas quando a indústria cresceu, as mulheres foram deixadas de lado.

Sem pessoas de todas as origens e identidades trabalhando com IA, essa área não vai refletir a sociedade como um todo e certamente não vai incorporar os interesses dos mais vulneráveis.

A inspiração nos encontra trabalhando

Nos bastidores, em laboratórios de pesquisa, organizações sem fins lucrativos e escritórios governamentais, surgiu uma robusta comunidade de pesquisa dedicada a tecnologias éticas – cientistas e ativistas de IA, pesquisadores e líderes empresariais, muitos deles mulheres e negros.

Parte 2. Mente

Capítulo 2. Por trás da cortina de contratação

Estranhos para nós mesmos

Imagine uma máquina de igualdade que detecta disparidades e identifica maneiras de reduzir o viés no mercado de trabalho, desde o recrutamento inicial e anúncios de emprego até triagem de currículos, entrevistas, cultura no local de trabalho e equilíbrio entre vida pessoal e profissional.

Um algoritmo contrataria Lakisha Washington?

Há duas décadas, um grupo de psicólogos fez um experimento enviando 5 mil currículos fictícios e idênticos, mudando só o nome do candidato. Os “candidatos” receberam os nomes de Greg Baker, Jamal Jones, Emily Walsh e Lakisha Washington. O resultado foi que os nomes que soavam como de pessoas brancas receberam 50% mais chamadas para entrevistas. Se a decisão por algoritmos fosse devidamente monitorada e aperfeiçoada, poderia corrigir esse tipo de falha humana.

A piscina e o pipeline

Estamos em um momento em que muitas empresas estão de fato interessadas em diversidade. Por isso, precisamos pensar em como os anúncios de vagas podem ser exibidos para uma rede mais ampla de candidatos a emprego.

Ninjas codificadores

Atualmente, as empresas estão usando cada vez mais algoritmos de machine learning para prever e sinalizar a linguagem que cria viés de gênero durante o processo de recrutamento, como é o caso de expressões como “ninjas codificadores” e “herói”.

Triagem rápida e lenta

E se simularmos um processo de entrevista cega, impedindo que os recrutadores captem sinais que possam nos levar a descartar certas pessoas como indignas, de forma rápida e muitas vezes irracional? O estágio de triagem inicial é um lugar onde a tomada de decisão algorítmica é promissora, mas é preciso ter um projeto bem pensado.

Você joga Lacrosse?

Como a desigualdade está tão arraigada em nossa sociedade, todos os dados sobre um candidato a emprego correm o risco de serem corrompidos. A tecnologia pode nos levar adiante na igualdade, mascarando dados que podem contribuir mais imediatamente para contratações tendenciosas. A extensão do Google Chrome Unbias, por exemplo, remove rostos de perfis do Linkedin, e softwares de empresas como Interview-ing.io, Ideal e Entelo anonimizam nomes e identidades de candidatos.

Garra e jogos

Para analisar além do que é encontrado em currículos e referências, o setor de recrutamento está introduzindo novos tipos de algoritmos de contratação. Essa indústria crescente promete mitigar preconceitos e aumentar a diversidade, bem como a produtividade e, por fim, o sucesso no local de trabalho.

Escalando sucessos

Há poderosos que tentam encobrir seus rastros, manter sigilo e tentar bloquear a busca de informações que expõem a desigualdade. Precisamos garantir que as pessoas tenham o poder de usar os dados – e de explorá-los – para expor a desigualdade.

Algoritmos opacos, validação e política

As empresas são notoriamente discretas sobre suas estatísticas e processos internos, tentando proteger essas informações por trás de rótulos como “proprietário”, “confidencial” e “segredos comerciais”. No entanto, cada vez mais, vemos iniciativas para criar mais transparência e melhorar a auditoria de processos de triagem automatizados.

Capítulo 3. Conhecendo o seu valor

A fita métrica do bot

Quando os algoritmos analisam os padrões salariais em cargos e empresas – contabilizando habilidade, experiência, ocupação, setor, descrição de cargo e fatores como avaliação e desempenho – mulheres e minorias podem identificar disparidades e ter maior poder de negociação.

Bots para equidade salarial

As plataformas digitais acessíveis aos candidatos a emprego estão agregando petabytes de dados sobre o valor de mercado dos funcionários, apoiando demandas por salários iguais. O novo software também está permitindo que os empregadores detectem a discriminação salarial internamente.

Um bot pode negociar por mim?

A IA pode ajudar no futuro – talvez nem mesmo em um futuro distante – substituindo parte da negociação que ocorre em ambientes desiguais. As plataformas digitais podem servir aos funcionários, fornecendo conselhos e informações sobre como pedir um aumento ou se preparar para uma entrevista.

Potencial inexplorado

A InnoCentive, o maior mercado on-line para licitações de solução de problemas, tem um processo de revisão cega, removendo os nomes dos concorrentes. Assim, as mulheres que enviaram soluções para a plataforma tiveram 23,4% mais chances de vencer do que os concorrentes do sexo masculino, independentemente do campo da competição.

Shows e gigas

Para igualar o pagamento, as plataformas digitais podem obter dados ajustados sobre resultados, produtividade, serviços concluídos e pagamento por cada tarefa. Além disso, precisamos entender os efeitos líquidos de deslocamento e ganhos de empregos que inevitavelmente acontecem como resultado da inovação tecnológica. Os governos precisam ajudar a aliviar as transições e alavancar a IA para se prepararem melhor para essas mudanças de mercado.

Parte 3. Corpo

Capítulo 4. #BotToo

Iniciando um movimento

O movimento #MeToo, que exigiu que os sobreviventes de assédio sexual não fossem mais silenciados, é um dos exemplos mais poderosos de como a tecnologia pode desempenhar um papel fundamental no atendimento de nossa demanda por maior responsabilidade de indivíduos e corporações, facilitando a denúncia, rastreando as histórias de reclamações e expondo coletivamente as más condutas.

Mudança de mobilização

Dentro da estrutura global do ativismo, a conectividade digital tem sido crucial para os recentes movimentos de justiça social. A mídia social serve como uma ponte entre o ativismo de base e a reforma política.

Culturas desafiadoras de sigilo

O mundo digital criou e conectou comunidades de trabalhadores que defendem mudanças em todo o mundo. A tecnologia pode ajudar os funcionários a relatar experiências e lidar com reclamações de maneira mais segura e acessível, mas os movimentos de mudança só podem vir junto com a liderança humana.

Código vermelho

Alguns aplicativos permitem que os empregadores sinalizem os candidatos antes mesmo de serem contratados por representarem um risco de envolvimento em assédio sexual, violência no local de trabalho e outros comportamentos tóxicos. Mas a prevenção deve envolver também a análise feita por pessoas, para evitar injustiças.

Segurança além do trabalho

Fora do local de trabalho, os desenvolvedores de aplicativos têm procurado usar os mesmos tipos de sistemas descritos acima para incentivar a denúncia de violência sexual. Há muito mais que pode ser alcançado. Imagine um companheiro robô ou um drone convocado por uma mulher caminhando sozinha para casa à noite, por exemplo.

Destaque para o design digital

Mulheres e minorias online muitas vezes enfrentam cybermobs (grupo de atacantes que insultam ou ameaçam de forma organizada uma pessoa online) armados com misoginia e racismo em rede. A detecção algorítmica de cyberbullying ainda é nova e relativamente pouco confiável, e a ausência de regulamentação governamental deixou muitas dessas questões críticas nas mãos do mercado privado.

Uma máquina de empatia

As simulações podem ser professores valiosos, transmitindo percepções e ajudando as pessoas a aprender com situações que talvez nunca vivenciassem. As tecnologias de realidade virtual misturam experiências do mundo real com ambientes virtuais e têm se mostrado promissoras no ensino da empatia.

Revenge porn e deepfakes

A pornografia de vingança envolve o compartilhamento não consensual de imagens pornográficas e pode usar tecnologias deepfake, fazendo parecer que as pessoas são fotografadas ou filmadas em situações nas quais nunca estiveram envolvidas. Enquanto isso, especialistas em IA preveem o desenvolvimento de tecnologias para detectar vídeos falsos.

Um problema perverso

A eficácia das regulamentações online para combater o tráfico sexual é objeto de acalorados debates e esforços públicos e privados. A IA pode ajudar a prevenir o abuso sexual e detectar comportamentos ilegais, com a vantagem de executar tarefas muito mais rápido que os humanos.

Canalizando o reconhecimento facial para o bem

O reconhecimento facial traz enormes benefícios quando se trata de combater o tráfico e o abuso sexual, por exemplo, mas os danos de um reconhecimento impreciso – e as armadilhas legais e éticas da própria tecnologia – não podem ser subestimados.

Segurança, privacidade e vulnerabilidade

A tecnologia tem potencial tanto como arma quanto como escudo para os mais vulneráveis. Pode proteger e invadir a privacidade e, ao mesmo tempo, a própria privacidade pode ser um impedimento para outros direitos e liberdades.

Capítulo 5. Seios, ventres e sangue

A esperança do pâncreas biônico

A IA revoluciona a medicina de inúmeras maneiras, à medida que os bots assumem cada vez mais papéis na área da saúde. Há muito a comemorar e, para as pessoas com deficiência e riscos à saúde, muito a ganhar.

O “homem mutilado”

Durante séculos, a saúde da mulher foi negligenciada em comparação com a saúde do homem. Aristóteles chegou a descrever o corpo feminino como “um homem mutilado”. Atualmente, a tecnologia tem um enorme potencial para neutralizar o desequilíbrio histórico e o viés na saúde e na medicina.

Tudo sobre os seios

Um modelo de algoritmo pode prever o desenvolvimento do câncer de mama até cinco anos antes de um diagnóstico ser feito usando métodos tradicionais. Em outras palavras, o computador pode encontrar padrões nos primeiros estágios da mutação celular.

Potencial ilimitado

Com promessas e ressalvas, os dispositivos médicos de IA agora estão sendo aplicados para detectar câncer cervical, câncer pancreático, leucemia e muito mais. Há até perspectivas de que a IA acabe criando novas aplicações médicas sem a contribuição de um designer.

Algoritmos e embriões

O acesso à saúde reprodutiva, incluindo a escolha livre de quando reproduzir, é uma questão de liberdade e direitos humanos, não apenas de ciência e tecnologia. A IA já está ajudando mulheres grávidas de várias maneiras e tem potencial de avançar mais quanto à seleção embrionária.

A cor da saúde

Os avanços tecnológicos que reduzem os custos de triagem médica podem salvar vidas de pessoas em comunidades carentes, que carecem de seguro saúde ou acesso a cuidados de qualidade. A IA pode salvar vidas simplesmente fornecendo testes a um custo menor.

A cara da pesquisa

É crucial que mais mulheres e minorias estejam envolvidas na criação dos algoritmos. A participação diversificada na ciência médica, como em qualquer outro campo, está ligada a melhores resultados e design de pesquisa.

Cure o vírus, mate a fera

Além de trazer inovação para desafios específicos de saúde, o big data gira a narrativa sobre a desigualdade, oferecendo uma imagem mais completa das exclusões sistêmicas que há muito estão incorporadas em nossos sistemas de saúde.

Parte 4. Sentidos

Capítulo 6. Ela fala

O que há em um nome e uma voz?

Hoje, em nossas casas e ao nosso redor, encontramos assistentes pessoais ativados por voz, como Alexa e Siri. E eles são quase sempre femininos. Um exame feminista do fenômeno chatbot também precisa lidar com a sede do mercado por donas de casa artificiais – como começou, como está indo e como podemos moldar a IA para melhor emular a sociedade de amanhã, em vez da de ontem.

Sobre ecos e narcisismo

Embora todos os principais dispositivos do mercado tenham sido lançados com vozes femininas, muitos agora introduziram opções diferentes. Ainda assim, os padrões são rígidos e, quando a Apple e a Amazon anunciam Siri e Alexa, as vozes são sempre femininas.

Afinação perfeita

À medida que abrimos caminho para uma sociedade mais igualitária e inclusiva, ter opções femininas, masculinas, não binárias e não humanas é o caminho a seguir.

Bate-papo do chatbot

Como estamos interagindo cada vez mais com a IA como parte de nossas vidas diárias, agora é um momento oportuno para celebrar o espectro mais amplo de opções e experimentar designs que desafiam a categorização e os estereótipos.

Você me entende agora?

Os chatbots ativados por voz não apenas falam conosco, mas também nos ouvem. O reconhecimento de fala exemplifica como os dados parciais de treinamento levaram as máquinas a aprender mais sobre os padrões de fala dos homens brancos e menos sobre os das outras pessoas. Projetos de crowdsourcing e produtos de código aberto podem ser a melhor maneira de alcançar o nível de diversidade e inclusão que a sociedade precisa e merece.

A tradutora feminista

Os tradutores automáticos adotaram o gênero masculino por padrão durante anos, mas este problema é solucionável. As tecnologias de tradução aprendem com os dados de treinamento que recebem, e esses dados de treinamento consistem em centenas de milhões de textos já traduzidos que existem na web.

Mudando a melodia

Nomeação, voz e design físico são as características humanas que atribuímos às máquinas, e cada uma delas, sozinha ou em conjunto, pode transmitir gênero. Mesmo o menor sinal de comportamento ou personalidade gera a ilusão de que estamos nos conectando com uma entidade semelhante ao humano e não com uma mera máquina.

Mudando o roteiro

Pela associação de voz feminina com o gênero, até mesmo chatbots viram alvo de assédio sexual. Assistentes virtuais como Alexa e Siri têm recebido programações para não encorajarem comportamentos inadequados, mas as respostas dadas ainda são evasivas e pouco eficientes no que se refere a educar o consumidor.

Humanos no circuito

Em vez de projetar assistentes pessoais como mulheres e subservientes, devemos continuar a desafiar papéis e estereótipos, expandindo opções e escolhas de design.

Capítulo 7. Ver para crer

Lena era uma página central

Lena Forsén posou para a página central da edição de novembro de 1972 da revista Playboy. Um professor recortou a foto para usar em sua pesquisa sobre tecnologia de processamento de imagens e a modelo tem a imagem mais usada na história do aprendizado de máquina.

Somente em 2018, revistas científicas consagradas, como Nature e Scientific American, anunciaram que não considerariam mais artigos usando a imagem de Lena.

O wallpaper das nossas vidas

Os bancos de imagens moldam e espelham nossas ideias coletivas sobre palavras, coisas, pessoas e eventos. E o banco de imagens mais requisitado do mundo, Getty Images, tem mostrado avanços nos últimos anos. As imagens de mulheres estão menos sexualizadas, a busca por “mulheres programadoras” triplicou e a por “mulher CEO” aumentou 47%.

Você não pode ser o que não pode ver

As imagens podem se tornar virais e infectar nossa imaginação coletiva. Os bancos de dados podem impulsionar a diversidade na cobertura da mídia, marketing, conferências, campanhas políticas e eventos públicos. Os algoritmos também aprendem com as imagens, devorando o que aprendem a ver.

De Barbie CEO a diversas imagens de busca

Mesmo quando raça e gênero não aparecem como parte dos dados, se estiverem codificados em outros atributos, alinhados com ocupação, geografia ou classe social, o computador os aprenderá.

Espaço físico, experiência digital

O que vemos em nossos espaços públicos importa, e importa muito mais quando todos vemos as mesmas coisas como uma comunidade. Existe um imenso potencial na integração da tecnologia para trazer mais igualdade nesses lugares.

Testando nossos livros e a tela grande

Ao contrário de outras ferramentas, a tecnologia serve para identificar tendências inconscientes na mídia antes de estas serem divulgadas ao público. Além dos incentivos sociais, chegamos a um momento em que vale a pena buscar essa análise.

Contra “manels”

Como professora de direito, participei de inúmeras conferências nas quais quase todos os palestrantes são homens. Temos até uma hashtag para esses painéis: #manels. Com o machine learning para filtrar texto, áudio e imagens, podemos provar essas estatísticas, buscando reformas concretas e progressos significativos.

Parte 5. Coração

Capítulo 8. Algoritmos do desejo

O pool de estranhos perfeitos

O mercado do amor pode ser uma fonte de exclusão de longa data, ou pode se tornar o grande democratizador. Aplicativos de namoro online podem expandir o conjunto de possíveis pares amorosos e reestruturar nossos padrões como nunca antes.

Cultura de conexão de engenharia

Algoritmos estão classificando nossas identidades e categorias tangíveis, codificando nossos desejos como escolha do consumidor.

Deslizes e queixas

Como empresas de tecnologia em outros espaços digitais, a indústria de namoro online está se tornando mais concentrada, devido a aquisições e fusões. A escolha em plataformas online gera mais inovação e mais oportunidades para experimentar o design socialmente responsável.

Precisamos de proteção de namoro digital?

A moderação de conteúdo está cada vez mais integrando processos humanos e automatizados, mas preconceitos humanos e normas culturais ainda podem surgir ao longo do caminho. À medida que os algoritmos recebem informações mais contextuais e diferenciadas, eles melhoram.

Entre a fraude e a fantasia

A tecnologia pode liberar mais formas de brincadeira ou sexualidade. Uma máquina de amor pela igualdade – aproveitando a tecnologia a serviço do empoderamento – precisa navegar na tensão entre os desequilíbrios de poder e o desejo de igualdade.

A cor do amor

O desafio de prevenir as exclusões raciais continua, mas os aplicativos de namoro oferecem uma oportunidade de olhar para fora dos padrões que dominaram nossas vidas sociais no passado.

Monstros correspondentes

Poucos aplicativos de namoro possuem políticas antidiscriminação. Projetar algoritmos melhores significa que precisamos pensar se as preferências na correspondência amorosa são um tipo de discriminação que precisamos enfrentar como sociedade.

Capítulo 9. O prazer e o perigo de amar um robô

Motivos contestados

Como os projetistas de robôs continuam gastando muita energia descrevendo um futuro com um parceiro sexual perfeito, o controverso mercado de robôs sexuais vem crescendo.

Quem tem medo de robôs sexuais?

O argumento de ativistas sobre cada uma dessas áreas – prostituição, pornografia, robôs – é que sua existência legitima a objetificação nas relações humano-humano e normaliza o tratamento das mulheres como brinquedos a serem vendidos e explorados para o prazer masculino.

Lições da pornografia

Não há dúvida de que a indústria pornográfica é, assim como a indústria de robôs sexuais, altamente sexista. Um lado diferente do debate consiste em reivindicar e reescrever a narrativa por meio de empreendimentos sexuais de empoderamento feminino.

Autonomia sexual e seus limites

Não está claro como a introdução de robôs sexuais mudará as expectativas culturais em torno da relação sexual, mas a maioria de nós não está disposta a simular um ato ilegal, mesmo que nenhum ser humano real esteja sendo prejudicado.

Sim significa sim

Estudiosos temem que a disponibilidade de robôs sexuais torne o sexo não consensual prontamente disponível e aceitável, o que pode afetar o comportamento da sociedade nas interações reais.

Um lugar mais feliz

O uso de robôs sexuais também tem argumentos a favor, como segurança maior contra ISTs (Infecções Sexualmente Transmissíveis), uma possível diminuição de tráfico humano e também um paliativo para pessoas que têm dificuldades sérias de relacionamento.

De Barbie a Harmony

Conhecemos a Barbie há mais de sessenta anos. Hoje, conheça Harmony, que é um chatbot dentro de uma boneca de silicone em tamanho real. Ela ainda está longe de ser verdadeiramente inteligente, mas guarda memórias sobre seu parceiro e vai se lembrar de suas preferências e de suas histórias.

Machos de silicone

Temos também o Henry – a contraparte masculina de IA de Harmony. Ele pode interagir com os parceiros, elogiar e fazer comentários românticos.

A experiência tecno-sexual

A robusta indústria de tecnologia sexual está usando IA para atualizar a experiência humana. Já temos tecnologias que podem ler nossas respostas físicas, e a tecnologia do sexo pode aproveitar todos esses dados instantaneamente, com o machine learning descobrindo o que nos excita.

A cor dos robôs

As descrições de robôs sexuais não brancas geralmente incluem estereótipos racistas. Especialmente porque a linha é tênue entre humanos e robôs, temos a oportunidade e a responsabilidade de tomar medidas para garantir que isso não se torne a norma.

Sexo e tudo mais

O debate contínuo sobre bots sexuais é complicado e cheio de nuances. Há verdade em ambos os campos: aqueles que temem e aqueles que admiram. O melhor que podemos fazer é criar caminhos que apoiem uma introdução positiva de robôs, em vez de generalizações, suposições e proibições excessivamente simples.

Parte 6. Alma

Você, eu e nossa família humana/máquina

Desculpa, sou apenas um humanoide

Na melhor das hipóteses, a automação permitirá que os indivíduos dediquem mais tempo às atividades sociais e recreativas, e as políticas públicas podem se concentrar em aliviar as lacunas do mercado de trabalho. Agora, porém, as máquinas se parecem muito conosco.

Por que a forma humana?

Além da forma física, tamanho e forma, há também uma psicologia de conexão, intimidade e confiança. Quando os robôs são projetados para parecerem mais sociais e sensíveis, a maneira como interagimos com eles parece melhorar.

Companheiros artificiais

O robô designado pode acompanhar a pessoa ao longo de sua vida, atuando como cuidador, guarda-costas e amigo.

Robôs versus alienígenas

No Japão, há situações em que a robótica está a serviço de preservar papéis familiares tradicionais – inclusive com robôs parceiros, “marido e mulher”, prestando serviços domésticos ou em instituições. Em uma ironia da tecnologia, a inovação tem o propósito de manter a tradição.

O robô cuidador

No Japão, o robô Paro é usado em clínicas e hospitais para facilitar os cuidados com os pacientes, mas também funciona como um robô social, incentivando as interações e o otimismo quanto aos tratamentos.

A pandemia da solidão

Atualmente, os projetistas de robôs estão utilizando novas tecnologias e dados valiosos coletados para melhorar as expressões faciais e os sons do robô para provocar empatia e nos fazer sentir que estamos com alguém real.

Paternidade e as pessoas mais estressadas do mundo

O fardo das mulheres, que muitas vezes são as principais cuidadoras de crianças e pais idosos, pode ficar mais leve com a ajuda de robôs sociais.

Um amigo e um ajudante

Os bots capazes de oferecer suporte personalizado têm um grande papel a desempenhar na educação infantil. Estudos confirmam os benefícios da introdução de robôs corporificados, em vez de tela e áudio, em ambientes escolares.

Resiliência robótica

As crianças que têm vergonha de cometer erros na frente de professores ou colegas humanos não parecem ter o mesmo sentimento na frente de um robô, o que auxilia no aprendizado.

Nenhuma criança fica sem um par robô

O acesso à educação de qualidade pode corrigir lacunas na aprendizagem, resultantes da desigualdade socioeconômica e outras circunstâncias familiares. A integração de robôs sociais em escolas e comunidades de baixa renda é especialmente benéfica.

Alfabetização em IA e o clube do livro bot

Robôs são benéficos para a educação, mas é preciso ter cuidados para introduzi-los à rotina de crianças, explicando do que se trata a inteligência artificial, além de ter limites quanto a problemas de privacidade.

Robô garota cozinha, robô garoto mata

Robôs humanoides, em sua maioria, ainda reproduzem estereótipos de gênero – isso acontece na vida real e com robôs fictícios de filmes pretensamente futuristas. Ainda persiste o desafio de dissociar a inteligência artificial de padrões sexistas.

Epílogo: Agora construímos a máquina de igualdade

As máquinas somos nós

A trágica realidade da humanidade é que, muito antes de termos IA, criávamos ordens sociais desiguais. Hoje, os humanos estão se adaptando às máquinas assim como as máquinas estão se adaptando aos humanos.

Somos todos ciborgues agora

A aceleração sem precedentes das capacidades digitais e sua integração em nossas vidas significa que, inevitavelmente, a questão-chave é como a tecnologia pode ajudar a enfrentar os desafios de poder e desigualdade que estão no cerne de nossa sociedade.

De dentro para fora, de fora para dentro

A autorregulação e o autorrelato são sempre suspeitos. As falhas corporativas ressaltam a necessidade contínua de governo, academia e organizações sem fins lucrativos assumirem um papel ativo.

Governança regulatória

A tecnologia exige regulamentação. Parcerias público-privadas com empresas líderes e braços do governo estão em andamento, com o objetivo de criar padrões regulatórios que supervisionem a ética dos algoritmos.

Nosso novo recurso natural

Nossos espaços digitais e capacidades digitais são bens públicos. Dados são nosso novo recurso natural. Por isso, a intervenção pública é importante nas fases de concepção, projeto, melhoria e disseminação.

Tensões normativas

A tecnologia ajuda a cristalizar os pontos e o grau de tensões que sempre enfrentamos. Equilibrar igualdade e anonimato, inclusão e credibilidade, segurança e privacidade – esses sempre foram desafios políticos em uma sociedade democrática.

A grande reinicialização

Precisamos tanto reformar o sistema por dentro quanto observá-lo, questioná-lo e criticá-lo por fora. Também precisamos nos comprometer a combater as causas profundas da desigualdade, que vão além de qualquer tecnologia específica.

Ficha técnica

Título original: The Equality Machine: Harnessing Digital Technology for a Brighter, More Inclusive Future

Autora: Orly Lobel

Primeira edição: PublicAffairs

Resumo: Gisele Navarro