Escape from Model Land – How mathematical models can lead us astray and what we can do about it

Autora: Erica Thompson

Ideias Gerais

1. Modelos matemáticos são fundamentais para analisar a imensa quantidade de dados do mundo contemporâneo. Mas é importante entender suas limitações em relação à realidade. Para discutir o assunto, a autora propõe a imagem do Model Land (Mundo dos Modelos), em oposição ao mundo real.
2. Esses modelos são como metáforas ou caricaturas do mundo real, em que algumas características são consideradas e outras, desprezadas. Para qualquer situação real, há vários modelos possíveis. A escolha e a construção dos modelos são influenciadas por aspectos sociais e culturais. Os modelos são uma simplificação, necessariamente imperfeita, do mundo real.
3. Mesmo quando não são corretos, modelos são uma ferramenta útil na tomada de decisões, ao ajudar na construção de uma narrativa e funcionar como o ponto de partida para a reflexão sobre o problema em questão. No entanto, eles não fornecem uma resposta pronta. Decisões quase sempre têm de levar em conta considerações políticas, morais, sociais e outras que estão fora do escopo dos modelos.
4. Apesar do uso intensivo de modelos na economia, eles não garantem a previsão correta de variáveis como o preço futuro de ações ou o risco de seguros. Nos dois casos, há incertezas que não são quantificáveis e, por isso, que não se prestam à modelagem. Em alguns casos, os próprios modelos acabam influenciando o comportamento dos agentes e interferindo no mundo real.
5. Modelos que lidam com um grau muito elevado de complexidade, como os modelos de clima, estão sujeitos ao efeito borboleta e ao efeito mariposa. O primeiro refere-se à intensificação ao longo do tempo de um pequeno desvio na coleta de dados iniciais. O segundo é análogo ao efeito borboleta, mas se refere a problemas na estrutura do modelo.
6. Por servirem de base para políticas públicas, modelos na área de saúde pública e epidemiologia estão mais sujeitos ao escrutínio democrático. A confiança nos modeladores é fundamental. Também é importante que os modelos considerem a diversidade da população e um passo nessa direção é garantir que os modeladores reflitam essa diversidade.
7. Apesar de limitações e imprecisões, os modelos são ferramentas indispensáveis para a tomada de decisão. O fundamental é ter em mente que essas limitações existem na hora de atuar no mundo real.

Sobre a autora

Erica Thompson é PhD pelo Imperial College e pesquisadora sênior no Data Science Institute da London School of Economics e no London Mathematical Laboratory. Seus trabalhos recentes envolvem estudos sobre as limitações dos modelos de propagação da covid-19, crises humanitárias e mudanças climáticas.

Capítulo 1 – Localizando Model Land

O objetivo dos modelos de relação entre informações é o de tentar prever como tornar nossas ações mais efetivas em relação a um objetivo no futuro.

Para encontrar respostas para essas questões, selecionamos dados da realidade que precisam de respostas no mundo real e entramos no Model Land (Mundo dos Modelos).

Nem tudo é conhecido no Model Land. Há incertezas, algumas delas quantificáveis, outras não.

Uma das premissas do livro é a de que incertezas não quantificáveis são importantes e onipresentes. Elas devem ser levadas em conta durante o processo de decisão. Para isso, temos de entender as limitações dos modelos, o contexto político, sair do Model Land e construir hipóteses sobre o mundo real.

Embora alguns cientistas prefiram pensar que modelos estão confinados à arena científica dos fatos, dados e possibilidades, está muito claro o grau de entrelaçamento dos modelos com valores sociais, éticos e políticos.

Apesar de ser fácil entrar em Model Land, não é tão fácil sair dele e voltar ao mundo real.

Após ter construído um modelo belo e coerente internamente, assim como um conjunto de métodos de análise que descrevem o modelo em detalhes, pode ser emocionalmente difícil reconhecer que as suposições iniciais sobre as quais tudo foi construído não são literalmente verdadeiras.

Capítulo 2 – Pensando dentro da caixa

Para encaixar a complexidade do mundo dentro de um modelo é preciso primeiro simplificá-la. Nos modelos, existe um conjunto de regras e é possível realizar determinadas análises. Mas, por causa dessa simplificação, cada modelo só consegue responder a determinadas questões e só é capaz de oferecer alguns tipos de resposta.

A vantagem dos modelos matemáticos é a possibilidade de desconsiderar qualquer aspecto da situação que não seja imediatamente relevante, controlável ou importante.

Ao desconsiderar esses aspectos, nós podemos reduzir o problema à sua essência, destacando apenas as relações de causalidade e desenvolvendo insights sobre o comportamento do objeto.

A arte do design de modelos consiste em traçar fronteiras suficientemente largas para incluir os fatores importantes e, ao mesmo tempo, suficientemente estreitas para permitir que o modelo resultante possa ser implementado de maneira útil.

A importância dos fatores vai mudar de acordo com o tipo de pergunta que você fizer e com o seu nível de tolerância à incerteza.

Mas, quando você pergunta algo dentro do escopo do modelo, é preciso saber que as respostas possíveis também estão condicionadas aos limites deste modelo.

Capítulo 3 – Modelos como metáforas

A capacidade de elaborar e usar metáforas para gerar novas percepções ou por diversão é o que está por trás de nossa propensão à construção de modelos.

Quando criamos uma metáfora, modelo ou até um meme, estamos reformulando uma situação a partir de uma nova perspectiva, enfatizando um aspecto e desprezando outros.

Esses modelos podem ser úteis, mas também podem ser completamente inúteis ou perigosamente enganosos.

Os modelos podem ser corretos, no sentido de expressar uma forma de pensar sobre uma situação, e, ao mesmo tempo, estar errados, factualmente incorretos. Os átomos não consistem em pequenas esferas orbitando um núcleo, mas pode ser útil imaginá-los dessa forma.

Uma vez que cada modelo representa apenas uma perspectiva, existem infinitos modelos diferentes possíveis para qualquer situação dada.

A construção de modelos também está sujeita a aspectos culturais específicos, que dependem das tradições matemáticas e sociais do ambiente em que são criados, tanto para a construção conceitual e técnica do modelo, quanto para a definição da adequação ao propósito. E isso muitas vezes acontece sem que os criadores dos modelos percebam que existem outras opções.

Explicabilidade é um conceito que vem ganhando importância: para ter certeza de que temos a resposta correta pelos motivos corretos, queremos explicações sobre o motivo da resposta. Se elas não puderem ser dadas, não é possível saber se a resposta correta que estamos obtendo veio pelos “motivos certos”.

A explicabilidade por si só não é suficiente para distinguir um bom de um mau modelo, especialmente quando há fatores concorrentes trabalhando em direções opostas. Usar a explicabilidade como critério para determinar a confiabilidade de um modelo levanta uma questão: como saber que estamos realmente explicando e não apenas construindo uma racionalização a posteriori?

Capítulo 4 – O gato que mais se parece com um cachorro

Os métodos matemáticos usados para analisar modelos são tão importantes quanto os próprios modelos. Precisamos de uma avaliação especializada para criar modelos, o que nos leva ao Model Land, e para sair dele, somente por meio da análise e da interpretação dos resultados.

O problema fundamental ao tentar modelar a realidade é que a vida real só acontece uma vez: cada situação é diferente. Para superar esse problema, muitas vezes recorremos a estatísticas sobre coisas que podem ser observadas ou que já aconteceram para chegar a conclusões sobre as propriedades de coisas que não podem ser observadas ou que ainda não aconteceram.

A pergunta aqui é: quais situações ou coisas são suficientemente semelhantes a outras para serem úteis como analogias?

O conceito chave é a intercambiabilidade: a ideia de que, embora os membros de um grupo possam ser ligeiramente diferentes, nenhum membro é especial, portanto, as características de um grupo são uma boa estimativa estatística das características do indivíduo.

Desta forma, tudo o que precisamos fazer é definir o grupo ou classe de referência dentro da qual todos os membros são intercambiáveis.

Leis sobre a realidade são apenas modelos de leis. Como as previsões dependem de todas as outras condições permanecerem iguais, todas as previsões são condicionais.

Por isso, muitos resultados científicos se mostram inadequados para descrever o mundo real. Também é por isso que as Ciências Sociais, por serem indissociáveis do mundo real, são muito mais difíceis do que as Ciências Exatas e da Natureza.

Capítulo 5 – Ficção, previsão e convicção

Os modelos podem ser úteis para ajudar na tomada de decisão quando são precisos, até mesmo quando não o são. O auxílio psicológico de ter uma estrutura para pensar e a forma como os modelos ajudam a formar narrativas em torno de diferentes cenários significam que, mesmo sem precisão preditiva, ainda pode haver benefícios na modelagem — mas temos de ter cuidado.

Discussões sobre o futuro precisam de uma base suficiente de terreno comum entre as pessoas para qualquer especulação fazer sentido. Em menor escala, todas as nossas conversas sobre o futuro são influenciadas pelas nossas expectativas.

Encontrar um terreno comum no qual a discussão possa ocorrer entre pessoas com perspectivas diferentes é mais necessário do que nunca na era da internet, da polarização crescente e das crises globais.

Todas as decisões do mundo real são necessariamente uma questão de valores: qual é o resultado pretendido? Quem se beneficiará? Quem pagará? Qual dano colateral é aceitável? Que riscos são toleráveis?

Nos últimos anos, cada vez mais a discussão em ambientes de tomada de decisão em maior escala tem sido baseada em modelos numéricos quantitativos, que preveem elementos detalhados do futuro.

Sem acordo sobre os elementos básicos desses modelos, os oponentes acabam atirando em diferentes elementos dos modelos usados pela “outra parte” em vez de se envolverem no debate muito mais fundamental sobre valores e resultados.

A teoria narrativa de convicção, desenvolvida por David Tuckett e colegas, é uma teoria psicológica sobre tomada de decisões em situações de incerteza radical, que parte do pressuposto de que as decisões humanas não são racionais no sentido tradicional, mas impulsionadas pela emoção.

A narrativa de convicção permite que os tomadores de decisão se convençam da razoabilidade de seguir um determinado curso de ação e, secundariamente, é uma maneira de explicar e justificar a decisão para os outros.

Capítulo 6 – O déficit de responsabilização

Se o objetivo dos modelos é permitir a tomada de decisões melhores, é preciso definir o que é uma decisão melhor. Quando falamos de tomada de decisão, um cálculo utilitário raramente é a única consideração a ser levada em conta.

Questões mais complexas envolvem responsabilidade e julgamento moral, bem como emoção, política, poder social, relacionamentos ou estética. Todos esses aspectos dificilmente são considerados pelos modelos.

Modelos informam, mas não deveriam tomar decisões. Humanos tomam decisões e as informações obtidas a partir dos modelos sobre “consequências da ação A em relação à ação B” são apenas um dos muitos fatores em qualquer processo de tomada de decisão.

Terceirizar a decisão para o modelo tem um grande problema: a incomensurabilidade dos julgamentos de valor.

Tipicamente, essa capacidade de medir os modelos é alcançada pela atribuição de um valor monetário. Essa é a lógica subjacente, por exemplo, na análise de custo-benefício, dos ‘serviços ecossistêmicos’ e da compensação de carbono.

Em alguns casos, estamos até negociando coisas que têm as mesmas unidades, mas diferentes qualidades distributivas: carbono emitido por uma pessoa durante um voo frívolo para Las Vegas compensado por carbono sequestrado em um pedaço da floresta amazônica que um pequeno agricultor concorda em não derrubar.

Os modelos matemáticos não precisam fazer isso: sempre podemos escolher manter as grandezas incomensuráveis separadas.

A possibilidade de ter ações insuficientes ou excessivas devido a uma previsão incorreta dos modelos, introduz uma nova variável na tomada de decisão. Tomar ações insuficientes é uma falha humanitária; tomar ações excessivas é um desperdício de recursos que poderiam ter sido usados ​​em outro lugar.

Há pontos cegos na lacuna entre o Model Land e o mundo real: tanto pontos cegos matemáticos inevitáveis – como a incapacidade de extrapolar com segurança além das condições conhecidas – quanto pontos cegos sociais, como a incapacidade de considerar e valorizar resultados não quantificáveis.

É importante não jogar o bebê fora junto com a água. Se é um problema confiar demais nos modelos, é igualmente um problema confiar pouco neles. Muitas vezes os modelos trazem informações úteis e oferecem uma estrutura para pensar o futuro.

Capítulo 7 – Donos do universo

Apesar do grande uso de modelos na economia, continuamos enfrentando grandes incertezas sobre o resultado de variáveis econômicas modeladas. Exemplos disso são a previsão do preço de ações ou de potenciais prejuízos na área de seguros.

Eventos como a crise financeira global de 2007–2008 colocaram os modelos matemáticos no centro do debate e levaram a uma reavaliação do seu papel na avaliação de riscos por parte de investidores e de órgãos reguladores.

Uma das dificuldades do uso de modelos na área econômica é que algumas possibilidades não são quantificáveis, como o risco de uma mudança regulatória ou a criação de uma tecnologia disruptiva.

Muitas vezes, as diferenças entre o mundo real e o mundo dos modelos não é considerada, o que nos afasta da realidade.

Mais do que uma representação externa das forças do mercado, alguns modelos se tornam uma força em si, influenciando o comportamento de investidores e os preços.

Um desses casos é a adoção generalizada da equação de Black-Scholes no mercado acionário. A crença nesse modelo faz com os preços de ações no mundo real convirjam para suas previsões — situação que não tem como durar para sempre.

Outro obstáculo é que os incentivos para a gestão de riscos não são equilibrados. Há lucro a ser obtido com a caracterização incorreta do risco, e especialmente com a subestimação dele. Quem avalia o risco de maneira correta nem sempre é recompensado ou reconhecido devidamente.

Além disso, temos que reconhecer que o risco absoluto é inerentemente incalculável. Estabelecer limites quantificados de exposição ao risco também incentiva as instituições a maximizar sua busca de risco dentro desse limite, mesmo quando pode não ser uma boa ideia fazê-lo.

A lacuna entre o Model Land e o mundo real pode não ser necessariamente grande, mas varia ao longo do tempo e não pode ser prevista por meio da análise de dados do passado.

Por isso, uma estratégia para a supervisão dos mercados no longo prazo deve levar em conta uma síntese entre modelos matemáticos e julgamento humano.

Capítulo 8 – A atmosfera é complicada

Os modelos do mundo físico têm algumas vantagens sobre os modelos de fenômenos sociais. O físico geralmente parte da expectativa de que há algo real a ser modelado e a realidade não é afetada pelo modelo.

No entanto, sistemas complexos como o clima têm propriedades matemáticas que significam que precisamos ter uma abordagem mais cuidadosa para a previsão e avaliação do desempenho do modelo.

Quando os modelos interagem com decisões sociais e políticas, como na modelagem do clima, também precisamos começar a pensar nas dimensões sociais e políticas dos próprios modelos.

Uma das fontes de imprevisibilidade nos modelos é o chamado efeito borboleta: pequenas mudanças nas condições iniciais podem resultar em resultados completamente diferentes após um período relativamente curto de tempo.

Mas, para sistemas complexos e não-lineares como o clima, pequenos erros de modelo podem resultar em grandes erros de previsão, em períodos ainda menores. Esse é o chamado efeito mariposa.

O efeito mariposa é análogo ao efeito borboleta, mas, em vez de sensibilidade à condição inicial, descreve a sensibilidade à estrutura do modelo.

A existência do efeito mariposa não é motivo para duvidar da física básica das mudanças climáticas, também não é motivo para duvidar que as características das projeções feitas por modelos climáticos sejam possibilidades reais.

É apenas um motivo para ser cauteloso na interpretação das projeções detalhadas dos modelos climáticos e especialmente cauteloso na atribuição de probabilidades aos resultados.

Isso reforça a posição a favor de maiores esforços na mitigação das mudanças climáticas por meio da redução de emissões como forma de obter alguma margem de segurança.

Conforme a modelagem quantitativa se tornou mais eficaz, a quantificação do clima atual e futuro se traduziu em financeirização. Isso possibilita comparar o ônus de permitir a mudança climática com os custos da ação para evitá-la.

A questão é que nem sempre o ônus está distribuído igualmente. Além disso, há efeitos difíceis de medir em termos econômicos. Como atribuir um valor a perdas intangíveis como casas de família inundadas, perda de acesso à natureza ou os impactos na saúde mental de eventos extremos?

Capítulo 9 – Totalmente sob controle

Modelos sobre como doenças surgem ou se espalham informam os tipos de ações que indivíduos e sociedades tomam em resposta à incidência de doenças.

Por exemplo, modelos que preveem como as mudanças climáticas podem afetar a propagação de doenças transmitidas por mosquitos, informam a escolha de medidas preventivas, como a remoção de recipientes de água parada ou o uso de inseticidas.

Modelos mais complexos geralmente implicam maior desigualdade de conhecimento, uma vez que nem todos têm tempo para investir em compreendê-los. Eles também fazem maiores demandas sobre as relações sociais existentes, uma vez que exigem confiança nos especialistas para manter sua legitimidade.

Dado que o modelo assume tanto poder para moldar essas relações e o conteúdo e resultado de diálogos, é particularmente importante que ele esteja sujeito a críticas democráticas.

A diversidade de idade, classe social e origem étnica é tão importante quanto a de gênero e raça. Como o viés existe, a única maneira de contornar isso é melhorar a representatividade dos modeladores.

Atuando na fronteira entre ciência e política, o modelo é um quadro para os formuladores de políticas não especializados se familiarizarem mais com as relações entre possíveis intervenções (decisões) e alguns de seus possíveis resultados observando os resultados de diferentes tipos de cenários.

Quando os modelos são usados ​​para persuadir e informar, é preciso cuidado para garantir que eles não ultrapassem a linha da manipulação ou coerção.

A ciência não pode nos dizer como valorizar as coisas; fazê-lo envolve puramente julgamentos morais humanos. Como tal, a ideia de “seguir a ciência” é sem sentido.

Para chegar a uma decisão de ação, devemos decidir sobre um conjunto de valores. Em uma democracia que visa tomar decisões no melhor interesse dos cidadãos, esses valores devem ser transparentes, e as vozes e interesses de todos os cidadãos precisam ser ouvidos e ponderados juntos em uma base igualitária.

Esses processos políticos estão fora do Model Land, mas são pelo menos tão importantes quanto a matemática por trás dos modelos e geralmente muito mais importantes.

Capítulo 10 – Saindo do Model Land

Dado que as decisões reais são tomadas no mundo real, as pessoas desenvolvem formas de lidar com a incerteza da realidade. Os modelos de computador que construímos são sombras de baixa dimensão do ambiente multidimensional onde os organismos reais existem.

Talvez deixar o conhecimento do futuro para os deuses seja a melhor opção, mas a recusa completa de informações baseadas em modelos é uma fuga pouco atraente do Model Land, especialmente onde as apostas são altas. Às vezes, precisamos de toda ajuda possível.

Um argumento crítico em favor da continuação do uso de modelos matemáticos é o seu inegável sucesso no passado. Em suma, devemos partir de uma posição de confiança de que os modelos matemáticos e a linguagem matemática são, em si mesmos, úteis para representar o conhecimento sobre o estado atual da natureza e pensar sobre seu estado futuro.

Escapar do Model Land se torna uma questão de entender a escala temporal (ou outras circunstâncias) na qual nossas previsões se tornam menos úteis e, eventualmente, irrelevantes.

Assim como não existe um modelo perfeito, não existe uma decisão perfeita.  Ao decidir se devemos esperar por mais informações científicas disponíveis, também devemos considerar se as outras informações que temos estão evoluindo.

Em muitos casos, uma melhoria da ciência ou dos modelos não muda a imagem geral da decisão, que inclui discordâncias políticas, custos de oportunidade e uma narrativa geral de convicção sobre a situação e como ela pode evoluir no futuro.

Model Land não é uma realidade puramente matemática, mas uma ideia social. A modelagem matemática é uma ferramenta poderosa para construir narrativas sobre ações futuras e os custos e benefícios de diferentes resultados. Como tal, ela merece seu lugar na mesa de tomada de decisões políticas. Mas a questão sobre como devemos agir no mundo é sempre uma questão moral.

Ficha técnica:

Título original: Escape from Model Land: How Mathematical Models Can Lead Us Astray and What We Can Do About It

Autora: Erica Thompson

Primeira edição: Basic Books

Resumo: Asdrúbal Figueiró