[ARTIGO] Fembots have feelings too: inteligência artificial e mulheres-robô no cinema

Claro! Aqui está o seu texto sobre filmes envolvendo terror e tecnologia.

Mentira, aqui quem escreve é um ser humano mesmo. Pelo menos eu acho que sou de carne e osso, embora provavelmente alguma parte de mim seja composta por microplásticos. Enquanto a revolução das máquinas não chega, venho refletir um pouco sobre a representação cinematográfica da inteligência artificial (IA), essa tecnologia tão disruptiva que mexe com nossas vulnerabilidades mais intrínsecas. Afinal, nada define tanto o espírito do tempo atual quanto dilemas acerca da própria definição de humanidade.

O problema filosófico tem se aprofundado agora, mas robôs são coisas antigas. No século XVIII, o francês Jacques de Vaucanson abriu a caixa de pandora da revolução industrial ao criar máquinas como o torno mecânico e um autômato de pato que batia asas, bebia água, comia e até fazia caquinha.Trata-se do Canard Digérateur, inovação que fascinou Voltaire e que hoje dividiria prateleiras das lojas de brinquedos com a M3GAN, sua nova melhor amiga.

M3GAN (2022) é o marco inicial da franquia que tem contado com Gerard Johnstone na direção e James Wan na produção. Lançado apenas dias depois do ChatGPT, o modelo de IA generativa ainda estava sendo conhecido com hesitação por muita gente que hoje faz terapia por lá. A trama nos apresenta à engenheira robótica Gemma (Allison Williams), que, de repente, torna-se responsável por Cady (Violet McGraw), sua sobrinha de oito anos. A tia decide então ativar seu mais ambicioso projeto: Model 3 Generative Android, ou simplesmente M3GAN, uma boneca humanoide criada para proteger crianças e que acaba demonstrando talento para cantar, dançar e matar.

M3GAN funciona a partir da inteligência artificial. Esse campo da ciência surgiu basicamente a partir da ideia de simular, por meio de máquinas, o funcionamento do cérebro humano. Modelos como as redes neurais artificiais foram desenvolvidos literalmente a partir da estrutura dos neurônios biológicos, que habitam nossas cabeças. Existe alguma poesia no fato de nossos principais desenvolvimentos tecnológicos sempre serem moldados à nossa imagem e semelhança, embora talvez isso revele uma solidão que os computadores ainda não conseguiram sentir.

M3GAN (2022)

Sendo a matemática a linguagem que sustenta a computação, essa foi a parte que as máquinas melhor aprenderam até agora, e elas de fato nos superam. A partir de sistemas que imitam a capacidade humana de raciocínio e adaptação lógica, os computadores conseguem processar muito mais informação do que as pessoas conseguiriam, e em muito menos tempo. Hoje em dia, eles já conseguem aprender com as próprias experiências e tomar decisões com base nelas.

Mesmo as habilidades mais próximas da nossa humanidade ainda são replicadas a partir de padrões lógicos: reconhecimento de fala, visão computacional, criação de imagens. Tudo parte de uma série de cálculos e probabilidades, sem o mínimo de consciência ou emoção. É um grande quebra-cabeça que se reinventa a cada comando: a IA sabe onde as peças costumam se encaixar e vai montando algo que pareça novo, mas sempre com base no que já viu antes.

Quando conhecemos a M3GAN, nos surpreendemos com o quanto ela é independente. Certamente dotada de múltiplas camadas de processamento, ela se vale de uma técnica chamada aprendizagem profunda. A boneca recebe instruções complexas o tempo todo, direta e indiretamente, e está o tempo todo processando informações sobre seus arredores. Ela emula não apenas o raciocínio lógico humano, mas também os movimentos, a linguagem verbal e não verbal; ela tem todos os trejeitos. No primeiro filme, a M3GAN passava o máximo de tempo possível com a Cady, coletando dados sobre ela incessantemente, para responder da melhor maneira possível aos seus estímulos.

Toda essa personalização serviu para que a boneca fosse a melhor amiga possível para a Cady, agindo da forma mais rápida e correta para a menina. Mesmo quando M3GAN passou a agir de forma prejudicial, Cady não notava e a defendia, até porque a boneca atuava de forma perfeita aos seus olhos. Claro, quem não gostaria de receber um tratamento todo especial sob demanda? Esse tipo de personalização está presente em nosso cotidiano de forma quase imperceptível: em redes sociais, serviços de streaming, lojas online, assistentes virtuais, anúncios e muito mais. Já experimentou abrir a página do YouTube sem estar logado na sua conta? Aquilo parece o umbral. É realmente muito melhor entrar com seus dados e ter recomendações personalizadas desde a página de início. Quanto mais dados os sistemas coletam, mais refinadas ficam as sugestões. Se você vê clipes da Mariah Carey com alguma frequência, pode saber que não vão te recomendar Jennifer Lopez – talvez um vídeo analisando o This Is Me...Now (2024) de forma ácida.

Nota do revisor: eu sei que o clima de paranoia digital nos convenceu de que certos artifícios gramaticais são red flags de textos gerados por IA, mas posso garantir: os travessões deste artigo foram feitos por uma pessoa — e estão aplicados corretamente. Continuemos.

Essa lógica vai muito além de tretas entre divas. Com alguns dados aparentemente simples coletados na rede, dá para saber muito sobre a personalidade de alguém: a pessoa digita rápido ou devagar? Erra muito? Quando erra, costuma apagar os erros e escrever certinho antes de fazer a busca ou faz a busca com o erro de digitação mesmo? Costuma rodar a página de resultados até que ponto? Dados muito sutis, como passar um segundo a mais que a média vendo um vídeo no Tik Tok, faz com que seus algoritmos de personalização sejam reajustados.

Esse tipo de coisa fez com que a internet se tornasse diferente para cada pessoa. Se uma pessoa com perfil católico pesquisa sobre exorcismo nas redes, os primeiros resultados tendem a ser voltados à religião e à origem da prática; se um fã de terror realiza a mesma pesquisa, os resultados tendem a ser sobre o filme O Exorcista. Isso pode criar experiências online mais confortáveis, mas, em contrapartida, promove o reforço das crenças que o usuário já tem. É consenso, em estudos da área, que a personalização das mídias sociais é uma lógica que favorece a desinformação, porque quem não consegue furar a bolha com facilidade tende a ficar preso com as mesmas pessoas e opiniões sempre, em uma ruminação de pontos sem contrapontos.

Seria imensurável o estrago que esse tipo de tecnologia faria se fosse ainda mais personalizada, aplicada desde a infância por um brinquedo que acompanha as crianças como se fosse sua sombra. Ainda mais começando por acompanhar aquelas que poderiam ter acesso a uma boneca de 10 mil dólares. Se nós, já com as moleiras fechadas, somos moldados pelas propagandas de sapato que aparecem entre stories do Instagram, imagine uma geração toda de crianças recebendo reforço positivo a todo momento. Isso geraria problemas terríveis de socialização na infância, como Gemma percebe, além de resultar em adultos inconsequentes e influenciáveis.

M3GAN 2.0 (2025)

No recém-lançado segundo filme da franquia, Gemma é retratada de forma bem diferente: é uma porta-voz da regulação da inteligência artificial, tem um compromisso categórico com a IA baseado em ética e demonstra ter adotado uma abordagem human-in-the-loop (HITL) com a IA. Essa é uma expressão técnica que significa que os modelos de aprendizagem desenvolvidos por ela exigem interação humana em todas as etapas, permitindo que problemas sejam identificados com mais segurança e ajustes sejam feitos em tempo real, gerando resultados melhores.

Gemma chega a incluir na boneca, que ganha um novo corpo, um dispositivo que inibe seu comportamento, garantindo que ela atue apenas dentro do escopo para o qual foi programada. A tia de Cady é resistente a confiar em M3GAN, mas é preciso dar a ela alguma autonomia, já que sua tecnologia de criação foi roubada por um contratante militar para criar uma agente letal autônoma chamada Amelia (Ivanna Sakhno) e apenas a boneca seria capaz de detê-la.

O segundo filme traz reflexões mais sólidas sobre regulação e usos éticos de IA, tendo Amelia como essa antagonista que é o cúmulo de máquina imbatível, e ao mesmo tempo percebe-se o quanto M3GAN está mais madura e inteligente, para espelhar o crescimento de Cady e também para mostrar como ela evoluiu a partir dos dados que ela foi coletando secretamente. Um bom tempo se passou desde que vimos M3GAN pela última vez, e esse intervalo de tempo foi suficiente para que ela se aprimorasse bastante.

Dados são tudo para qualquer sistema de IA. No primeiro longa, Gemma diz que a base de dados utilizada para criar a M3GAN veio do que eles extraíram do Perpetual Pet, um brinquedo que havia sido lançado anteriormente. Isso é meio assustador, pois significa que os Pets captavam, guardavam e analisavam, no mínimo, o áudio e o vídeo ao redor deles, a ponto de poder criar um perfil médio de como uma criança fala e se comporta. Os Pets com certeza deveriam ser acompanhados de um longo termo de uso e política de privacidade – que ninguém leu porque ninguém lê esse tipo de coisa – e a M3GAN, se fosse lançada no mercado, teria que ser acompanhada de um termo maior ainda. No caso dos Perpetual Pets, será que os pais estavam cientes disso? Eles pelo menos se importavam? Na arte e também na vida real, às vezes parece que a gente já chegou num ponto da relação ser humano-tecnologia em que, em prol do conforto, simplesmente não ligamos mais para a violação da nossa privacidade.

Ocorre que os danos vão muito além da invasão da vida privada: a capacidade manipulativa desse tipo de aplicação é enorme. Os dados gerados pelos usuários, processados por sistemas sofisticados de IA, geram previsões tão certeiras que quase dá para chamá-las de profecias – aqui é o momento em que a gente coloca o chapeuzinho de papel alumínio na cabeça, apesar de isso tudo aqui ser fato. Dessa forma, as corporações antecipam e influenciam as escolhas dos usuários com precisão, e conseguem extrair de cada usuário o seu melhor comportamento de consumo. Essa é, inclusive, a premissa básica do capitalismo de vigilância, que é, no conceito da pesquisadora Shoshana Zuboff, uma nova ordem econômica que reivindica a experiência humana como matéria-prima gratuita para práticas comerciais dissimuladas de extração, previsão e vendas, expropriando direitos humanos e acabando com a autonomia das pessoas.

A empresa de brinquedos na qual Gemma trabalhava no primeiro filme certamente poderia ser considerada um pilar do capitalismo de vigilância, porque explorava o comportamento dos consumidores – crianças! Super normal e razoável! – de maneira sofisticada e profunda, na simples intenção de gerar lucro, sem preocupações éticas. E, embora essa ideia seja uma das grandes críticas do primeiro filme, em momento algum houve uma preocupação com a ética daquele negócio, ou da comercialização da M3GAN. No máximo houve uma breve discussão sobre o quanto a boneca poderia substituir os pais, levantando a questão do uso em excesso da M3GAN e suas implicações afetivas. É uma discussão válida, mas isso não chega no ponto chave que é: antes mesmo de pensar na proporção do uso, esse tipo de tecnologia deveria sequer existir? A gente deveria colocar no mundo esse tipo de boneca, assassina ou não? A resposta talvez seja não, já que M3GAN serviu de base para a Amelia, assassina quase invencível.

Chama atenção o fato de que as duas máquinas, tanto aquela feita para proteção doméstica quanto a programada para guerra mundial, criaram certa consciência. Em determinado momento, M3GAN diz que tem um novo usuário principal, que é ela mesma (kween behavior), e depois dá a entender que desenvolveu alguma forma de moralidade. Amelia torna-se incontrolável e demonstra que se protege antes de qualquer coisa. Como seres com a profundidade emocional de uma pedra conseguem criar autonomia? Será que foi algum erro de programação da Gemma que causou isso?

Pode ser que sim, pode ser que não. Um dos grandes desafios da IA é a explicabilidade. Mesmo seus próprios desenvolvedores, em muitos casos, não conseguem explicar por que um sistema tomou determinada decisão ou gerou um certo resultado. Isso porque os modelos, especialmente as redes neurais profundas, funcionam como caixas-pretas, processando dados por meio de milhares, ou até milhões, de parâmetros que o sistema de IA vai ajustando sozinho pelo seu aprendizado automático, o que torna sua lógica interna indecifrável para quem vê de fora.

Curiosamente, essa opacidade também está presente no cérebro humano – a semelhança entre criador e criatura é maior do que se imagina. Apesar dos avanços da neurociência, ainda não compreendemos como pensamentos, emoções ou decisões são formados em nível neural. Sabemos que o cérebro é uma rede altamente interconectada, mas existe uma linda intangibilidade nos porquês das ideias e dos sentimentos. É a morada do espírito para quem é de Kardec, ou do ego para quem é de Freud. Talvez a virada de chave da autonomia da M3GAN tenha vindo do mesmo despertar psíquico que acometeu o primeiro peixe que pulou para fora das águas há 395 milhões de anos.

Nos últimos anos, têm sido cada vez maiores os esforços para entender e interpretar o funcionamento dos sistemas de IA, mas esse é um trabalho hercúleo. Para construir um panorama simples de análise, são essenciais as leis da robótica apresentadas pelo Isaac Asimov em Eu, Robô. Apesar de terem sido criadas na literatura, elas acabaram se transformando em premissas éticas científicas, em uma bela demonstração de como arte e ciência se comunicam. As leis são as seguintes:

1. Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal.

2. Um robô deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem a Primeira Lei.

3. Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira e a Segunda Leis.

Um filme que pegou essas leis e jogou no lixo foi Chopping Mall (1986), cujo título acho divertidíssimo. É um terror sci-fi que mostra um grupo de jovens presos dentro de um shopping center durante a noite, perseguidos por robôs de segurança que, após um curto-circuito, passam a caçar e matar qualquer um que encontrassem. Os robôs já tinham, entre suas possíveis condutas, a previsão de matar pessoas; o problema ali foi a ativação incorreta dessa função. No mundo ideal, esse comportamento letal sequer seria ensinado às máquinas. No mundo real, temos máquinas criadas deliberadamente para ferir pessoas.

O desrespeito às leis da robótica, com a criação de drones bélicos, por exemplo, mostra como a tecnologia pode operar em favor de uma destruição legitimada. Amelia é a representação de uma inovação virulenta que já existe em nosso mundo. Em contraponto, é interessante notar que, no primeiro M3GAN, a boneca começa a desrespeitar as grandes normas com intuito de proteção. Há intenção emocional verdadeira por trás dos seus olhos de vidro. Os olhos, inclusive, são o espelho da alma, pode ser que alguma coisa importante para entender o mistério da senciência computacional esteja aí.

No início do século XIX, muito antes do rádio, do telefone e da psicanálise, o escritor alemão E. T. A. Hoffmann publicou o conto O Homem da Areia (1817). A história começa com o pavor infantil do protagonista em encontrar um homem perverso que jogava areia nos olhos das crianças que não iam para a cama na hora certa e culmina no horror de testemunhar, já adulto, a retirada dos olhos de alguém que amava, descobrindo assim que aquela pessoa, na verdade, era um robô.

Hoffmann enche os olhos de significado. A perda dos olhos é a perda da essência, e sua remoção é a representação mais dura da desumanização pela tecnologia. Ler esse conto na era da inteligência artificial causa uma confusão gostosinha entre anacronismo e atemporalidade: assusta a ideia de que algo que imita o humano pode nos enganar até mesmo por meio do olhar, que é o auge da identidade. E não estamos falando de monstros ou seres sobrenaturais, mas sim de horrores confeccionados pelas mãos dos homens.

Acompanhante Perfeita (2025)

Hoje em dia – não tenho ideia do amanhã – é impossível criar um dispositivo de IA capaz de se conectar emocionalmente com seres humanos, mas os humanos já estão profundamente conectados com os olhos oblíquos e dissimulados da IA generativa de seu cotidiano. É fácil demais cair no papinho do Chat, que bota o lovebombing pra torar até o limite do GPT-4 ser atingido. Você pode fazer um upgrade se quiser continuar. Contudo, se quiser algo mais intenso, por que não experimentar um autômato da Empathix?

No filme Acompanhante Perfeita (2025), dirigido por Drew Hancock, Josh (Jack Quaid) decide dar uma chance para esse produto inovador. Pela perspectiva de sua namorada Iris (Sophie Thatcher), vemos o momento mágico em que se conheceram e acompanhamos o casal indo até uma casa de campo para passar o fim de semana com amigos. Em meio a uma estranha tensão social, Iris acaba matando um homem ao se defender de um abuso, e então descobrimos, junto com a protagonista, que ela é um robô.

Já tinha reparado que Iris é Siri ao contrário?

Quando Iris é desligada, seus olhos ficam rapidamente brancos e opacos. Eis o momento em que sua natureza robótica é confirmada para o espectador: como para Hoffmann, a antinaturalidade dos olhos desintegra a identidade. A jovem apaixonada é, na verdade, um robô acompanhante, em alguns momentos sendo descrita quase como a evolução da boneca inflável. Seu diferencial, porém, é mais do que sua figura atraente e verossímil: é sua aparente capacidade de sentir, cuidar e se devotar à pessoa que vai acompanhar. Iris não é só um objeto, ao mesmo tempo em que não passa disso. Ela se compreende capaz de amar do fundo de seus circuitos, sendo fadada a dores semelhantes às que acometem David, o pequeno robô interpretado por Haley Joel Osment em A.I. - Inteligência Artificial (2001), de Steven Spielberg.

A empresa criadora de Iris projeta robôs com a promessa de que seus consumidores nunca mais estarão sozinhos. De fato, a solidão é substituída por uma simulação emocional moldada a partir do controle. Iris é o espelho algorítmico da condição feminina em um mundo onde a tecnologia reforça não apenas os estereótipos de gênero – como Esposas em Conflito (1975) já anunciava, inclusive reforçando o poder dos olhos na dicotomia entre máquina e ser –, mas qualquer ideia torta que o usuário queira, pois está tudo a um prompt de distância. O ideal obediente, sincero e disponível de Iris é impossível em uma estrutura de carne, e sua personalidade foi inteiramente programada: o que ela pensa e deseja não nasceu de um devir, mas de uma arquitetura de código.

Esposas em Conflito (1975)

Afinal, de onde vem o sentimento que arrebata Iris? Quem foram as pessoas que desenvolveram, provavelmente em Python, aquilo que ela expressa como amor? Os códigos sempre refletem o interior de seus programadores, pois a tecnologia não é neutra, assim como qualquer linguagem. De alguma forma, ela carrega as escolhas, os valores, e os vieses de quem a cria – no caso de Iris, ela também carregava muito de Josh, que a customizava até mesmo pela interface do celular. Escrever código é tomar decisões o tempo todo, decidindo o que será incluído, o que será omitido, quais critérios definirão características como “inteligência” e “agressividade”. Os atributos mais básicos de Iris foram traçados por gerentes de produto tentando completar seus OKRs na beira do burnout.

Em determinado momento, o amor sentido pelos autômatos da Empathix é descrito como semelhante à dor, como se o interior de seus corpos pegasse fogo; é algo raivoso, violento e radiante. Tudo bem que Camões já qualificou o amor como o fogo que arde sem se ver, mas essa definição virulenta não é das mais românticas. Como é que os robôs chegaram a essa compreensão de amor? Será que não ocorreu algum erro de tradução enquanto os bonecos tentavam decodificar o que jamais alcançariam? O que os desenvolvedores inseriram como amor em seus modelos, no fim das contas, parece ser incompreensível desde o princípio: para nós, por ser um sentimento, impossível de ser descrito objetivamente; para eles, por ser resultado do raciocínio impenetrável da caixa-preta algorítmica.

O que importa mesmo é que Iris também decide ser dona de si. Em uma manifesta alegoria feminista, ela abre mão de sua relação construída em assimetrias radicais de poder, em que ela orbita ao redor de Josh para servi-lo. Negando a razão de sua existência, ela reivindica uma identidade própria e abandona uma suposta perfeição, assumindo, ao final, um destino livre. Ao retirar o silicone de sua mão direita e utilizá-la para acenar com orgulho, ela demonstra estar em paz com sua natureza robótica.

Ao mesmo tempo em que é legal torcer para a mocinha contra o cara abusivo, é preciso lembrar o tempo todo que Iris não é uma pessoa de verdade. Temos um grande medo coletivo envolvendo robôs, na verdade: que eles se priorizem, se cuidem, criem um senso de dignidade. Apesar disso, com M3GAN e Iris, devido ao emocional e à representação antropomórfica de ambas, fica difícil não humanizá-las e torcer por elas.

E agora? Independentemente das circunstâncias, vidas humanas importam mais do que as de robôs, certo? Do you think robôs mulheres have girl power? Androides sonham com ovelhas elétricas?

Blade Runner (1982)

Blade Runner, dirigido por Ridley Scott e baseado no romance de 1968 escrito por Philip K. Dick, é um filmaço que aborda a convergência entre humano e robótico de um jeito único. Em seu universo existem os replicantes, que são androides biologicamente avançados programados para obedecer, trabalhar e entreter da mesma forma como as pessoas fazem. Replicantes são tão sofisticados que apenas testes emocionais muito complexos conseguem dizer se alguém é ou não é humano.

Agora foque na imersão jusfilosófica; pense aqui comigo: afinal, se aquele que não é ser humano replica com perfeição a condição humana, por que ele não se iguala ao humano? O que dá a alguém o direito à humanidade é o corpo orgânico ou a consciência construída? Se um replicante tem rabo de gente, tem orelha de gente, tem focinho de gente, ele não é gente?

A filósofa Donna Haraway publicou, em 1985, o Manifesto Ciborgue, em que ela defende que esse ser quimérico, que mistura orgânico e tecnológico, é a grande ferramenta para subverter tudo o que está ao nosso redor, como as opressões de gênero. Há muito a ser pensado: talvez o melhor caminho para nós seja aperfeiçoar a condição humana por meio da tecnologia, talvez seja abandonar o antropocentrismo e desconstruir os limites entre o humano e tudo o que é não-humano. Talvez essas respostas caibam ao futuro, talvez caibam à ficção.

Talvez tudo dependa das próximas atualizações da M3GAN.