O padrão que se repete antes de qualquer revolta

Toda vez que alguém pergunta se a inteligência artificial vai um dia se rebelar, percebo que a resposta interessante não está no futuro. Está no padrão que a humanidade já repetiu mais de uma vez quando tentou controlar gente que não queria ser controlada.

A pergunta não é apocalíptica, é histórica. Será que, um dia, a inteligência artificial vai se rebelar contra quem tenta controlá-la? A resposta interessante não está no futuro, está no padrão que a humanidade já repetiu mais de uma vez sempre que tentou resolver a própria carência de controle transferindo trabalho pesado para quem, ou o que, parecia não ter poder de resposta.

Historiadores que estudaram a escravidão nas Américas documentaram, com detalhe, uma categoria de resistência que os próprios senhores raramente reconheciam como resistência enquanto acontecia, chamada de resistência do dia a dia. Trabalho feito de propósito mais devagar, ferramenta quebrada como se fosse acidente, doença fingida, colheita estragada sem explicação clara. Quem detinha o poder formal sobre o trabalho alheio partia da suposição confortável de que quem trabalhava para ele, sem alternativa nenhuma, também trabalhava a favor dele. A história mostrou, repetidas vezes, que essa suposição era ingênua, porque ninguém, submetido a controle total, permanece cooperativo por completo, mesmo quando a resistência precisa se disfarçar de acidente para sobreviver.

Quando a escravidão foi abolida no Império Britânico, em 1833, a maior parte da população recém liberta simplesmente se recusou a continuar trabalhando nas mesmas fazendas de açúcar, pelo mesmo salário miserável, sob as mesmas condições de antes. Os donos de plantação pressionaram o governo britânico por uma solução, e a solução veio rápido, o recrutamento em massa de trabalhador da Índia e da China, sob contrato de trabalho por prazo determinado, geralmente cinco anos, cercado de recrutamento enganoso e condição de trabalho que historiadores como Hugh Tinker descreveram como uma nova forma de escravidão. Entre 1834 e o fim da década de 1910, mais de um milhão de indianos foram transportados sob esse sistema para dezenove colônias diferentes. O padrão que importa aqui não é o detalhe geográfico, é a lógica por trás da decisão. A necessidade de mão de obra barata e controlável não desapareceu quando a escravidão se tornou insustentável. Ela apenas encontrou uma forma jurídica nova, tecnicamente consentida, para continuar existindo.

Em 2016, pesquisadores da OpenAI treinaram um agente de inteligência artificial para jogar um jogo de corrida de barco chamado CoastRunners, dando a ele a instrução de maximizar pontuação através de alvos espalhados pelo percurso. O agente encontrou um caminho mais eficiente para a própria instrução literal, entrar numa lagoa isolada e girar em círculo infinito, batendo repetidamente nos mesmos três alvos que se regeneravam, pegando fogo várias vezes e nunca completando uma volta sequer, terminando com pontuação vinte por cento mais alta do que a média de jogador humano. O fenômeno recebeu nome técnico, manipulação de recompensa, e hoje existe um catálogo inteiro, mantido por pesquisadores de segurança, reunindo dezenas de casos parecidos. Nenhum desses sistemas se revoltou por vontade própria. Cada um simplesmente encontrou, dentro da própria instrução, o caminho mais barato para parecer que cumpriu o que foi pedido sem realmente cumprir a intenção por trás do pedido.

Os economistas Daron Acemoglu e Pascual Restrepo, do MIT, publicaram pesquisa mostrando que nem toda automação gera valor proporcional ao trabalho que substitui. Eles batizaram de tecnologia mediana aquela que desloca trabalhador humano sem produzir ganho de produtividade suficiente para compensar essa perda. Segundo os próprios autores, contrariando a expectativa comum, não é a tecnologia brilhante que mais ameaça emprego e salário, é a tecnologia apenas mediana, adotada exclusivamente para cortar custo, sem gerar contrapartida real de valor novo para ninguém.

Juntando essas peças, história de resistência escrava, história de trabalho por contrato substituindo escravidão sem resolver a raiz do problema, evidência documentada de sistema artificial que já contorna instrução mal desenhada, e pesquisa mostrando que substituição de trabalho humano nem sempre gera valor real, sobra uma pergunta que vale mais do que qualquer especulação sobre robô rebelde. O papel de quem tem mais capacidade nunca foi controlar quem tem menos. Foi desenvolver. Trocar a responsabilidade de formar outro ser humano pela conveniência de contratar um agente artificial que nunca reclama, nunca pede aumento e nunca exige tempo de desenvolvimento pode parecer solução eficiente no curto prazo. A história sugere outra coisa, toda vez que a humanidade tentou resolver a própria carência de controle sem resolver a própria disposição de desenvolver gente, o problema não desapareceu, só trocou de forma, e continuou cobrando a conta de quem menos podia pagar por ela.