A propósito da renúncia de Jacob Coxon, a IA e a extinção da humanidade
Como o "fim da história" não funcionou e o "fim do trabalho" — ao menos por enquanto — tampouco, agora temos o "fim da humanidade". Permitam-me ser cética. Tenho a sensação de que o maior perigo provém da implementação capitalista da IA em grande escala combinada com o restante das tecnologias – e suas múltiplas consequências sociais, políticas, econômicas – e não da IA em si. Implementação que, se em sua realização plena exige tanto uma derrota catastrófica quanto um reordenamento geopolítico de magnitudes comparáveis ao menos àquelas do neoliberalismo, assim como naquela época, trata-se de processos que, de algum modo, vão se executando em parcelas, através dos graus existentes de aplicação tecnológica, das guerras, dos investimentos e da dívida descontrolados em setores limitados como o da IA nos EUA e suas possíveis derivações.
Isso não quer dizer que o desenvolvimento da IA e dos agentes algorítmicos em si não traga riscos, os quais — na minha opinião e, por enquanto — dificilmente comportam uma periculosidade comparável à da energia atômica e à possibilidade de destruição total do planeta, por exemplo. A questão da "total autonomia" da IA nunca pode ser descartada teoricamente, mas permanece ainda no território da pura especulação e não existe nada parecido na atualidade. Nem sequer é uma realidade a Inteligência Artificial Geral — na qual as 7 magníficas apostam com a lógica do escalonamento —, que está longe, e inclusive existem dúvidas de que possa ser alcançada alguma vez, nem, muitíssimo menos, a superinteligência, que seria a verdadeira autonomia das máquinas, considerada por boa parte dos especialistas e cientistas como uma sorte de delírio.
Nesse contexto, vale a pena pontuar algumas questões que me parecem relevantes.
Toda essa discussão sobre os riscos catastróficos da IA recorda, mais uma vez, a famosa frase atribuída a Jameson de que é mais fácil imaginar o fim do mundo do que o fim do capitalismo porque, se olharmos um pouco para trás, as profecias distópicas são recorrentes e geralmente partem de um ponto real como, por exemplo, o colapso ecológico, para pegar a mais recente. Mas, enquanto todos e todas nos entretemos — e, sobretudo, nos aterrorizamos — com essas profecias, o que vai criando um mundo cada vez mais distópico é a loucura da razão econômica do capital — que é cada vez mais doentia —, à qual poucos parecem temer.
Há uma campanha desmedida das próprias empresas — 9 das 10 empresas mais valiosas do mundo são tecnológicas e norte-americanas —, de seus engenheiros e de seus CEOs, que permanecem nelas ou que se demitem mudando-se muitas vezes para alguma outra companhia, alertando que o produto que vendem é perigosíssimo... estranho. Muitas vozes bastante credíveis consideram isso uma verdadeira "singularidade" histórica... Uma campanha de medo que parece associada à acumulação de poder: para nenhuma empresa ou Estado é simpático ficar de fora de algo potencialmente tão arriscado, mesmo que não lhes gere benefícios significativos. Parte da campanha é a ideia de que, se não continuarem escalando — ou seja, colocando mais centros de dados com mais chips superavançados de IA, equipamentos, consumo frenético de energia e água, além de poluição ambiental, investindo literalmente trilhões —, a China vai ganhar a corrida. Tudo isso constitui um alimento infernal para as cotações históricas na bolsa, ou seja, está lhes permitindo acumular lucros extraordinários. Um instituto norte-americano sem fins lucrativos bastante respeitável diz há alguns meses que esse discurso das empresas de "vencer a China" é uma preparação do terreno para o resgate caso a bolha de investimentos estoure, e que o Estado já está gestando mecanismos de salvamento. Há uma discordância muito grande entre os investimentos em IA e alta tecnologia nos EUA e o restante da economia (a variação interanual do investimento é negativa nos setores de baixa tecnologia), o que levanta dois riscos. Por um lado, a possibilidade de estouro da bolha de investimentos (a IA não é uma bolha, claro, mas em torno dela pode estar se gestando uma grande bolha financeira). Por outro, o de crowding out — que a IA termine devorando o restante da economia que não consegue decolar e provocando uma estagnação generalizada. Não se pode saber, obviamente, o que vai acontecer, mas quando o capital movimenta tanto dinheiro com tantas disparidades estruturais, o risco é alto e os discursos pouco confiáveis.
Já prometeram utopias e distopias de todo tipo: o fim da história e do trabalho em sua versão noventista; a cura universal de todas as doenças quando se decifrou 90% do genoma humano (que afundaram com as ponto.com em 2001); as células-tronco que, em contrapartida, iriam curar tudo; os robôs que iriam substituir todo o emprego — segunda promessa do fim do trabalho —; as criptomoedas que iriam dominar toda a economia; o "Metaverso" no qual teríamos que estar vivendo há vários anos, etc., etc.
Enquanto as empresas causam medo massivo em torno do descontrole de seu próprio produto que continuam gerando sem limites, o mais real, certamente, é o controle sobre os trabalhadores e as populações em geral — que estão alcançando mediante a aplicação em grande escala de IA — na vida cotidiana, no comércio para dar vazão à obsolescência programada mediante a venda de qualquer porcaria, e nas finanças com infinitas aplicações que estão afogando todo mundo em dívidas. O exemplo pontualmente mais dramático de "descontrole" até o momento foi o ataque à escola de meninas no Irã que pode ter envolvido o software de IA Claude da Anthropic, mas esse tipo de "erro assassino" não é novo na história militar e já foi executado previamente com inteligência natural.
Finalmente, sobre a questão das regulações da IA. Não me parece, em princípio, que se possa apoiar nem rejeitar em bloco toda ideia de regulação, que em si mesma não pode ser definida como progressiva ou regressiva. De fato, a discussão mundial está posta como "regulação estatal" sim ou não, Anthropic vs. Palantir, o Papa (encíclica Magnifica Humanitas) vs. (neo)liberalismo selvagem ou Estados Unidos vs. União Europeia. E, como sempre, o problema é que o conteúdo da regulação estatal mistura aspectos defensáveis com outros muito reacionários. A regulação não é neutra e as áreas de possível aplicação são praticamente infinitas. Por exemplo, misturam-se questões progressivas como certo controle dos usuários sobre os algoritmos (um projeto na Austrália) com a proibição ou restrição em muitos países do acesso a redes para menores de 16 anos com a qual, pessoalmente, não estou em princípio de acordo tratando-se, além disso, de uma medida que, de passagem, reforça a vigilância sobre mães e pais, ou seja, sobre quase todo mundo. Outra questão de peso é o limite entre o transumanismo reacionário e as intervenções transgênero ou a possibilidade de superar limitações físicas — uma questão muito bem abordada, por exemplo, por Facundo Nahuel Martín em seu livro Ilustração Sensível [1] —. São apenas alguns poucos exemplos, mas é bom tê-los em conta. Neste contexto mais do que complexo, me inclino por apoiar e acompanhar todo processo legítimo que se desenvolva como, por exemplo, a condenação popular em Nova York à instalação de centros de dados que o prefeito Zohran Mamdani teve que proibir por um tempo. E, mais em geral, a ideia de regulações muito progressivas como o repúdio aos controles biométricos dentro e fora das atividades laborais ou o repúdio à fraude das aplicações financeiras, associadas às discussões, decisões e controle dos diversos e múltiplos setores de trabalhadores e maiorias populares. Em minha opinião, este apoio e acompanhamento tem que estar sempre ligado a uma crítica aguda da propriedade — que à sua maneira e com os objetivos conhecidos, até o Papa tem que apontar para pleitear o controle estatal —, mas para questionar sua legitimidade. Porque, embora movimentos populares significativos possam chegar a impor certos limites, uma regulação ampla e progressiva é impensável sem questionar os usos das tecnologias que, obviamente, estão intimamente associados aos fins de quem as possui. E, nessa tensão, coloca-se em jogo a relação de forças. Ou seja, em que medida o capital é capaz de avançar com a aplicação em grande escala não só da IA, mas de uma IA melhorada qualitativamente e fundida com uma robótica também melhorada qualitativamente e outras tecnologias (como a bio e a nanotecnologia) para transformar a economia e a vida, e em que medida a classe trabalhadora e os setores populares são capazes de avançar questionando os próprios fins e, portanto, a propriedade das tecnologias. Sobre essa tensão proponho no último capítulo do meu livro [2] a ideia da hegemonia tecnológica. Esta ideia emerge, apenas para adiantar aqui alguns títulos, como evidente crítica da hegemonia capitalista atualmente existente e como um território de disputa vinculado aos "propósitos gerais" das tecnologias, em polêmica com o projeto, anti-hegemônico em minha visão, de renda básica universal. Proponho a construção de uma hegemonia tecnológica como necessidade para avançar rumo a uma distribuição qualitativamente distinta do tempo de trabalho que permita, ao mesmo tempo, incrementar o tempo livre e conceder protagonismo à utilidade tanto do trabalho quanto dos bens e serviços produzidos e da própria natureza. Apresento esta ideia como um conceito em construção, debatendo sobre a "ética do trabalho" e priorizando os espaços que me parecem chaves para pensar seu desenvolvimento.
[1] Martín, Facundo Nahuel, Ilustración sensible. Hacia un giro materialista en la teoría crítica, Buenos Aires, Ediciones IPS, 2023.
[2] Bach, Paula, Las nuevas tecnologías en los límites del capital, Buenos Aires, Ediciones IPS, 2025.