Fenômenos artísticos que se revelam armações fraudulentas não são novidade. Quem tem mais de 40 anos deve se lembrar da dupla de cantores Milli Vanilli, que estourou com sucessos marcantes entre 1988 e 1990, embora o embuste não tenha durado muito. Dois anos foram suficientes, mesmo sem a internet, para se descobrir que eles não eram os verdadeiros intérpretes das canções. Naquela época, a farsa revoltava os fãs.
Hoje, com o avanço das inteligências artificiais (IAs), as falsificações e apropriações se multiplicam — e, não raro, os próprios fãs são os primeiros a propagá-las, sem qualquer constrangimento. Foi o que aconteceu, por exemplo, com a proliferação de imagens recriadas por IA inspiradas em Hayao Miyazaki, co-fundador do Studio Ghibli nas últimas semanas. Muitos se divertiram brincando de “ser Miyazaki por um dia”, sem se preocupar com direitos autorais, ética e outros fatores que envolvem o processo criativo.
Além disso, as IAs operam com base em um acesso quase irrestrito a bancos de dados massivos, absorvendo e recombinando conteúdos sem necessariamente indicar a autoria deles. O resultado final se apresenta como algo “novo”, mas essa suposta originalidade esconderia possivelmente um processo predatório — afinal, se a máquina “recria”, por que citar fontes?
O fato é que as inteligências artificiais seguem evoluindo rapidamente, quase sem regulamentação, gerando situações que beiram o absurdo.
Recentemente, um escritor honconguês radicado na Europa, Jianwei Xun, revolucionou o pensamento filosófico com um novo conceito, a “hipnocracia”, que expôs no ensaio The hypnotic architecture of digital power: Algorithmic trance and the end of shared reality (A arquitetura hipnótica do poder digital: o transe e o fim da realidade compartilhada), que está disponível para download em sua página no site Academia.edu. Xun construiu sua teoria com base em arcabouços teóricos e campos de conhecimento variados que vão do “simulacro” de Baudrillard à “nova crítica da política econômica” de Stiegler e reflexões sobre a farmacologia do proletariado.
Para o escritor asiático, a sociedade não mais disciplina os sujeitos com o lema do “dever”, como no início da Revolução Industrial. Tampouco eles são empreendedores escravos de si mesmos que, equivocadamente, se pensam livres, como propõe Byung Chul-Han acerca da contemporaneidade. Aliás, Han é uma das referências para o artigo seminal de Xun, e ambos curiosamente parecem compartilhar trajetórias pessoais semelhantes.
O artigo sobre a “hipnocracia” rapidamente ganhou reconhecimento, embora um olhar mais atento e cético pudesse identificar ali uma boa dose de inconsistências que contrastam com a aura de rigor que pretende transmitir. Xun declara, por exemplo, atuar como pesquisador bolsista em um tal Institute for Critical Digital Studies, cuja localização parece oscilar: no início do texto, aparece em Berlim, enquanto na seção “Sobre o Autor”, sua localização está em Dublin.
Mas o paper sobre o mundo atual chamou a atenção em alguns messes e começou a ganhar espaço significativo em simpósios na França – inclusive no prestigiado World Artificial Intelligence Cannes Festival –, em jornais da Espanha como El País e La Vanguardia, em sites de notícias de Portugal e até em blogs e sites relevantes aqui no Brasil.
Não demorou também para que fosse debatida em centros como o Instituto de Estudos Europeus de Direitos Humanos, da Universidade Pontifícia de Salamanca, e por intelectuais de renome como Gianluca Misuraca, Cecilia Danesi e Marcelo Longobardi.
Em 20 de fevereiro deste ano, exatamente um mês depois da posse de Trump (e Musk), Xun publicou seu primeiro livro, Hypnocracy: Trump, Musk and the Architecture of Reality (Hipnocracia: Trump, Musk e a arquitetura da realidade). O livro foi publicado de forma independente e já foi traduzido e publicado em editoras como a Editorial Rosamerón, de Barcelona.
A obra foi aclamada por críticos europeus e chegou a ser considerada por Longobardi tão revolucionária quanto “Vigiar e Punir”, de Michel Foucault, foi em sua época.
Verdade é que sua teoria não deixa de ser bastante instigante à primeira vista. Resumidamente, o poder invisível de algoritmos atuariam não somente em um plano emocional e psicológico, mas manipulariam a própria experiência temporal, criando um “presente de antecipação constante”, ávido por novidades inúteis que não levam a qualquer forma de evolução pessoal ou intelectual. Segue-se a esse fenômeno a dissolução de estruturas básicas que fornecem orientação e significado, produzindo uma fragmentação da realidade e um “vértigo ontológico”.
Porém, como diz o velho ditado, nem tudo o que reluz é ouro.
Após diversas tentativas infrutíferas de entrevistar Jianwei Xun, Sabina Minardi, redatora-chefe da revista italiana L’Espresso, descobriu que Xun não existe. Ou melhor, existe como uma fusão do pensamento do escritor e editor italiano Andrea Colamedici e o trabalho de escrita de duas ferramentas de IA, Claude, da Anthropic, e o famoso ChatGPT, da OpenAI. E é aqui que diversos pontos se entrelaçam, tecendo uma complexa trama que pouco ou quase nada tem a ver com uma fraude de músicos pop pelas implicações que traz. Chegamos a um marco: o primeiro fake book da era tecnológica com todas as camadas intrincadas que a IA é capaz de formar. O mais surpreendente, senão aterrorizador, foi o fato de a farsa ter convencido um grupo de pessoas, entre elas intelectuais, cientistas e professores, que, acredita-se, teriam a capacidade crítica e ao menos uma dose de cautela antes de referendar a qualquer tese.
Em entrevista ao El País, Colamedici afirmou que a sua intenção não era enganar os leitores, mas “criar um experimento filosófico e uma performance artística para demonstrar os riscos e perigos” de usar a IA para desenvolver uma ideia que nós mesmos somos capazes de colocar no papel ou na tela sem ajuda. Além disso, em entrevista ao L’espresso, afirma sem vergonha ter “deixado rastros engraçados, coisas alienantes, migalhas como em João e Maria”. O argumento do experimento quase lúdico, entretanto, soa vazio e, convenhamos, tem ares de desculpa tirada da cartola para evitar processos e tribunais.
Em Nexus: Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial (Companhia das Letras, 2024, em tradução de Berilo Vargas e Denise Bottmann), Yuval Noah Harari leva o tema a sério e não recorre a piadas para analisar numa perspectiva diacrônica e sincrônica as formas de comunicação ao longo da história da civilização, incluindo os célebres algoritmos e modelos de linguagem. Nessa jornada, o autor israelense posiciona o computador como um membro à parte, não humano, nas redes de informação. Harari destaca ainda que durante milhares de anos, a linguagem esteve a serviço dos Homo sapiens para criar realidades intersubjetivas que nos conectam. Do mesmo modo, a linguagem nos permitiu elaborar mecanismos financeiros, legislações, arte, ciência, nações e religiões. Ao concedermos essa potência às máquinas, automaticamente entregamos a chave-mestra da nossa complexa estrutura social a algo sobre o qual não temos total controle e que talvez já tenha escapado das nossas mãos e mentes.
Vale dizer também que o “experimento” de Colamedici não é totalmente inovador, pulverizando sua justificativa.
Em 2017, um perfil falso chamado “Q” entrou no site 4chan e declarou ter contatos nas altas cúpulas do governo dos Estados Unidos. Com mensagens capciosas convenceu muita gente que havia um plano secreto para destruir a humanidade. A história se espalhou como pólvora e a teoria conspiratória Qanon ganhou milhões de adeptos, muitos dos quais participaram da invasão ao Capitólio em 6 de janeiro de 2021.
Embora com objetivos e público totalmente diferentes, Qanon e Xun são a prova de que num mundo fascinado pela tecnologia, os computadores têm acesso e domínio sobre os recônditos da intimidade humana, isto é, o pensamento e as emoções.
Nesse sentido, se a intenção de Colamedici era mesmo provar os perigos e o poder da IA, ele parece um tanto ingênuo, “trollador” e repetitivo, o que não combina com alguém que encantou – ainda que com ajuda tecnológica – um seleto público de intelectuais com uma teoria multifacetada e provocadora, apesar de suas bizarrices e incongruências.
Em O prazer do texto (Perspectiva, 2020, em tradução de J. Guinsburg), Roland Barthes considerava o escritor como uma criatura de linguagem, um coringa num carteado que se presta aos movimentos dos jogadores, aos movimentos da história, ficando à deriva e sendo incapaz de se mover completamente entre os valetes e ases das ideologias e hegemonias. Era uma carta inútil. No caso de Colamedici-Xun, contudo, esse coringa passa a ter outra função no jogo, pois se desfez do papel que lhe era de praxe. A IA se transforma em outro jogador que muda as regras deste jogo e o deixa imprevisível.
Cabe acrescentar a este ponto o conceito de clonagem, do pensador francês Jean Baudrillard em A ilusão vital (Civilização Brasileira, 2001, em tradução de Luciano Trigo), como analogia para pensar o avanço irrefletido das inteligências artificiais que se dá até mesmo entre acadêmicos: “a humanidade não discrimina, ela se transforma com boa vontade em sua própria cobaia, sob as mesmas que o resto do mundo, animado ou inanimado. A humanidade joga alegremente com seu próprio futuro sob o aspecto de espécie, da mesma maneira que joga com o futuro de todas as outras criaturas. Em sua busca cega para obter um conhecimento maior, a humanidade programa sua própria destruição com a mesma ferocidade e falta de cerimônia com que se dedica à destruição de todas as espécies restantes”. Justamente, nessa vorágine, o tal “experimento” não deixou impune o meio ambiente. Note-se que, para ser criado, o engodo demandou o uso de IAs generativas que consomem muita energia e, consequentemente, exigem uma maior busca por silício e cobalto, esse último extraído e, grande parte na República Democrática do Congo, de forma muitas vezes desumana, arrasando o ecossistema da região e não remunerando adequadamente quem faz o trabalho pesado.
Intelectuais e produtores de conhecimento científico – tanto no ambiente acadêmico quanto além dele – foram igualmente engolfados por essa “lógica maquínica”, como diziam Deleuze e Guattari. Encontram-se hoje em estado de agonia semelhante ao de Paulo Martins, o jornalista-poeta de Terra em transe (Glauber Rocha, 1967), figura emblemática da crise do intelectual em tempos de colapso institucional.
Enfim, tudo aqui nos dá a impressão de ocorrer de forma intencionalmente irrefletida.
Em A dúvida (Annablume, 2011), o filósofo checo-brasileiro Vilém Flusser lembra que “a dúvida é um estado de espírito polivalente. Pode significar o fim de uma fé, ou pode significar o começo de outra. Pode ainda, se levada ao extremo, ser vista como ceticismo, isto é, como uma espécie de fé invertida. Em dose moderada estimula o pensamento. Em dose excessiva paralisa toda a atividade mental. A dúvida, como exercício intelectual, proporciona um dos poucos prazeres puros, mas como experiência moral ela é uma tortura. A dúvida, aliada à curiosidade, é o berço da pesquisa, portanto de todo o conhecimento sistemático. Em estado destilado, no entanto, mata toda a curiosidade e é o fim de todo o conhecimento”.
A reflexão de Flusser é fundamental. Para o filósofo, aliás, a máxima de Descartes (“penso, portanto sou”) poderia ser reformulada por “duvido, portanto sou”.
As duas máximas talvez já não estejam em voga hoje em dia. Talvez pudesse até se pensar numa mescla das duas: “penso, portanto, duvido”, pois, como diz Flusser, “a dúvida, metodicamente aplicada, produzirá possivelmente novas certezas, mais refinadas e sofisticadas”. Mas, ele adverte: “estas novas certezas nunca serão autênticas. Conservarão sempre a marca da dúvida que lhes serviu de parteira”.
À luz do pensamento flusseriano e diante desse episódio, fica evidente a urgência de uma discussão mais profunda e séria sobre ética, estudo, pensamento e fast-culture – temas cujo debate, aparentemente, se tornaram démodés. Entre os “experimentalistas estéticos”, a tendência dominante é, ao que tudo indica, buscar visibilidade midiática a qualquer custo e capitalizá-la, mesmo que à custa do rigor e das práticas responsáveis.
Para os intelectuais, pessoas de ciência e arte, a anedota traz um conselho pertinente. É necessário, de agora em diante, tomar dois antídotos muito eficazes para neutralizar os efeitos da era do consumo intelectual descontrolado e do jogo de espelhos da IA: a pausa reflexiva e a análise crítica. Em doses generosas, de preferência.
Dirce Waltrick do Amarante é professora da Universidade Federal de Santa Catarina, tradutora, escritora e ensaísta.
Fedra Rodríguez é Especialista em comunicação, tradutora, escritora e palestrante.