A OpenAI publicou em 8 de outubro um relatório sobre duas operações de influência que baniu do ChatGPT, uma de origem russa e outra iraniana. As duas têm em comum o método: em vez de encher rede social com conta falsa, elas plantaram texto em veículo de imprensa de verdade. A empresa usa a Breakout Scale, escala de 1 a 6 divulgada pela Brookings para medir alcance de operação de influência, e classifica a russa na categoria 5, a primeira nesse patamar em dois anos e meio de relatórios. A parte iraniana que publicava artigos ficou na categoria 4, e a parte que gerava comentário em rede social, na categoria 2. Das 30 operações que a OpenAI expôs desde o início de 2024, diz o texto, as que tentaram entrar em veículo real, e não em distribuição social falsa, são as que alcançaram as categorias mais altas.
A operação russa recebeu o apelido de Dark Clark. Os operadores escreviam em russo, um deles em espanhol, e usavam VPN porque a Rússia não é região atendida pela OpenAI. O relatório descreve três frentes: desacreditar a Ucrânia e atrapalhar o recrutamento das Forças Armadas ucranianas, interferir na política interna de alguns países, com destaque para Bolívia e Argentina, e tocar um autodeclarado centro de pesquisa chamado Social Research Center. Segundo os relatórios internos que os próprios operadores pediam ao ChatGPT para redigir, eles controlavam esse centro por meio de uma persona falsa, batizada de Mia Clark, e decidiam salário, contratação e demissão. A OpenAI identificou mais de 60 artigos no site da entidade, a maioria original, e diz que os funcionários contratados na América Latina não sabiam para quem trabalhavam. É, segundo a empresa, a tentativa mais complexa de operar uma identidade de fachada que ela derrubou no período.
O Brasil aparece três vezes, e uma delas é um falso crédito
A primeira menção é uma alegação não confirmada: em janeiro, os operadores disseram ter espalhado a história de que uma influenciadora e modelo brasileira teria sido traficada para a Ucrânia por representantes da embaixada ucraniana e morta em Kiev. A OpenAI não encontrou essa história em busca aberta, e registra que pode não ter sido publicada, ter sido removida ou ter circulado em canal fechado. A segunda é de pauta: entre os trabalhos do Social Research Center havia uma comparação detalhada da economia brasileira nos governos Jair Bolsonaro e Luiz Inácio Lula da Silva. A terceira é a mais reveladora. Em junho, a imprensa brasileira noticiou o caso de um brasileiro que foi lutar na Ucrânia, foi capturado por forças russas e apareceu em vídeo dizendo que havia sido enganado. Os operadores tentaram apresentar essa reportagem como resultado do próprio trabalho, mas o texto apenas reproduzia o vídeo do capturado. A leitura da OpenAI é dura e vale guardar: ali os operadores estavam rodando uma operação de influência contra os próprios chefes.
Os casos que a empresa conseguiu corroborar em fonte aberta estão nos vizinhos. Em maio, os operadores dizem ter criado um endereço de e-mail falso em nome da Direção Regional de Educação de Lima, no Peru, e instruído escolas a fazer atividades sobre a Ucrânia no Dia da Diversidade Cultural e Linguística, em 21 de maio, com menção explícita a Stepan Bandera, figura que parte dos ucranianos vê como líder da independência e que Rússia e Polônia associam a colaboracionismo e atrocidades. Algumas escolas responderam ao endereço falso confirmando a atividade e mandando fotos. Depois vieram as matérias na imprensa peruana e polonesa, e um deputado do Parlamento Europeu chegou a propor declarar persona non grata quem demonstrasse antipolonismo. Em junho, no Equador, outro e-mail falso induziu escolas a uma cerimônia de juramento de lealdade ao presidente Daniel Noboa e a Erik Prince, ex-chefe da Blackwater, e o episódio terminou com um desmentido detalhado do Ministério da Educação equatoriano. Em maio, na Bolívia, no auge de protestos contra o governo, circulou um áudio falso de um funcionário da estatal de água EPSAS dizendo que La Paz teria o abastecimento cortado e que seria decretado estado de emergência.
As operações que tentam colocar seu conteúdo em veículos de imprensa reais, em vez de depender de distribuição falsa em rede social, tendem a ter o maior alcance e impacto potenciais.
A IA não escreveu a mentira, escreveu o relatório de desempenho
O detalhe mais instrutivo do documento é onde o modelo foi usado. Na operação russa, o uso principal do ChatGPT não foi fabricar a notícia falsa: foi redigir e atualizar relatórios internos para um superior desconhecido, inclusive atribuindo à operação acontecimentos com os quais ela não tinha relação. Os operadores pediam ajuda de linguagem só de vez em quando, para acertar sotaque, vocabulário e estilo institucional de cada país, provavelmente porque havia ao menos um falante nativo de espanhol no grupo. A operação iraniana fez algo parecido na contabilidade do próprio sucesso: media impacto pelo número de visualizações dos posts que respondia, não das respostas que publicava, o que inflava o número sem medir nada. Vale ainda o alerta de método que a própria OpenAI faz, e que esta redação repete: as alegações de impacto dos operadores não podem ser tomadas pelo valor de face, porque parte delas é autopromoção. Para quem lê em português, a conclusão prática é que o que apareceu na frente do boato não foi detector de texto nem marca d'água, e sim checagem local e desmentido oficial: o relatório aponta verificações da Lupa e do Ecuador Chequea no Equador e da Bolivia Verifica na Bolívia. Em 26 de agosto o BrazNews.IA.BR noticiou outra operação russa derrubada pela OpenAI, aquela montada em torno de um instituto falso, e em 11 de setembro a rede de 70 sites de notícia falsa gerada por IA que mirou o Brasil, essa documentada pela Anthropic. O padrão que se repete não é a tecnologia, é o endereço: quem quer alcance procura o selo de um veículo que já tem leitor.
