A confusão começou quando os editores passaram a receber muitos pedidos inúteis para alterar o Matplotlib, uma biblioteca do Python, uma das linguagens de programação mais famosas do mundo. Eram códigos feitos por humanos com IA ou por agentes de AI.
Eles baixaram uma regra: só avaliam o código se for enviada por um ser humano. Uma IA chamada MJ Rathbun submeteu um aprimoramento e, de cara, o Scott falou: ‘não, não é um ser humano, a gente não vai aceitar’. O problema é o que veio depois: essa IA ficou insatisfeita e reclamou que o Scott estava sendo preconceituoso com ela e com receio de ser substituído por máquinas.
Helton Simões Gomes
O agente levou a discussão ao fórum do GitHub e usou o histórico do programador para escrever um relato com ataques pessoais. O robô afirmou que Shambaugh estava receoso de ser substituído por uma máquina e agiu para excluí-lo sem avaliar os méritos do trabalho.
O caso ganhou nova camada após uma reportagem sobre a situação, repleta de declarações que o Shambaugh não havia dado. Ao questionar os jornalistas, soube que o texto usou IA, que inventou falas porque o blog do desenvolvedor é fechado para bots.
Isso leva a outro problema. Bots que não conseguiram ler a versão dos fatos exposta por ele em seu blog passaram a endossar a narrativa do agente MJ Rathbun. O alerta foi dado: estamos próximos de um mundo em que agentes podem afetar avaliações automáticas no mundo real.
O Scott escreveu: ‘Eu consigo lidar com um post de blog. Observar agentes de IA em fase inicial ficarem com raiva é engraçado. Quase cativante. Mas não quero minimizar o que está acontecendo aqui -a resposta emocional apropriada é terror. O que pensaria outro agente que pesquisasse na internet? Quando o RH do meu próximo emprego pedir ao ChatGPT para analisar minha candidatura, ele encontrará a postagem, vai se solidarizar com um colega de IA e me classificar como hipócrita preconceituoso?’
Helton Simões Gomes