Tudo sobre ChatGPT
Tudo sobre Inteligência Artificial
Os treinamentos constantes dos modelos de inteligência artificial (IA) têm tornado cada vez mais difícil saber se os textos foram escritos por uma IA ou por humanos. Por isso, um professor da Universidade da Flórida (UF) (EUA) decidiu criar ferramenta que pode ajudar nessa distinção.
Uma marca d’água invisível para Grandes Modelos de Linguagem (LLM, na sigla em inglês) está sendo desenvolvida para detectar conteúdo gerado por IA — mesmo alterado ou parafraseado. O recurso está passando por testes no supercomputador HiPerGator da instituição.
“Se sou um estudante e estou escrevendo minha lição de casa com o ChatGPT, não quero que meu professor detecte isso”, disse Yuheng Bu, Ph.D., professor assistente no Departamento de Engenharia Elétrica e de Computação da Faculdade de Engenharia Herbert Wertheim.
No ano passado, pesquisadores da Universidade de Reading (Reino Unido) fizeram o seguinte teste: criaram perfis falsos de alunos e escreveram suas tarefas usando plataformas básicas geradas por IA para, depois, tentar detectar IA no conteúdo.
“No geral, as submissões de IA beiraram a indetectável, com 94% não sendo detectadas”, observou o estudo, publicado na PLOS. “Nossa taxa de detecção de 6% provavelmente superestima nossa capacidade de detectar o uso de IA no mundo real para trapacear em exames.”
Leia mais:
Como funciona a marca d’água para detectar IA?
A nova tecnologia foca em dois aspectos principais: manter a qualidade do texto gerado pelo LLM após a aplicação da marca d’água e garantir a robustez do sistema contra várias modificações, permanecendo imperceptível para humanos.
Mesmo que um usuário reescreva completamente o texto, com substituição de sinônimos e paráfrase, a marca d’água permanece detectável pelo sistema, desde que a semântica permaneça inalterada.
Em 2023, o Google DeepMind também lançou marca d’água de detecção de texto, mas, segundo Bu, o método da UF “as aplica a apenas um subconjunto de texto durante a geração. Então, ele alcança melhor qualidade de texto e maior robustez contra ataques de remoção”.
O grande desafio, agora, é tornar a chave de detecção acessível para o público. “A entidade que aplica a marca d’água também detém a chave necessária para detecção. Se o texto for marcado com marca d’água pelo ChatGPT, a OpenAI possuiria a chave correspondente necessária para verificar a marca d’água”, disse Bu.
“Um próximo passo crucial é estabelecer ecossistema abrangente que imponha o uso de marca d’água e distribuição de chaves ou desenvolver técnicas mais avançadas que não dependam de chave secreta”, concluiu.