- Author, Calum Watson
- Role, Da BBC Escócia
- Author, Aimee Stanton
- Role, Da unidade de visualização de dados da BBC Escócia
- Published
Tempo de leitura: 6 min
A psicóloga Clare Sutherland segura duas fotografias grandes. Uma mostra o rosto de um membro de uma universidade australiana que lidera uma pesquisa internacional; a outra é um deepfake gerado por inteligência artificial (IA).
A IA tornou-se tão competente na criação de imagens realistas que está cada vez mais difícil perceber o que é real e o que não é.
Mas será que as pessoas podem ser treinadas para identificar uma imagem de um ser humano que, na verdade, foi criada por uma máquina?
Essa é uma questão que Sutherland, da Universidade de Aberdeen, na Escócia, têm analisado em parceria com outros pesquisadores .
Mas, antes de revelarmos a resposta, faça este teste — e anote sua pontuação.
Se você achou difícil, não está sozinho.
Antigamente era muito mais fácil identificar criações visuais geradas por computador — muitas vezes usadas por golpistas — porque a IA cometia erros, como adicionar um dedo extra ou algum outro detalhe obviamente estranho.
Mas a IA aprende com seus erros.
“O treinamento baseado em elementos visuais, como procurar um sexto dedo ou brincos estranhos, teve sucesso limitado, em parte porque a IA está ficando boa demais, e os golpistas podem evitar usar imagens com falhas óbvias de qualquer forma”, explicou a professora australiana Amy Dawel.
Ela é a mulher de cabelo na altura dos ombros na foto segurada por Sutherland que abre esta reportagem.
A imagem do homem é a falsa.
Dawel é diretora do Laboratório de Emoções e Expressões Faciais da Universidade Nacional da Austrália.
Ela lidera uma equipe de pesquisadores na Austrália, no Canadá e no Reino Unido para descobrir se as pessoas podem ser treinadas para desmascarar avatares criados por IA.
A resposta, pelo menos por enquanto, é sim — mas aprender a identificar uma imagem falsa criada por IA exige uma abordagem mais sutil.
Como identificar as falsificações?
Sutherland lidera a pesquisa baseada no Reino Unido na Universidade de Aberdeen.
Ela disse que eles perceberam que estavam desenvolvendo uma percepção intuitiva sobre quais rostos eram reais e quais eram gerados por IA apenas observando-os.
“Então pensamos: OK, seria realmente interessante ver se conseguiríamos ensinar isso a outras pessoas também”, disse ela.
Para os experimentos, foi criado um conjunto com milhares de rostos gerados por IA usando uma ferramenta de imagens chamada StyleGAN3, um dos geradores de rostos mais realistas disponíveis.
Os participantes foram testados antes e depois de receber treinamento.
Como foi o treinamento?
Os pesquisadores treinaram os participantes dos estudos chamando atenção para seis qualidades perceptivas:
- Simetria — A IA frequentemente falha em recriar as peculiaridades que nos tornam humanos — uma pálpebra levemente caída ou um sorriso torto. “Se parece bom demais para ser verdade, provavelmente não é.”
- Proporcionalidade — Um conceito semelhante. Narizes muito grandes ou orelhas salientes não são características típicas de imagens deepfake.
- Atratividade — “Os rostos gerados por IA tendem a parecer mais atraentes”, explica Sutherland. “Esse aspecto é mais subjetivo, um julgamento estético, mas a IA frequentemente cria rostos que são agradáveis de olhar.”
- Distintividade — “Pode ser algo como: ‘o que faria um rosto se destacar em uma multidão?’ Os rostos gerados por IA tendem a se agrupar em torno da média. Então parecem um pouco mais genéricos.”
- Expressividade — “Os rostos gerados por IA tendem a parecer menos expressivos emocionalmente”, diz Sutherland. “Eles tendem a demonstrar menos emoção.”
- Memorabilidade — “Eles frequentemente parecem menos memoráveis — são difíceis de lembrar.”
A IA também tende a ser menos competente na recriação de rostos de pessoas não brancas, mais velhas ou mais jovens, porque uma parcela maior de seu treinamento envolve pessoas brancas e jovens.
Algumas dessas dicas podem parecer bastante semelhantes e “vagas” — mas é exatamente essa a ideia.
Raramente você encontrará um sinal infalível que revele uma falsificação criada por IA. Em vez disso, trata-se de se familiarizar com suas características e desenvolver uma sensação intuitiva.
Os pesquisadores descobriram que, ao expor as pessoas a imagens reais e geradas por IA, e depois informar quais eram quais, elas conseguem melhorar significativamente seu desempenho — até mesmo no espaço de cerca de uma hora.
Os pesquisadores descobriram que os participantes normalmente aumentavam sua taxa de acerto de cerca de 40% para 80%.
Alguns indivíduos chegaram perto de 100% de precisão.
Crédito, Nightingale
Ironicamente, o que o cérebro humano está fazendo nesse caso é semelhante à forma como os modelos de IA generativa funcionam.
Dê a eles dados suficientes para treinamento e, ao longo do tempo, sua precisão melhora — mesmo que talvez não entendamos completamente como eles fazem isso.
Os estudos também analisaram o grau de confiança dos participantes na identificação das imagens geradas por IA.
Pesquisas anteriores indicavam que as pessoas tinham confiança excessiva em sua capacidade de identificar rostos criados por IA, sendo que as pessoas mais confiantes cometiam mais erros.
Após o treinamento, verificou-se que os participantes haviam aumentado sua confiança na identificação dos deepfakes.
“Isso é útil, certo?”, diz Sutherland. “Porque, se você não sabe quando está certo ou errado, não consegue realmente fazer nada com essa informação.”
Ok. Vamos fazer outro teste?
Está se sentindo mais confiante?
Se a resposta for não, não seja tão duro consigo mesmo. Tanto no mundo humano quanto no da IA generativa, a prática leva à perfeição — ou pelo menos um pouco mais perto dela.
Por que aprender a identificar IA é importante?
O perigo mais óbvio é a fraude.
A consultoria global Deloitte previu que as perdas com golpes usando deepfakes de IA apenas nos Estados Unidos podem chegar a 40 bilhões de libras esterlinas (R$ 274 milhões) no próximo ano, acima dos 12 bilhões de libras (R$ 82,2 milhões) registrados em 2023.
O relatório citou o exemplo de um golpe em que um funcionário de uma empresa sediada em Hong Kong transferiu o equivalente a R$ 171 milhões para fraudadores após uma videochamada com uma recriação em deepfake de seu chefe.
Outro uso preocupante da tecnologia de deepfake é a espionagem política.
Já em 2019, uma investigação da Associated Press concluiu que um perfil no LinkedIn — incluindo uma foto — pertencente a uma mulher chamada Katie Jones parecia ser fictício.
Jones se apresentava como especialista em Rússia e Eurásia, com vínculos com importantes centros de pesquisa e círculos de formulação de políticas em Washington.
A reportagem da AP afirmou que ela era, na verdade, um deepfake produzido pela inteligência russa que conseguiu se conectar com importantes assessores políticos dos EUA e autoridades de segurança nacional.
Crédito, Linkedin
Na Austrália, um político está atualmente propondo uma exigência de divulgação e aplicação de “marca d’água” em conteúdos políticos gerados por IA.
Para ser justa com a IA, Sutherland também vê alguns usos positivos para a tecnologia — como a capacidade de mostrar de forma rápida e barata como uma criança desaparecida há muitos anos poderia parecer em diferentes idades.
Ela diz que, se as pessoas estiverem “usando a tecnologia de boa-fé e souberem que a IA foi utilizada, ela poderá ser potencialmente muito útil para atividades criativas”.
Portanto, a boa notícia é que ainda não vivemos em um mundo distópico no qual seja impossível distinguir o que é real do que foi gerado por computador.
A má notícia é que os modelos de IA talvez já tenham “lido” os artigos acadêmicos publicados. E estão aprendendo.