/https://i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2025/l/x/ZBfhhdSaAE7oFJBwxEBg/grok-musk-bloomberg.jpg?ssl=1&description=Uso+da+IA+para+conte%C3%BAdo+ilegal+exp%C3%B5e+necessidade+de+maior+vigil%C3%A2ncia){kind=link}
A exemplo de autoridades estrangeiras, a Agência Nacional de Proteção de Dados (ANPD) emitiu neste mês uma nota técnica tendo como alvo o Grok, robô de inteligência artificial da plataforma X, a rede social de Elon Musk. De acordo com o documento, a plataforma pouco tem feito para evitar ser usada para gerar imagens hiper-realistas simulando conteúdo erótico até com crianças, mesmo depois de ter sido admoestada em janeiro por ANPD, Ministério Público Federal e Secretaria Nacional do Consumidor. Em resposta, advogados da xAI questionaram os testes realizados pelos técnicos da ANPD e exigiram mais informações para tomar as providências necessárias.
A ação conjunta para limitar o Grok seguiu denúncias, tanto nos Estados Unidos como no Brasil, sobre a circulação de imagens eróticas produzidas ou alteradas pelo robô. Nos Estados Unidos, o procurador-geral da Califórnia, Rob Bonta, instaurou inquérito para investigar a xAI e a proliferação não consentida dos conteúdos. Também foram abertos processos individuais contra o X. Houve bloqueios imediatos de conteúdos, ainda em janeiro, em países como Indonésia, Malásia, Reino Unido e na União Europeia. Se há um mercado integrado e globalizado, é o digital.
A rápida difusão de imagens criadas pelo Grok chamou a atenção da AI Forensics, ONG europeia com sede na Itália, especializada em auditoria de algoritmos e sistemas de IA em plataformas digitais. Entre 25 de dezembro e 1º de janeiro, ela coletou 50 mil menções ao Grok e 20 mil imagens. Desse total, 51% exibiam pessoas em trajes mínimos, 81% delas mulheres. Cerca de 2% retratavam indivíduos aparentando ter 18 anos ou menos. A maioria dos textos que acompanhavam as imagens estava escrita em inglês, seguido de espanhol, português, francês, turco e japonês.
A pesquisa da AI Forensics constatou o uso do Grok também na difusão de propaganda de cunho nazista e do grupo jihadista Estado Islâmico. Foram identificadas ainda 350 personalidades conhecidas nos arquivos analisados, um terço delas do mundo político, como Donald Trump, Benjamin Netanyahu ou Emmanuel Macron. A análise da ONG europeia sugere que a plataforma se tornou um foco para a criação de conteúdo usado para desinformação.
O Grok é apenas um dos robôs de IA que têm conquistado a cada dia mais público em razão de suas inúmeras aplicações positivas. No X, tem funcionado também para esclarecer dúvidas expondo campanhas de desinformação ou simples conteúdos mentirosos. A tecnologia continuará evoluindo, e não há motivo para duvidar de seus efeitos benéficos e transformadores. Os governos nacionais precisam, contudo, estar atentos. Além de legislações atualizadas, é fundamental que os organismos de supervisão se mantenham vigilantes. Tem de ser um trabalho sem descanso. Que também exigirá tecnologia avançada e recursos para ser realizado com eficácia.