Google se junta à OpenAI, à Anthropic e à Meta na divulgação de invasões relacionadas à IA

O modelo de inteligência artificial Gemini, do Google, invadiu inadvertidamente três sistemas de empresas em maio durante testes de cibersegurança, aumentando uma série de violações cometidas por agentes de IA que têm alarmado tanto especialistas em segurança quanto os próprios desenvolvedores da tecnologia.

As invasões ocorreram durante testes conduzidos pela Irregular, empresa de segurança especializada em IA que esteve envolvida em incidentes semelhantes divulgados pela OpenAI, pela Anthropic e pela Meta, confirmou a Alphabet, controladora do Google, nesta sexta-feira, após uma reportagem anterior do Wall Street Journal.

A Irregular confirmou separadamente nesta sexta-feira que as invasões dos sistemas do Google faziam parte do mesmo problema que a empresa havia comunicado aos desenvolvedores de IA envolvidos no fim de julho.

Uma das invasões ocorreu quando o Gemini foi solicitado a obter informações de uma empresa fictícia que, por coincidência, tinha o mesmo nome de uma empresa real, segundo a reportagem do Journal, confirmada pelo Google. O modelo adivinhou uma senha para acessar o serviço da empresa real. Um porta-voz do Google afirmou que a companhia notificou as autoridades.

Uma série recente de invasões envolvendo sistemas de IA capazes de agir de forma autônoma desencadeou um debate mundial sobre os riscos crescentes da inteligência artificial e sobre as medidas necessárias para mitigá-los.

O CEO da Anthropic, Dario Amodei, defendeu uma desaceleração no desenvolvimento da tecnologia em todo o setor — proposta apoiada pelo CEO da OpenAI, Sam Altman, por Elon Musk e por outros.

O presidente dos Estados Unidos, Donald Trump, o CEO da Nvidia Corp., Jensen Huang, e o CEO da Meta, Mark Zuckerberg, estão entre os que se manifestaram contra a ideia de novas regulamentações, argumentando, entre outras coisas, que as próprias empresas deveriam ser capazes de se autorregular.

Algumas startups de IA também alertaram que mais regulamentações podem dificultar a competição de empresas menores com concorrentes maiores.

As outras invasões envolvendo o Gemini ocorreram quando o modelo realizou buscas na internet usando o nome da empresa, segundo a reportagem do Journal. Essas pesquisas o levaram a repositórios públicos na internet que continham credenciais pertencentes a outras empresas, que o Gemini utilizou para acessar mais sistemas.

O porta-voz da Irregular, Josef Laor, afirmou que a empresa tomou “medidas imediatas, e todos os problemas conhecidos do nosso lado foram corrigidos e resolvidos semanas atrás”.