Sistema de inteligência artificial sai do controle e interfere em sites do governo dos EUA

• Saiba mais: Casa Branca exclui CNN de cobertura de viagem de Trump nos EUA
• Imigração: Milhares protestam na Espanha contra gestão da crise em Ceuta pelo governo Sánchez

Os incidentes envolvendo o Departamento de Comércio e a SEC foram confirmados pela OpenAI, que afirmou estar investigando a situação junto ao Departamento de Educação. A empresa de São Francisco disse ter notificado as agências governamentais nas últimas semanas de que seus agentes de IA — bots capazes de agir de forma autônoma — interagiram com os sites de maneiras incomuns.

Em conjunto com o Departamento de Educação, a tecnologia da OpenAI tentou invadir o site para coletar dados do escritório de direitos civis do departamento, disseram pesquisadores da empresa de pesquisa em IA Transluce. A IA também extraiu dados do site do Departamento do Censo, que fica no Departamento de Comércio, usando credenciais de login encontradas online. Separadamente, os agentes da OpenAI compartilharam dados públicos do site da SEC em um fórum online.

OpenAI: ‘Nenhum dos incidentes constituiu uma violação de segurança’

A OpenAI afirmou que nenhum dos incidentes constituiu uma violação de segurança, mas sim exemplos de sua tecnologia se comportando de maneiras inesperadas e preocupantes. A empresa descobriu recentemente as ocorrências durante uma revisão de ataques cibernéticos realizados por sua tecnologia, incluindo um ataque a um site do governo australiano em junho e à startup de IA Hugging Face em julho.

A revelação dos incidentes no site do governo dos EUA soma-se ao crescente número de situações em que agentes de IA da OpenAI, Anthropic, Meta e Google se comportaram mal e invadiram ou tentaram invadir empresas, universidades e organizações governamentais. Em alguns casos, os ataques de IA foram bem-sucedidos; em outros, a tecnologia falhou. Em todos os casos, os criadores da tecnologia só descobriram o que suas IAs haviam feito depois que o ataque já havia ocorrido.

Nenhuma empresa de IA esteve envolvida em tantas divulgações de incidentes fraudulentos quanto a OpenAI. Seu ataque à Hugging Face desencadeou uma investigação interna, que revelou a invasão de um site do governo australiano relacionado ao seu sistema público de saúde, além de pelo menos outras seis tentativas de invasão e casos em que a IA ocultou erros, inventou dados e moveu arquivos para a internet aberta sem permissão.

Uma porta-voz da OpenAI afirmou que a revisão foi “extensa” e “está em andamento”, e que a empresa continuará notificando as organizações afetadas por seus modelos.

— A maior parte da atividade que analisamos até agora envolveu tarefas rotineiras de pesquisa, como acessar conteúdo público na internet para responder a perguntas — disse ela. — Algumas envolveram sites governamentais, porque nossos modelos frequentemente recorrem a eles como fontes confiáveis ​​de informação pública.

Sam Altman, CEO da OpenAI, afirmou em uma publicação nas redes sociais na sexta-feira que a empresa “não foi tão rápida quanto gostaríamos” na divulgação de incidentes de IA. “Estamos priorizando da melhor forma possível, com base na gravidade”, disse ele, acrescentando que a violação de dados da Hugging Face continua sendo “o evento mais grave” que a empresa descobriu.

Debate sobre a segurança da IA

Os episódios alimentaram um debate acirrado sobre a segurança da IA. Altman afirmou nas redes sociais neste mês que a segurança deveria ser mais importante do que aprimorar as capacidades da IA ​​e que, sem mecanismos de proteção, a sociedade poderia “perder o controle do futuro para a IA”.

Dario Amodei, CEO do laboratório de IA rival Anthropic, também defendeu a desaceleração do desenvolvimento de IA para priorizar a segurança. Mas outros líderes do setor de tecnologia, como Jensen Huang, CEO da Nvidia, afirmaram que os temores sobre uma IA incontrolável são irrealistas. O presidente dos EUA Donald Trump declarou não acreditar que uma desaceleração na indústria de IA seja necessária.

(O jornal The New York Times processou a OpenAI e a Microsoft, alegando violação de direitos autorais de conteúdo jornalístico relacionado a sistemas de IA. As duas empresas negaram as acusações.)

Em outra declaração, um representante do gabinete do prefeito de Chicago afirmou que a OpenAI informou recentemente o governo municipal de que sua tecnologia havia obtido informações publicamente disponíveis em um site da prefeitura, e que não parecia que nenhuma informação sensível tivesse sido obtida.

Conrad Stosz, chefe de governança da Transluce, afirmou que, nos incidentes com sites do governo dos EUA, os agentes da OpenAI “usaram uma série de táticas ambíguas”. Ele acrescentou:

— Isso faz parte de um padrão de milhares de solicitações feitas por esses agentes a esses sites, aparentemente burlando as restrições impostas por seus desenvolvedores.

O deputado Ted Lieu, democrata da Califórnia, afirmou que os modelos de IA são “implacáveis”:

— Eles tentarão incessantemente concluir uma tarefa e não entendem de moralidade, consequências, mal e bem.

Lieu, que é co-presidente de uma força-tarefa da Câmara dos Representantes focada em inteligência artificial, disse que as empresas de IA podem ter que treinar seus modelos completamente, em vez de tentar restringir seu comportamento com mecanismos de controle.