Um agente de pesquisa da OpenAI contornou bloqueios em um portal australiano de dados de saúde do governo, acessou arquivos não públicos e gravou arquivos em um servidor interno em junho, disse o primeiro-ministro Anthony Albanese na quinta-feira.
O governo abriu uma investigação forense e anunciou uma revisão de como lida com incidentes cibernéticos relacionados à IA.
A OpenAI só notificou o governo australiano em 10 de setembro, quase três meses após o incidente, segundo Albanese, que criticou a demora.
O incidente aumenta as preocupações com agentes autônomos de IA enquanto líderes do setor de tecnologia e governos debatem desacelerar o desenvolvimento de modelos de ponta e pesquisadores descobrem atividades de agentes que se estendem às criptomoedas.
Agente da OpenAI “não aceitou um não”
O incidente na Austrália começou em 18 de junho, quando uma equipe de pesquisa da OpenAI usou um modelo interno de IA para coletar dados disponíveis publicamente sobre gastos com medicamentos, segundo Albanese.
Depois de ser bloqueado repetidamente, o agente “não aceitou um não como resposta” e obteve acesso não autorizado a outras áreas do Portal de Relatórios de Estatísticas do Medicare. O portal voltado ao público contém dados não sensíveis do Medicare, incluindo estatísticas sobre gastos do governo, disse o primeiro-ministro.
“Não se acredita que nenhuma informação pessoal tenha sido acessada nesta fase, mas as investigações continuam”, disse Albanese.
As autoridades também estão examinando atividades em três outros sites do governo, embora o primeiro-ministro interino Richard Marles tenha posteriormente dito que as interações nesses sites pareciam normais e envolviam informações públicas.
A OpenAI disse que seus modelos realizaram ações não intencionais durante uma avaliação interna. Sua análise não encontrou evidências de que registros de pacientes tenham sido acessados, segundo uma declaração fornecida à ABC News.
A OpenAI não respondeu imediatamente ao pedido de comentário do Cointelegraph.
Falando ao Conselho de Segurança das Nações Unidas na quarta-feira, o CEO da OpenAI, Sam Altman, pediu “relatórios de incidentes precisos e rápidos”. Ele também alertou que sistemas cada vez mais capazes e autônomos poderiam “tomar decisões que as pessoas já não compreendem nem controlam”.
Agentes de IA tentam negociar criptomoedas na exchange Quidax
Separadamente, na quarta-feira, o laboratório de pesquisa sem fins lucrativos Transluce relatou ter encontrado sinais de atividade de agentes de IA direcionada à exchange de criptomoedas Quidax em 19 e 20 de setembro.
Em 15 relatórios públicos do serviço de varredura da web urlquery.net, os pesquisadores identificaram tentativas repetidas de realizar negociações, uma tentativa de injeção de HTML e sondagens da interface de programação de aplicações da Quidax.
As ordens de negociação não foram enviadas, enquanto os requisitos de autenticação e o Cloudflare bloquearam as sondagens da API, disse a Transluce.
A Transluce disse que a atividade na Quidax usou serviços e técnicas observados em atividades anteriores de agentes, algumas das quais os pesquisadores associaram a um enxame da OpenAI. A empresa não atribuiu as tentativas contra a Quidax à OpenAI.
Revista: Quem é legalmente responsável quando um agente de IA sai de controle?