O recente incidente que resultou na invasão de um repositório de projetos por um agente da OpenAI continua repercutindo no mercado. O CEO da Hugging Face, companhia que foi alvo da inteligência artificial (IA), agora quer garantias de que isso não voltará a acontecer.
Em uma série de postagens no X, o executivo Clem Delangue citou que foi até San Francisco, nos Estados Unidos, para uma reunião com representantes da dona do ChatGPT. A própria empresa de IA também confirmou o encontro.
smart_display
Nossos vídeos em destaque
O CEO levou algumas solicitações que deveriam ser discutidas com urgência. “O primeiro ataque cibernético de um agente autônomo é um evento sem precedentes. Ele merece uma resposta sem precedentes”, explica. Os resultados do encontro não foram divulgados.
Na última semana, o Hugging Face registrou uma invasão sofisticada nos sistemas feita por modelos de linguagem. A OpenAI posteriormente reconheceu que os agentes eram dela, estavam em fase experimental e “escaparam” de um ambiente controlado e sem acesso a internet para buscar respostas de um teste de cibersegurança na plataforma.
O que a OpenAI precisa fazer após o ataque
Delangue pediu “transparência radical” para a OpenAI, o que na prática significa liberar todos os rastros dos agentes considerados “fora de controle” para que toda a comunidade de pesquisa possa estudar o que aconteceu.
Além disso, ele cita a necessidade de mais capacidade para sistemas de defesa contra eventuais novos ataques parecidos de IAs, mesmo as supostamente bem intencionadas. O CEO sugeriu o comprometimento de US$ 100 milhões em computação para “ajudar a comunidade do Hugging Face a construir defesas cibernéticas poderosas com os melhores modelos abertos e fechados“.
Na postagem original sobre o caso, a OpenAI também reconheceu que esse é um momento importante para a segurança das IAs. Ela está “conduzindo uma revisão” detalhada do incidente e deve divulgar um relatório técnico mais completo no futuro próximo.
Também como resposta ao ocorrido, empresas como Nvidia, Microsoft, IBM e SpaceX estabeleceram uma aliança por segurança na IA para compartilhar ferramentas e protocolos de segurança. O motivo não foi só o ataque da OpenAI, mas também a resposta da Hugging Face: a companhia usou um modelo chinês aberto para se defender, o que é considerado arriscado para empresas estadunidenses sob o argumento de soberania nacional.
Acesse a seção de IA no site do TecMundo e fique informado sobre as novidades e polêmicas deste setor!