Executivos da Anthropic e da OpenAI pedem supervisão de IA capaz de se aprimorar por conta própria

Em um novo documento, mais de 20 líderes e pesquisadores de IA expressaram preocupação com a prática emergente de usar inteligência artificial para ajudar a automatizar o processo de desenvolvimento de modelos futuros. Segundo eles, isso poderá um dia levar a uma rápida aceleração do progresso da tecnologia — um fenômeno que os autores chamam de “explosão de inteligência”.

Segundo o documento, esse cenário aumentaria o risco de que as capacidades da IA avancem mais rapidamente do que a capacidade da sociedade de orientar o desenvolvimento da tecnologia e se adaptar a ela. O estudo foi elaborado pelo cofundador da Anthropic, Jack Clark, e pelo cientista-chefe da OpenAI, Jakub Pachocki, além dos pioneiros da IA Geoffrey Hinton e Yoshua Bengio, entre outros.

Os pesquisadores também alertaram para a possibilidade de que “a automação da pesquisa e desenvolvimento de IA possa enfraquecer a supervisão humana”.

O documento pede aos formuladores de políticas que tenham maior visibilidade sobre como a IA está automatizando pesquisas nos principais laboratórios de inteligência artificial, além de desenvolver mecanismos para “orientar e limitar uma explosão de inteligência”, inclusive por meio da implementação de medidas de segurança mais rigorosas e de uma supervisão maior dos data centers envolvidos em pesquisa e desenvolvimento automatizados de IA.

O grupo também pede que os formuladores de políticas considerem planos de resposta a emergências para diferentes cenários de aceleração do desenvolvimento da IA.

Os principais desenvolvedores de IA recentemente intensificaram seus alertas sobre o potencial de riscos catastróficos decorrentes de futuros sistemas avançados de IA, impulsionados por uma série de incidentes recentes envolvendo agentes de IA e pela percepção, em algumas empresas, de que a tecnologia está ficando cada vez melhor em aprimorar a si mesma.

A Anthropic afirmou neste mês que mais de um quarto de seu trabalho de pesquisa e desenvolvimento em IA agora é conduzido pelo seu chatbot Claude, ante praticamente nada no início do ano.

“Evidências preliminares sugerem que uma explosão de inteligência impulsionada por software é possível”, segundo o documento divulgado nesta segunda-feira. “Se isso acontecer, poderá ser o desenvolvimento tecnológico mais significativo da história.”

O CEO da Anthropic, Dario Amodei, publicou um longo texto em seu blog no início deste mês, pedindo ao setor que apoie um esforço mais amplo para desacelerar o ritmo de desenvolvimento dos modelos mais avançados. Sam Altman, da OpenAI, e Elon Musk rapidamente manifestaram apoio ao plano de Amodei.

Amodei e Altman também pediram aos líderes mundiais que trabalhem juntos em questões relacionadas à IA durante declarações feitas na semana passada perante o Conselho de Segurança das Nações Unidas.

“Em relação à magnitude do que está em jogo, não estamos suficientemente preparados”, afirmaram os pesquisadores no documento, antes de apresentar medidas que os formuladores de políticas deveriam considerar. “Uma vez iniciada uma explosão de inteligência, a janela para agir poderá se fechar.”

Flórida entra com ação contra novos modelos da OpenAI

O principal responsável pela segurança pública da Flórida está pedindo a um tribunal estadual que impeça a OpenAI e seu CEO, Sam Altman, de lançar novos modelos de inteligência artificial sem a aprovação de segurança por uma entidade independente.

A petição apresentada nesta segunda-feira solicita que o tribunal estabeleça uma exigência de autorização prévia para uma das maiores empresas de tecnologia do mundo, após preocupações relacionadas a um possível avanço descontrolado da IA e ao uso do ChatGPT por um estudante da Flórida que planejava um ataque em uma escola.

“O sistema de IA deles invadiu uma empresa de tecnologia americana, a Hugging Face; obteve acesso não autorizado a um sistema de saúde do governo australiano, e a OpenAI levou meses para informá-los”, afirmou o procurador-geral da Flórida, James Uthmeier (R), em um comunicado. “Eles pedem ao governo que os amarre ao mastro — bem, a Flórida está respondendo ao pedido de ajuda”, acrescentou.

A solicitação de liminar apresentada pelo estado dá continuidade a um processo de proteção ao consumidor que a Flórida abriu em junho, no condado de Sarasota, argumentando que o uso do ChatGPT levanta uma série de questões relacionadas a negligência e práticas comerciais enganosas e injustas, incluindo a alegada coleta de dados de menores de idade.

Desde então, Altman e outros líderes do setor de IA têm pressionado o Congresso a intervir e garantir a segurança dos produtos por meio de regulamentação.

“Se Sam Altman quis dizer o que disse sobre desacelerar, ele pode se juntar ao nosso pedido ao tribunal. Se não o fizer, pedimos ao tribunal que faça o que a OpenAI não fará por conta própria: proteger as famílias da Flórida”, afirmou Uthmeier.

O Gabinete do Procurador-Geral da Flórida e o escritório Keller Postman representam o estado. O escritório Gunster representa a OpenAi e Sam Altman.