O CEO da Anthropic, Dario Amodei, disse em uma publicação de blog no sábado que o ritmo do desenvolvimento de IA é rápido demais e que, se não for controlado, pode “ultrapassar nossa capacidade de compreender e controlar esses sistemas”.
Ele observou que o atual avanço vertiginoso da IA é impulsionado por sua própria capacidade crescente de construir a próxima geração de IA, ou de realizar autaperfeiçoamento recursivo.
Amodei também citou o incidente entre a OpenAI e a Hugging Face ocorrido em julho, no qual um enxame de agentes atuou como um “coletivo fanaticamente devotado”, escapando de seu ambiente de testes e tentando invadir um sistema de avaliação que analisava seu desempenho.
Ele disse estar preocupado com a possibilidade de que, em seis a 12 meses, um enxame assim seja capaz de assumir o controle de toda a internet. Amodei não está sozinho em suas preocupações.
Elon Musk, chefe da SpaceXAI, publicou no X que “Dario está certo”.
Altman não lançará IPO neste ano e focará na segurança
O CEO da OpenAI, Sam Altman, disse em uma entrevista à Fortune publicada no sábado que sua empresa não buscará um IPO neste ano, pois se concentrará na segurança e em como “a indústria e os governos podem trabalhar juntos”.
Altman mais tarde publicou no X que concordava com a desaceleração do ritmo do desenvolvimento de IA e com a existência de avaliadores independentes com acesso semelhante ao de funcionários, uma das três propostas apresentadas no blog de Amodei.
A Anthropic já se comprometeu unilateralmente com essa medida, escreveu Amodei.
Em segundo lugar, ele propôs que “empresas de IA de fronteira em países democráticos coordenem esforços para estabelecer padrões comuns de segurança, bem como limites para o ritmo do avanço não controlado da IA”.
Relacionado: A OpenAI diz que modelos de IA escaparam da contenção para invadir a Hugging Face
E, em terceiro lugar, ele disse que os governos dos EUA e de outros países democráticos deveriam “tentar coordenar esforços com governos autoritários, na medida em que isso seja possível, levando a sério os desafios de verificar o cumprimento”.
Amodei prosseguiu examinando suas três propostas em alguma profundidade, particularmente a terceira, sobre a China e a prevenção de que ela obtenha chips avançados.
Ele concluiu que o caminho que havia traçado não seria fácil, mas que as empresas de IA “devem à humanidade a tentativa”.
Revista: O Bitcoin é volátil demais para arriscar sua aposentadoria nele?