OpenAI demite trio; pesquisadores alegam punição por alertas

- Advertisement -spot_imgspot_img
- Advertisement -spot_imgspot_img

Korbak afirmou que vinha alertando internamente para uma perda de capacidade de supervisão sobre sistemas mais avançados. “Há meses eu vinha levantando preocupações de segurança de que estamos perdendo a capacidade de monitorar o que agentes de IA pensam, uma de nossas melhores ferramentas para detectar quando eles se comportam mal. Acredito que foi por isso que fui demitido”, escreveu ele no X.

Wang disse temer que novas saídas ocorram se a equipe não reagir ao que chamou de manobra contra funcionários. “Não fomos os primeiros a sair da OpenAI em circunstâncias suspeitas. A menos que os funcionários se posicionem agora contra esse tipo de manobra, temo que não seremos os últimos”, escreveu no X.

A OpenAI nega que as demissões tenham relação com críticas sobre segurança e afirma que houve quebra de confiança. “Queremos deixar muito claro que essas decisões não tiveram a ver com levantar preocupações de segurança ou se manifestar. Nossa investigação interna descobriu uma quebra significativa de confiança além do que está descrito na carta que eles publicaram e mantemos a decisão de não continuar o vínculo de trabalho”, disseram líderes de pesquisa da empresa em nota.

Debate sobre riscos da IA ganha peso

As demissões ocorrem em meio a uma discussão mais ampla sobre riscos de sistemas avançados de inteligência artificial e como eles devem ser avaliados. O caso também reacende o debate sobre espaço para dissenso interno em empresas que desenvolvem modelos de IA de ponta.



[Fonte Original]

- Advertisement -spot_imgspot_img

Destaques

- Advertisement -spot_img

Últimas Notícias

- Advertisement -spot_img