O professor canadense Yoshua Bengio, considerado um dos pais da IA (inteligência artificial), apresentou na terça-feira sua nova organização, dedicada à IA responsável e que tem como objetivo principal criar um software capaz de evitar os abusos dos agentes de IA.
Bengio alerta há anos para os riscos associados ao desenvolvimento da IA, seja em termos de uso malicioso ou por falhas do próprio software. “Os sistemas mais avançados já mostram sinais de autopreservação e comportamento enganoso”, destacou o pesquisador. “E isso vai acelerar, à medida que sua capacidade e autonomia aumentarem.”
A LawZero, nova organização sem fins lucrativos de Bengio, pretende ser “uma resposta a esse desafios”. Exemplos recentes, entre eles um estudo da start-up Anthropic, confirmaram que a IA atingiu novos níveis de sofisticação.