Inteligência artificial: o que está por trás das respostas que ela dá?

De filtros que transformam fotos a ferramentas capazes de escrever textos, resumir documentos e organizar tarefas, a inteligência artificial já faz parte da rotina de muita gente. Nas redes sociais, celebridades e influenciadores ajudaram a popularizar esse uso, enquanto empresas passaram a incorporar a tecnologia a atividades mais complexas. Conforme a IA ganha autonomia, porém, uma questão começa a chamar atenção: o que acontece quando a máquina precisa buscar informações por conta própria
Conversar com IA pode afetar um relacionamento? Dúvidas viralizam entre usuários
Seu rosto pode entregar como você está no trabalho? Entenda o que a IA percebe
A dúvida ganha outra dimensão quando envolve assuntos como dinheiro e investimentos. Uma resposta produzida rapidamente pode parecer convincente, mas sua qualidade depende dos dados usados pelo sistema e das fontes consultadas. É nesse contexto que atua o brasileiro Lucas Kojo Chehuen, que pesquisa o uso de inteligência artificial para consultar informações financeiras e documentos públicos.
Uma das questões que orientam sua investigação é justamente a possibilidade de acompanhar esse percurso: quais fontes foram consultadas, quais dados foram considerados e como eles contribuíram para o resultado apresentado pela IA. Em análises financeiras, essa rastreabilidade pode ajudar a identificar eventuais erros e a entender como uma resposta foi construída.
“Existe uma diferença enorme entre pedir para uma IA responder sobre uma empresa e permitir que ela vá até a fonte, busque os dados necessários e só depois faça a análise. No segundo caso, você começa a transformar o modelo em parte de um processo de pesquisa com proveniência de dados”, explica o especialista.
A IA que vai além da conversa
A mudança está relacionada à evolução dos chamados agentes de inteligência artificial. Diferentemente de um chatbot convencional, eles podem executar uma sequência de tarefas, como identificar uma necessidade, acessar uma fonte, organizar o que foi encontrado e usar essas informações para chegar a um resultado.
Com isso, parte do processo passa a ocorrer a partir de consultas feitas no momento da tarefa, e não apenas com base no conhecimento incorporado ao modelo durante seu treinamento.
“A IA avançou do chat para softwares complexos multiagênticos. Se um agente precisa analisar um ativo, ele deve usar ferramentas adequadas para buscar os dados; se precisa consultar um documento regulatório, deve utilizar outra. O valor está em fazer essas partes funcionarem juntas e evitar alucinações ou erros nos dados”, afirma.
No mercado financeiro, a questão ganha importância porque balanços, documentos regulatórios e indicadores podem ser atualizados ou sofrer alterações. Uma informação incorreta pode comprometer uma análise, o que torna relevante saber quais fontes foram consultadas e como os dados foram utilizados ao longo do processo.
O que o código aberto muda?
É aí que o software de código aberto entra na discussão. Diferentemente de sistemas fechados, ele pode, de acordo com sua licença, ser examinado, adaptado e utilizado por diferentes desenvolvedores.
Esse modelo já está presente no setor financeiro. Segundo um levantamento da Linux Foundation Research e da FINOS, 87% dos participantes disseram que o uso de software de código aberto gera valor para suas organizações. A inteligência artificial também apareceu na pesquisa como a tecnologia open source considerada mais importante para o futuro do setor.
Para Chehuen, uma das possibilidades está em facilitar o desenvolvimento e a adaptação de soluções por diferentes profissionais e empresas. “Código aberto não significa que todo mundo passa a ter gratuitamente a mesma infraestrutura de uma grande instituição financeira. Além disso, há possibilidade de construir, inspecionar e adaptar as ferramentas e reduzir a barreira para quem quer experimentar uma arquitetura de IA sobre dados financeiros”, diz.
O código aberto, porém, não elimina outras questões envolvidas no uso desses sistemas. Segurança, qualidade das informações, manutenção e controle sobre os processos continuam entre os pontos a considerar.
Quando a resposta também precisa ser explicada
Há ainda outro desafio: se uma IA consulta diferentes fontes antes de chegar a uma conclusão, como saber o que aconteceu nesse processo?
A pergunta está relacionada à chamada proveniência dos dados, conceito que permite registrar a origem das informações e as etapas pelas quais elas passaram. À medida que esses sistemas ganham autonomia, acompanhar esse percurso pode ajudar a identificar erros e entender como determinado resultado foi produzido.
“Se um agente consultou cinco fontes e acionou três ferramentas antes de chegar a uma conclusão, é preciso reconstruir esse caminho, porque, em finanças, não basta que uma resposta pareça correta; precisamos saber o que sustentou aquela resposta”, observa.
A questão, no entanto, não se restringe ao mercado financeiro. À medida que a inteligência artificial passa a executar tarefas, além de responder a perguntas, saber quais fontes foram utilizadas também ganha importância em outras situações.
Para Chehuen, isso não significa transferir o julgamento para a máquina. “As IAs aumentam a produtividade do humano e dão mais tempo para aquilo que realmente exige julgamento. A vantagem não está em deixar a máquina decidir e fazer tudo, mas em construir um processo melhor com a ajuda dela”, pontua.
No fim, a questão talvez não seja apenas o que a inteligência artificial é capaz de fazer, mas também saber quais informações ela consultou para chegar a um resultado.

[Fonte Original]