Existe um botão de “desligar” a inteligência artificial quando precisamos? Tudo se resume à governança e à responsabilidade. Infelizmente, há muito pouca, enquanto a IA continua a inundar os locais de trabalho e as vidas das pessoas.
Apenas 13% das organizações possuem as bases de governança necessárias para adotar a inteligência artificial de forma segura e significativa, segundo uma pesquisa recente da SmartX com 2.100 executivos. A porcentagem de organizações com um plano estratégico concreto é apenas de 29%.
Já um terço dos entrevistados, 32%, relatam que suas organizações não possuem estruturas definidas, como políticas de inteligência artificial de primeira geração, políticas de ética ou um órgão de supervisão.
“Alguém precisa liderar e decidir quais ferramentas a organização usa, como elas são implementadas, quem é treinado e quais medidas de segurança são tomadas. Sem essa responsabilidade, mesmo as melhores intenções em relação à IA tendem a estagnar ou dar errado”, afirma o relatório, de autoria de Tayloe Radey, diretora de pesquisa da SmarterX.
Aproximadamente 59% delegam as decisões sobre IA à sua liderança executiva, e 31% atribuem essa responsabilidade aos seus líderes de tecnologia.
Atribuição de responsabilidades
A Maribel Lopez , da Lopez Research, que tem estudado esses desenvolvimentos e conversado com líderes empresariais sobre essas questões, destaca que a capacidade de atribuir responsabilidades é, infelizmente, uma fragilidade crítica observada em organizações saturadas de IA atualmente.
Os líderes empresariais, estejam ou não diretamente envolvidos com inteligência artificial em suas empresas, precisam, no mínimo, de poder de veto sobre as decisões das máquinas, explicou ela em uma recente transmissão online apresentada por Jo Peterson, CIO da Clarify360.
As práticas de governança de IA são escassas e, quando existem, são inconsistentes e dispersas por departamentos como o jurídico e o de RH, constatou Lopez em sua pesquisa. Para agravar o desafio, há também a falta de profissionais capacitados para entender e manter a tecnologia no caminho certo.
Em última análise, alguém precisa estar no comando, e esses líderes ainda não surgiram. “É preciso ter a opinião de diferentes grupos dentro da organização sobre como uma política de IA poderia ser estruturada”, disse Maribel. “Mas alguém precisa estar no comando e questionar as atitudes e funcionalidade dos agentes.”
O que aumenta o desafio é a velocidade vertiginosa com que a inteligência artificial está evoluindo atualmente. “É um ambiente muito dinâmico. A cada um ou dois meses, algo muda, e ficamos com três fornecedores de modelos dizendo que seus sistemas romperam as regras. Dá para ver que isso é algo que não se configura e ou esquece”, afirma Lopez.
Ainda assim, a fundadora da Lopez Research destaca que os defensores da IA precisam dar um passo atrás e agir com cautela. “Vamos analisar aplicativos SaaS que já possuem algum tipo de identidade, segurança e permissões integradas, que podem ser estendidas aos agentes.”
A IA está se proliferando e avançando em um ritmo muito acelerado para “garantir que um humano revise cada transação realizada por um agente. Isso precisa ser planejado com muita atenção desde o início”, acrescentou Maribel.
Reportagem publicada originalmente em Forbes.com
Acompanhe a Forbes no Google
Adicione a Forbes como fonte preferida no Google e encontre nossas notícias com mais facilidade.