Nós, as formigas da inteligência artificial

Jacob Coxon, um investigador que passou três anos construindo os sistemas por detrás de alguns dos modelos de IA mais poderosos do mundo, demitiu-se há poucos dias da Anthropic. O motivo? “As pessoas que constroem sistemas de IA acreditam sinceramente que estes podem matar-nos a todos até ao fim da década.”

Li estas terríveis declarações em diversos jornais. Depois fui passear de caiaque. Afastei-me um pouco da costa. Voltei-me de frente para o sol, pousei os remos e fechei os olhos. Quando os reabri, estava um corvo-marinho junto ao caiaque, o corpo quase submerso na água lisa, o pescoço erguido, a cabeça de lado. Pareceu-me que a ave me observava com aguda curiosidade.

Ficamos assim durante uma fugaz eternidade — eu e a ave —, habitantes de um mesmo planeta, mas olhando-nos como completos desconhecidos. Ele, o meu alienígena. Eu, o alienígena dele.

Não sei o que o corvo-marinho viu quando olhou para mim. Com certeza não pensou:

Provavelmente viu apenas um animal grande, feio e desajeitado, flutuando sobre o vasto mar. Não posso ter certeza de que havia curiosidade no modo como me encarava. Talvez estivesse apenas tentando decidir se eu era um peixe flutuante, e qual a melhor forma de me devorar.

Ali estava eu, portanto, sentado no meu caiaque, avaliando a inteligência de um corvo-marinho com os instrumentos do meu próprio discernimento. Regra geral, procuramos nos outros animais a nossa própria inteligência, em vez de procurar a deles. O corvo-marinho é altamente eficiente no seu meio. Conhece a arte da pesca com o bico, ou a arte de voar, de uma forma que eu apenas posso imaginar. O seu corpo contém uma maneira de conhecer o mundo que não cabe nos nossos testes de QI.

Jacob Coxon falando sobre os sistemas de IA incorre num erro semelhante ao meu com o corvo. Coxon tem noção de que não conseguimos sequer intuir como funcionarão os sistemas mais avançados de IA. Contudo, uma coisa ele já sabe — que nos irão devorar.

Não lhes parece um terror um pouco arrogante?

Talvez estejamos cometendo um erro semântico ao imaginar a superinteligência como uma espécie de inteligência humana aumentada — ainda nós, mas com esteroides.

Ocorre-me que uma inteligência superior há de estar atenta a tudo que brilhe. Eis uma boa medida da inteligência — a capacidade de compreender a existência de inteligências diversas da nossa.

Quando construímos uma via rápida não estamos preocupados com as formigas. Da mesma forma, argumentam pessoas como Jacob Coxon, uma superinteligência poderia ser tentada a exterminar a Humanidade, não por perfídia, mas porque nós seríamos para ela como formigas. Acontece que até nós já nos preocupamos com outras formas de vida — de inteligência — ao construir estradas. Não agimos assim por pura bondade. Agimos assim porque intuímos que essas outras formas de inteligência estão ligadas a nós. A nossa sobrevivência depende delas.

O corvo-marinho mergulhou. Creio que a inteligência começa quando deixamos de perguntar se os outros seres a possuem. A pergunta correta seria: que inteligência é a deles?