Por que não devemos ter medo de robôs assassinos?

Sem sombra de dúvidas, estamos na era da Inteligência Artificial (IA), e alguns perigos não são mais fictícios. Os arquitetos de inteligência que trabalham hoje com IA podem, potencialmente, ser os que causam (ou nos protegem contra) um apocalipse real de robôs. Isso torna o que eles têm a dizer sobre a ameaça existencial que o trabalho deles representa para a nossa espécie bastante importante. E você, tem medo de robôs assassinos?

Alguns temem robôs com IA

O debate não é sobre a ideia geral de robôs assassinos. É sobre convergência instrumental (que é a tendência que agentes inteligentes possuem de perseguir objetivos de auto-preservação e busca de recursos). Stuart Russell, um especialista cujo currículo inclui um trabalho como professor de Ciência da Computação em Berkeley e outro na UC San Francisco como professor adjunto de cirurgia neurológica, explica isso imaginando um robô projetado para buscar café:

É trivial construir um MDP (Processo de Decisão de Markov) de brinquedo no qual a única recompensa do agente vem da busca pelo café.

Se, nesse MDP, houver outro “humano” com alguma probabilidade, por menor que seja, de desligar o agente, e se o agente tiver disponível um botão que o desligue, o agente necessariamente pressionará esse botão como parte do processo da solução ideal para buscar o café.

Sem ódio, sem desejo de poder, sem emoções embutidas, sem instinto de sobrevivência embutido, nada exceto o desejo de buscar o café com sucesso. Este ponto não pode ser abordado porque é uma simples observação matemática.

Este é, essencialmente, o Paperclip Maximizer de Nick Bostrom – criar uma IA que produz clipes de papel e acabará transformando o mundo inteiro em uma fábrica de clipes de papel – mas um buscador de café também funciona.

Por que não devemos ter medo de robôs assassinos?

Yann LeCun, guru de IA do Facebook, e a pessoa que desencadeou o debate ao co-escrever um artigo pedindo que todos parassem de se preocupar com robôs assassinos, respondeu apresentando cinco razões pelas quais ele discorda de Stuart:

• Depois que o robô lhe traz café, seu instinto de autopreservação desaparece. Você pode desligá-lo.
• Teria de ser incrivelmente estúpido para construir objetivos em aberto em uma máquina super inteligente (e super poderosa) sem alguns termos de salvaguarda no objetivo.
• Seria preciso ser bastante incompetente para não haver um mecanismo pelo qual novos termos no objetivo pudessem ser adicionados para evitar mau comportamento anteriormente imprevisto. Para os seres humanos, temos educação e leis para moldar nossas funções objetivas e complementar os termos embutidos incorporados a nós.
• Até o poder da máquina mais super inteligente é limitado pela física, e seu tamanho e necessidades a tornam vulnerável a ataques físicos. Não há necessidade de muita inteligência aqui. Um vírus é infinitamente menos inteligente que você, mas ainda pode matá-lo.
• Uma segunda máquina, projetada exclusivamente para neutralizar uma máquina superinteligente do mal, vencerá toda vez, se receberem quantidades semelhantes de recursos de computação (porque máquinas especializadas sempre superam as gerais).