Início » Tecnologia » Cálculos sugerem que será impossível controlar uma IA superinteligente

Cálculos sugerem que será impossível controlar uma IA superinteligente

Lucas R.

Publicado em

Cálculos sugerem que será impossível controlar uma IA superinteligente
Descubra como controlar a superinteligência da IA pode ser um desafio. Especialistas alertam: é como tentar domar um dragão indomável.

Todos nós adoramos uma boa trama de ficção científica com a Inteligência Artificial (IA) se rebelando, não é? Matrix, Exterminador do Futuro, Ex Machina – a lista é longa. Mas e se as linhas entre a ficção e a realidade estiverem se confundindo?

Imagine uma inteligência artificial ficando indiferente e dizendo: “Desculpe, não vou fazer isso”. Assustador, não é? Mas será que isso é tão improvável? Alguns pesquisadores de 2021, que fizeram cálculos arrojados, têm uma resposta inquietante – provavelmente não.

Pode parecer factível controlar uma IA superinteligente, mas aqui está o problema. Para controlar algo, primeiro você precisa entendê-lo. É como tentar domar um dragão cuspindo fogo quando tudo que você sabe é como montar um pônei. O padrão de voo do dragão, a intensidade do seu fogo, seus humores – você não tem ideia! O mesmo acontece com a IA, regras como “não prejudique os humanos” soam bem, mas se não entendemos o que está acontecendo sob o capô da IA, a causa está perdida.

Lutando Contra Adversários Invisíveis: Podemos Nos Manter Firmes?

Esse dilema nos traz de volta ao nosso velho amigo, Alan Turing, e sua criação, o “problema da parada” de 1936. É um problema intrigante sobre saber se um programa de computador terminará bem ou continuará correndo como um hamster numa roda.

VEJA TAMBÉM:
Esses dois aplicativos com 1,5 milhão de usuários estão espionando você e enviando seus dados para a China

Turing, com suas habilidades matemáticas inteligentes, mostrou que enquanto podemos prever isso para alguns programas, não podemos para todos. E adivinha? Uma IA superinteligente poderia potencialmente carregar todos os programas possíveis em sua cabeça.

Pegue um algoritmo de contenção, por exemplo, escrito para impedir que a IA jogue “simulador de destruição do mundo”. Pode funcionar, ou pode simplesmente rodar em círculos. Não podemos ter certeza – é como tentar adivinhar o final de um episódio de Game of Thrones. Iyad Rahwan, um cientista da computação do Instituto Max-Planck, diz que essa incerteza torna o algoritmo praticamente inútil.

Então, o que resta? Dar à IA uma bússola moral? Ou que tal cortar um pouco suas asas – limitando seu acesso à internet, por exemplo? Bom, o estudo diz ‘não’ para ambos. Limitar a IA é como pedir a um nadador olímpico para competir numa piscina infantil. Então, por que criá-la em primeiro lugar?

VEJA TAMBÉM:
Descobriram um material mais forte que o aço e mais leve que o alumínio

Com a IA ficando cada vez maior e mais assustadora, talvez nem percebamos quando uma superinteligência incontrolável aparecer. É hora de darmos um passo atrás e nos perguntarmos: “Estamos cavalgando a onda da IA na direção certa?”

Este ano, chefões da tecnologia como Elon Musk e Steve Wozniak enviaram uma mensagem alta e clara. Eles assinaram uma carta aberta intitulada “Pause Giant AI Experiments”, pedindo uma pausa de 6 meses no desenvolvimento da IA. A carta enfatizou os profundos riscos representados pela IA e pediu a exploração de segurança.

Portanto, da próxima vez que você conversar com seu amigo de IA, lembre-se de que há um dragão em potencial à espreita por trás dessas respostas amigáveis. É melhor descobrirmos como mantê-lo amigável antes que ele decida voar sozinho.

Com informações de Science Alert

Photo of author
Editor-chefe do portal Mistérios do Mundo desde 2011. Adoro viajar, curtir uma boa música e leitura. Ganhou o prêmio influenciador digital na categoria curiosidades.