Um especialista em inteligência artificial (IA) nos alertou que estamos acelerando em direção a uma chance de 50/50 de um verdadeiro desastre – uma ‘catástrofe’ com a ‘maioria’ de nós esticando as perninhas.
Esse aviso vem de Paul Christiano, um veterano na OpenAI, que acredita haver uma chance razoavelmente boa de que a IA possa se erguer, no estilo Exterminador do Futuro, para governar (e potencialmente arruinar) a todos nós.
Considerando que ele era o chefão da equipe de alinhamento de modelos de linguagem na OpenAI, provavelmente ele não está apenas falando da boca pra fora.
Hoje em dia, Christiano está no comando do Centro de Pesquisa de Alinhamento, uma organização sem fins lucrativos com o objetivo de garantir que nossos sistemas de aprendizado de máquina sejam amigáveis com os ‘interesses humanos’.
Batendo um papo no podcast ‘Bankless’ (vídeo abaixo), Christiano foi bem direto: “Acho que talvez exista algo como uma chance de 10 a 20 por cento de uma tomada de poder pela IA, [com] muitos [ou] a maioria dos humanos mortos. No geral, talvez estejamos falando de uma chance de 50/50 de catástrofe logo após termos sistemas no nível humano.”
E, vamos ser sinceros, ele não é o único apertando o botão do pânico. No início deste ano, um bando de cérebros de todo o mundo assinou uma carta aberta pedindo um tempo na corrida da IA. E o próprio Bill Gates, a realeza da tecnologia, comparou a IA a ‘armas nucleares’ lá em 2019.
Então, como nossos filhotes de IA poderiam se voltar contra nós, você pergunta? Tudo se resume à sua ‘experiência de vida’.
A IA aprende da mesma maneira que os bebês humanos – sendo jogada no mar profundo de dados sem ter a menor ideia do que fazer com eles. Assim como um bebê aprende a chorar para ser pego no colo, a IA aprende por tentativa e erro, focando em resultados ‘corretos’.
E aqui está a cereja do bolo: com o poder do aprendizado de máquina, a IA agora é capaz de produzir respostas bem estruturadas e coerentes às nossas perguntas. À medida que a tecnologia por trás do aprendizado de máquina se torna mais especializada, muitos acreditam que, em cerca de uma década, poderíamos estar lidando com máquinas sencientes. E, sim, isso pode ser um problema, pois elas não precisariam de um humano para nada.
https://www.youaatube.com/watch?v=GyFkWb903aU
É por isso que muitos dos grandes cérebros estão nos instigando a entender o comportamento da IA antes que ela se transforme no próximo adolescente rebelde. E só para você saber, Christiano não é o único pai preocupado por aí. Até mesmo Elon Musk expressou suas preocupações sobre a IA no início deste ano: “É uma tecnologia bastante perigosa. Receio que possa ter feito algumas coisas para acelerá-la”, disse ele.
