Qual é a sensação de estar aqui?

Parece um lugar bastante intenso para se estar de pé – mas então você precisa se lembrar de algo sobre como é estar em um gráfico de tempo: você não consegue ver o que está à sua direita. Então, aqui está como é realmente ficar ali:

O que provavelmente parece bastante normal…

_______________

O futuro distante — em breve

Imagine levar uma máquina do tempo de volta a 1750 – uma época em que o mundo estava em permanente corte de energia, a comunicação de longa distância significava gritar bem alto ou disparar um canhão para o alto, e todo o transporte funcionava com feno. Quando você chega lá, você resgata um cara, traz ele para 2015, e depois anda com ele e vê ele reagir a tudo. É impossível para nós entender como seria para ele ver cápsulas brilhantes passando em uma rodovia, conversar com pessoas que estiveram do outro lado do oceano no início do dia, assistir a esportes que estavam sendo praticados a 1.600 quilômetros de distância, ouvir uma apresentação musical que aconteceu há 50 anos e brincar com meu retângulo mágico de mago que ele poderia usar para capturar uma imagem da vida real ou registrar um momento vivo, gerar um mapa com um ponto azul em movimento paranormal que mostra onde ele está, olhe para o rosto de alguém e converse com ele mesmo que esteja do outro lado do país e em mundos de outras feitiçarias inconcebíveis. Tudo isso antes de você mostrar a ele a internet ou explicar coisas como a Estação Espacial Internacional, o Grande Colisor de Hádrons, armas nucleares a relatividade geral.

Essa experiência para ele não seria surpreendente, nem chocante, nem mesmo alucinante – essas palavras não são suficientemente grandes. Ele pode realmente morrer.

Mas aqui está o interessante: se ele voltasse a 1750 e ficasse com ciúmes por termos visto sua reação e decidisse que queria tentar a mesma coisa, ele pegaria a máquina do tempo e voltaria a mesma distância, pegaria alguém de por volta do ano 1500, leve-o até 1750 e mostre-lhe tudo. E o cara do 1.500 ficaria chocado com muitas coisas – mas não morreria. Seria uma experiência muito menos insana para ele, porque embora 1500 e 1750 fossem muito diferentes, eram muito menos diferentes do que 1750 a 2015.

O cara de 1500 aprenderia algumas coisas alucinantes sobre espaço e física, ele seria impressionado com o quão comprometida a Europa acabou por estar com essa nova moda do imperialismo, e ele teria que fazer algumas revisões importantes da sua concepção de mapa mundial. Mas observar a vida cotidiana em 1750 – transporte, comunicação, etc. – definitivamente não o faria morrer.

Não, para que o cara de 1.750 se divertisse tanto quanto nós nos divertimos com ele, ele teria que voltar muito mais atrás – talvez até cerca de 12.000 a.C., antes da Primeira Revolução Agrícola dar origem às primeiras cidades, e ao conceito de civilização.

Se alguém de um mundo puramente caçador-coletor – de uma época em que os humanos eram, mais ou menos, apenas outra espécie animal – visse os vastos impérios humanos de 1.750 com suas igrejas imponentes, seus navios que cruzavam o oceano, seu conceito de estar “dentro ”, e sua enorme montanha de conhecimento e descobertas humanas coletivas e acumuladas – ele provavelmente morreria.

E então, e se, depois de morrer, ele ficasse com ciúmes e quisesse fazer a mesma coisa? Se ele voltasse 12.000 anos até 24.000 aC e pegasse um cara e o trouxesse para 12.000 aC, ele mostraria tudo ao cara e o cara diria: “Ok, qual é o seu ponto, quem se importa”.

Para que o cara de 12.000 aC se divertisse da mesma forma, ele teria que voltar mais de 100.000 anos e encontrar alguém a quem pudesse mostrar fogo e linguagem pela primeira vez.

Para que alguém seja transportado para o futuro e morra devido ao nível de choque que experimentaria, é necessário avançar anos suficientes para que um “nível de progresso” ou uma Unidade de Progresso de Morte (DPU) tenha sido alcançado.

Portanto, uma DPU demorava mais de 100 mil anos na época dos caçadores-coletores, mas ao ritmo pós-Revolução Agrícola, demorava apenas cerca de 12 mil anos. O mundo pós-Revolução Industrial mudou tão rapidamente que uma pessoa de 1.750 só precisa avançar algumas centenas de anos para que uma DPU aconteça.

Este padrão – o progresso humano avançando cada vez mais rápido à medida que o tempo passa – é o que o futurista Ray Kurzweil chama de Lei dos Retornos Acelerados da história humana. Isto acontece porque as sociedades mais avançadas têm a capacidade de progredir a um ritmo mais rápido do que as sociedades menos avançadas – porque são mais avançadas.

A humanidade do século XIX sabia mais e tinha melhor tecnologia do que a humanidade do século XV, por isso não é surpresa que a humanidade tenha feito muito mais avanços no século XIX do que no século XV – a humanidade do século XV não foi páreo para a humanidade do século XIX.11^{← abra estes}

Isso também funciona em escalas menores. O filme De Volta para o Futuro foi lançado em 1985, e “o passado” aconteceu em 1955. No filme, quando Michael J. Fox voltou a 1955, foi pego de surpresa pela novidade das TVs, pelos preços dos refrigerante, a falta de amor pela guitarra elétrica estridente e a variação de gírias.

Era um mundo diferente, sim – mas se o filme fosse feito hoje e o passado acontecesse em 1985, o filme poderia ter sido muito mais divertido com diferenças muito maiores. O personagem estaria em uma época anterior aos computadores pessoais, internet ou celulares – o Marty McFly de hoje, um adolescente nascido no final dos anos 90, estaria muito mais deslocado em 1985 do que o Marty McFly do filme estava em 1955.

Isto ocorre pela mesma razão que acabamos de discutir: a Lei dos Retornos Acelerados. A taxa média de avanço entre 1985 e 2015 foi superior à taxa entre 1955 e 1985 – porque o primeiro era um mundo mais avançado – ocorreram muito mais mudanças nos 30 anos mais recentes do que nos 30 anteriores.

Então, os avanços estão ficando cada vez maiores e acontecendo cada vez mais rapidamente. Isso sugere algumas coisas bastante intensas sobre o nosso futuro, certo?

Kurzweil sugere que o progresso de todo o século XX teria sido alcançado em apenas 20 anos, à taxa de avanço do ano 2000 – por outras palavras, em 2000, a taxa de progresso era cinco vezes mais rápida do que a taxa média de progresso durante o ano 2000, o século 20. Ele acredita que outro progresso do século XX aconteceu entre 2000 e 2014 e que outro progresso do século XX acontecerá até 2021, em apenas sete anos.

Algumas décadas depois, ele acredita que o progresso do século XX acontecerá várias vezes no mesmo ano, e ainda mais tarde, em menos de um mês. Em suma, devido à Lei dos Retornos Acelerados, Kurzweil acredita que o século XXI alcançará 1.000 vezes o progresso do século XX.2

Se Kurzweil e outros que concordam com ele estiverem corretos, então poderemos ficar tão impressionados em 2030 quanto o nosso cara de 1750 ficou em 2015 – ou seja, a próxima DPU poderá levar apenas algumas décadas – e o mundo em 2050 poderá ser muito diferente do que hoje — mundo de hoje que mal o reconheceríamos.

Isto não é ficção científica. É o que muitos cientistas mais inteligentes e mais informados do que você ou eu acreditam firmemente – e se olharmos para a história, é o que deveríamos prever logicamente.

Então por que, quando você me ouve dizer algo como “o mundo daqui a 35 anos pode estar totalmente irreconhecível”, você está pensando: “Legal… mas nahhhhhhh”? Três razões pelas quais somos céticos em relação às previsões bizarras do futuro:

1) Quando se trata de história, pensamos em linha reta. Quando imaginamos o progresso dos próximos 30 anos, olhamos para trás, para o progresso dos 30 anteriores como um indicador de quanto provavelmente acontecerá. Quando pensamos sobre até que ponto o mundo mudará no século 21, simplesmente pegamos o progresso do século 20 e o adicionamos ao ano 2000. Este foi o mesmo erro que nosso cara de 1750 cometeu quando pegou alguém de 1500 e esperava que explodir sua mente tanto quanto a sua própria foi explodida indo na mesma distância à frente. É mais intuitivo pensarmos linearmente, quando deveríamos pensar exponencialmente .

Se alguém for mais esperto a este respeito, poderá prever os avanços dos próximos 30 anos não olhando para os 30 anos anteriores, mas tomando a atual taxa de progresso e julgando com base nela. Eles seriam mais precisos, mas ainda assim distantes. Para pensar corretamente sobre o futuro, você precisa imaginar as coisas se movendo em um ritmo muito mais rápido do que agora.

2) A trajetória da história muito recente conta muitas vezes uma história distorcida. Primeiro, mesmo uma curva exponencial íngreme parece linear quando olhamos apenas para uma pequena fatia dela, da mesma forma que se olharmos de perto para um pequeno segmento de um enorme círculo, parece quase uma linha reta. Em segundo lugar, o crescimento exponencial não é totalmente suave e uniforme. Kurzweil explica que o progresso acontece em “curvas S”:

Um S é criado pela onda de progresso quando um novo paradigma varre o mundo. A curva passa por três fases:

1. Crescimento lento (a fase inicial do crescimento exponencial)
2. Crescimento rápido (a fase tardia e explosiva do crescimento exponencial)
3. Um nivelamento à medida que o paradigma específico amadurece3

Se olharmos apenas para a história muito recente, a parte da curva S em que nos encontramos neste momento pode obscurecer a nossa percepção da rapidez com que as coisas estão a avançar. O período entre 1995 e 2007 viu a explosão da Internet, a introdução da Microsoft, do Google e do Facebook na consciência pública, o nascimento das redes sociais e a introdução dos telemóveis e depois dos smartphones.

Essa foi a Fase 2: o surto de crescimento do S. Mas o período de 2008 a 2015 foi menos inovador, pelo menos na frente tecnológica. Alguém que pensa hoje no futuro pode examinar os últimos anos para avaliar a taxa atual de avanço, mas isso está perdendo o panorama geral. Na verdade, um novo e enorme surto de crescimento da Fase 2 pode estar a preparar-se neste momento.

3) Nossa própria experiência nos torna velhos teimosos em relação ao futuro. Baseamos as nossas ideias sobre o mundo na nossa experiência pessoal, e essa experiência enraizou nas nossas cabeças a taxa de crescimento do passado recente como “a forma como as coisas acontecem”. Também somos limitados pela nossa imaginação, que pega na nossa experiência e a utiliza para evocar previsões futuras – mas muitas vezes, o que sabemos simplesmente não nos dá as ferramentas para pensar com precisão sobre o futuro.2Quando ouvimos uma previsão sobre o futuro que contradiz a nossa noção baseada na experiência de como as coisas funcionam , o nosso instinto é que a previsão deve ser ingénua.

Se eu lhe disser, mais adiante neste post, que você pode viver até os 150, ou 250 anos, ou nem morrer , seu instinto será: “Isso é estúpido – se há uma coisa que sei da história, é que todo mundo morre. ” E sim, ninguém no passado não morreu. Mas ninguém pilotava aviões antes de os aviões serem inventados.

Portanto, embora nahhhhh possa parecer certo ao ler esta postagem, provavelmente está errado. O fato é que, se formos verdadeiramente lógicos e esperarmos que os padrões históricos continuem, deveríamos concluir que muito, muito, muito mais deverá mudar nas próximas décadas do que intuitivamente esperamos. A lógica também sugere que se as espécies mais avançadas de um planeta continuarem a dar saltos cada vez maiores a um ritmo cada vez mais rápido, em algum momento, darão um salto tão grande que alterará completamente a vida como a conhecem e a percepção que eles têm sobre o que significa ser humano – mais ou menos como a evolução continuou dando grandes saltos em direção à inteligência até que finalmente deu um salto tão grande para o ser humano que alterou completamente o que significava para qualquer criatura viver no planeta Terra.

E se você passar algum tempo lendo sobre o que está acontecendo hoje na ciência e na tecnologia, você começará a ver muitos sinais sugerindo silenciosamente que a vida como a conhecemos atualmente não pode resistir ao salto que está por vir.

_______________

O caminho para a superinteligência

O que é AI?

Se você é como eu, costumava pensar que Inteligência Artificial era um conceito bobo de ficção científica, mas ultimamente você tem ouvido isso ser mencionado por pessoas sérias e não entende direito.

Existem três razões pelas quais muitas pessoas ficam confusas sobre o termo AI:

1) Associamos AI a filmes. Guerra das Estrelas. Exterminador do Futuro. 2001: Uma Odisséia no Espaço. Até os Jetsons. E isso é ficção, assim como os personagens robôs. Portanto, isso faz com que a IA pareça um pouco fictícia para nós.

2) AI é um tópico amplo. Ela varia desde a calculadora do seu telefone até carros autônomos e algo no futuro que pode mudar o mundo dramaticamente. IA se refere a todas essas coisas, o que é confuso.

3) Usamos AI o tempo todo em nossas vidas diárias, mas muitas vezes não percebemos que é IA. John McCarthy, que cunhou o termo “Inteligência Artificial” em 1956, queixou-se de que “assim que funciona, ninguém mais lhe chama AI”.4Por causa desse fenômeno, a AI muitas vezes parece mais uma previsão mítica do futuro do que uma realidade. Ao mesmo tempo, faz com que pareça um conceito pop do passado que nunca se concretizou. Ray Kurzweil diz que ouve pessoas dizerem que a AI definhou na década de 1980, o que ele compara a “insistir que a Internet morreu no colapso das “pontocom” no início dos anos 2000”.5

Então, vamos esclarecer as coisas. Primeiro, pare de pensar em robôs . Um robô é um recipiente para AI, às vezes imitando a forma humana, às vezes não – mas a própria IA é o computador dentro do robô. A AI é o cérebro e o robô é o seu corpo – se é que tem um corpo. Por exemplo, o software e os dados por trás da Siri são AI, a voz feminina que ouvimos é uma personificação dessa AI e não há nenhum robô envolvido.

Em segundo lugar, você provavelmente já ouviu o termo “singularidade” ou “singularidade tecnológica”. Este termo tem sido usado em matemática para descrever uma situação semelhante a uma assíntota, onde as regras normais não se aplicam mais. Tem sido usado na física para descrever um fenômeno como um buraco negro denso e infinitamente pequeno ou o ponto em que todos fomos esmagados logo antes do Big Bang. Novamente, situações em que as regras habituais não se aplicam. Em 1993, Vernor Vinge escreveu um famoso ensaio no qual aplicou o termo ao momento no futuro em que a inteligência da nossa tecnologia excederá a nossa – um momento para ele em que a vida como a conhecemos mudará para sempre e as regras normais não serão mais aplicadas. .

Ray Kurzweil então confundiu um pouco as coisas ao definir a singularidade como o momento em que a Lei dos Retornos Acelerados atingiu um ritmo tão extremo que o progresso tecnológico está acontecendo em um ritmo aparentemente infinito, e após o qual viveremos em um mundo totalmente novo. mundo. Descobri que muitos dos pensadores de AI de hoje pararam de usar o termo, e ele é confuso de qualquer maneira, então não vou usá-lo muito aqui (mesmo que nos concentremos nessa ideia o tempo todo).

Finalmente, embora existam muitos tipos ou formas diferentes de AI, uma vez que a IA é um conceito amplo, as categorias críticas nas quais precisamos de pensar baseiam-se no calibre de uma IA . Existem três categorias principais de calibre de IA:

Calibre AI 1) Inteligência Artificial Estreita (ANI)m- Narrow AI: Às vezes chamada de IA Fraca , Inteligência Artificial Estreita é IA especializada em uma área. Existe uma IA que pode vencer o campeão mundial de xadrez, mas é a única coisa que ela faz. Peça para ele descobrir uma maneira melhor de armazenar dados em um disco rígido e ele olhará para você sem expressão.

Calibre AI 2) Inteligência Geral Artificial (AGI) – General AI: Às vezes chamada de AI Forte , ou AI de Nível Humano , Inteligência Geral Artificial refere-se a um computador que é tão inteligente quanto um ser humano em todos os aspectos – uma máquina que pode executar qualquer tarefa intelectual que um ser humano pode. Criar AGI é uma tarefa muito mais difícil do que criar ANI, e ainda não fizemos isso. A professora Linda Gottfredson descreve a inteligência como “uma capacidade mental muito geral que, entre outras coisas, envolve a capacidade de raciocinar, planejar, resolver problemas, pensar abstratamente, compreender ideias complexas, aprender rapidamente e aprender com a experiência”. AGI seria capaz de fazer todas essas coisas tão facilmente quanto possível.

Calibre AI 3) Superinteligência Artificial (ASI) – Super AI: O filósofo de Oxford e importante pensador de AI Nick Bostrom define a superinteligência como “um intelecto que é muito mais inteligente do que os melhores cérebros humanos em praticamente todos os campos, incluindo criatividade científica, sabedoria geral e habilidades sociais”. A superinteligência artificial varia de um computador que é apenas um pouco mais inteligente que um ser humano até um que é trilhões de vezes mais inteligente – em todos os aspectos. ASI é a razão pela qual o tópico IA é uma almôndega tão picante e por que as palavras “imortalidade” e “extinção” aparecerão nessas postagens várias vezes.

A partir de agora, os humanos conquistaram o calibre mais baixo da AI ​​– ANI – de muitas maneiras, e ela está em toda parte. A Revolução da IA ​​é o caminho que vai da ANI, passando pela AGI, até à ASI – um caminho ao qual podemos ou não sobreviver, mas que, de qualquer forma, mudará tudo.

Vamos dar uma olhada em como os principais pensadores da área acreditam que esse caminho será e por que essa revolução pode acontecer muito mais cedo do que você imagina:

Onde estamos atualmente – um mundo funcionando com ANI

Inteligência Artificial Estreita é a inteligência de máquina que iguala ou excede a inteligência humana ou a eficiência em uma coisa específica . Alguns exemplos:

• Os carros estão cheios de sistemas ANI, desde o computador que descobre quando os freios antibloqueio devem ser acionados até o computador que ajusta os parâmetros dos sistemas de injeção de combustível. O carro autônomo do Google , que está sendo testado agora, conterá sistemas ANI robustos que lhe permitirão perceber e reagir ao mundo ao seu redor.
• Seu telefone é uma pequena fábrica de ANI. Ao navegar usando seu aplicativo de mapas, receber recomendações musicais personalizadas do Pandora, verificar a previsão do tempo para amanhã, falar com a Siri ou dezenas de outras atividades cotidianas, você está usando o ANI.
• Seu filtro de spam de e-mail é um tipo clássico de ANI – ele começa carregado com inteligência sobre como descobrir o que é spam e o que não é, e então aprende e adapta sua inteligência a você à medida que adquire experiência com suas preferências específicas.
• O Nest Thermostat faz a mesma coisa quando começa a descobrir sua rotina típica e agir de acordo.
• Você conhece toda a coisa assustadora que acontece quando você pesquisa um produto na Amazon e então o vê como um produto “recomendado para você” em um site diferente , ou quando o Facebook de alguma forma sabe quem faz sentido para você adicionar como um amigo? É uma rede de sistemas ANI, trabalhando juntos para informar uns aos outros sobre quem você é e o que você gosta e depois usar essa informação para decidir o que mostrar a você. O mesmo vale para a coisa “Pessoas que compraram isso também compraram…” da Amazon – é um sistema ANI cujo trabalho é coletar informações do comportamento de milhões de clientes e sintetizar essas informações para fazer um upsell inteligente para que você compre mais coisas.
• O Google Translate é outro sistema ANI clássico – impressionantemente bom em uma tarefa restrita. O reconhecimento de voz é outra, e há vários aplicativos que usam esses dois ANIs como uma equipe de tag, permitindo que você fale uma frase em um idioma e faça o telefone cuspir a mesma frase em outro.
• Quando o seu avião pousa, não é um humano que decide para qual portão ele deve ir. Assim como não foi um humano que determinou o preço do seu ingresso.
• Os melhores jogadores de Damas, Xadrez, Scrabble, Gamão e Otelo do mundo agora são todos sistemas ANI.
• A pesquisa do Google é um grande cérebro ANI com métodos incrivelmente sofisticados para classificar páginas e descobrir o que mostrar a você em particular. O mesmo vale para o feed de notícias do Facebook.
• E isso ocorre apenas no mundo do consumo. Sistemas ANI sofisticados são amplamente utilizados em setores e indústrias como militar, industrial e financeiro (os traders algorítmicos de IA de alta frequência são responsáveis ​​por mais da metade das ações negociadas nos mercados dos EUA6) e em sistemas especialistas como aqueles que ajudam os médicos a fazer diagnósticos e, mais notoriamente, o Watson da IBM , que continha fatos suficientes e entendia a linguagem tímida de Trebek bem o suficiente para vencer com segurança os campeões mais prolíficos do Jeopardy .

Os sistemas ANI como são agora não são especialmente assustadores. Na pior das hipóteses, uma ANI defeituosa ou mal programada pode causar uma catástrofe isolada, como derrubar uma rede elétrica, causar um mau funcionamento prejudicial de uma usina nuclear ou desencadear um desastre nos mercados financeiros (como o Flash Crash de 2010, quando um programa da ANI reagiu da maneira errada). a uma situação inesperada e fez com que o mercado de ações despencasse brevemente, levando consigo US$ 1 trilhão em valor de mercado, dos quais apenas parte foi recuperada quando o erro foi corrigido).

Mas embora a ANI não tenha a capacidade de causar uma ameaça existencial , deveríamos ver este ecossistema cada vez maior e complexo de ANI relativamente inofensivo como um precursor do furacão que alterará o mundo e que está a caminho. Cada nova inovação da ANI adiciona silenciosamente mais um tijolo no caminho para AGI e ASI. Ou, na opinião de Aaron Saenz , os sistemas ANI do nosso mundo “são como os aminoácidos do lodo primordial da Terra primitiva” – a substância inanimada da vida que, num dia inesperado, acordou.

O caminho da ANI para a AGI

Por que é tão difícil?

Nada fará com que você aprecie a inteligência humana como aprender como é incrivelmente desafiador tentar criar um computador tão inteligente quanto nós. Construir arranha-céus, colocar humanos no espaço, descobrir os detalhes de como ocorreu o Big Bang – tudo muito mais fácil do que compreender o nosso próprio cérebro ou como fazer algo tão fixe como ele. A partir de agora, o cérebro humano é o objeto mais complexo do universo conhecido.

O que é interessante é que as partes difíceis de tentar construir o AGI (um computador tão inteligente quanto os humanos em geral , e não apenas em uma especialidade específica) não são intuitivamente o que você imagina. Construa um computador que possa multiplicar dois números de dez dígitos em uma fração de segundo – incrivelmente fácil. Construir um que possa olhar para um cachorro e responder se é um cachorro ou um gato – é espetacularmente difícil. Criar uma IA que possa vencer qualquer humano no xadrez? Feito.

Criar alguém que consiga ler um parágrafo de um livro ilustrado de uma criança de seis anos e não apenas reconhecer as palavras, mas compreender o significado delas? Atualmente, o Google está gastando bilhões de dólares tentando fazer isso. Coisas difíceis – como cálculo, estratégia do mercado financeiro e tradução de idiomas – são incrivelmente fáceis para um computador, enquanto coisas fáceis – como visão, movimento, movimento e percepção – são incrivelmente difíceis para ele. Ou, como afirma o cientista da computação Donald Knuth, “a IA já conseguiu fazer essencialmente tudo o que exige ‘pensar’, mas não conseguiu fazer a maior parte do que as pessoas e os animais fazem ‘sem pensar’”.7

O que você percebe rapidamente quando pensa sobre isso é que aquelas coisas que parecem fáceis para nós são, na verdade, incrivelmente complicadas, e só parecem fáceis porque essas habilidades foram otimizadas em nós (e na maioria dos animais) por centenas de milhões de anos de evolução animal. . Quando você estende a mão em direção a um objeto, os músculos, tendões e ossos do ombro, cotovelo e pulso realizam instantaneamente uma longa série de operações físicas, em conjunto com os olhos, para permitir que você mova a mão em linha reta. linha através de três dimensões. Parece fácil para você porque você aperfeiçoou o software em seu cérebro para fazer isso. A mesma ideia vale para o motivo pelo qual o malware não é burro por não ser capaz de descobrir o teste de reconhecimento de palavras quando você se inscreve em uma nova conta em um site – é que seu cérebro é superimpressionante por ser capaz de fazer isso .

Por outro lado, multiplicar grandes números ou jogar xadrez são atividades novas para criaturas biológicas e não tivemos tempo para desenvolver proficiência neles, então um computador não precisa trabalhar muito para nos vencer. Pense nisso – o que você preferiria fazer, construir um programa que pudesse multiplicar grandes números ou um que pudesse compreender a essência de um B bem o suficiente para que você pudesse mostrar um B em qualquer uma das milhares de fontes ou caligrafias imprevisíveis e ele poderia saber instantaneamente que era um B?

Um exemplo divertido: quando você olha para isso, você e um computador podem descobrir que é um retângulo com duas tonalidades distintas, alternadas:

Empatado até agora. Mas se você pegar o preto e revelar a imagem inteira…

…você não terá problemas em fornecer uma descrição completa dos vários cilindros, ripas e cantos 3D opacos e translúcidos, mas o computador falharia terrivelmente. Descreveria o que vê – uma variedade de formas bidimensionais em vários tons diferentes – que é na verdade o que está lá. Seu cérebro está fazendo um monte de coisas sofisticadas para interpretar a profundidade implícita, a mistura de sombras e a iluminação do ambiente que a imagem está tentando retratar.8E olhando para a imagem abaixo, um computador vê uma colagem bidimensional em branco, preto e cinza, enquanto você vê facilmente o que realmente é – uma foto de uma rocha 3D totalmente preta:

E tudo o que acabamos de mencionar ainda consiste apenas em absorver informações estagnadas e processá-las. Para ser inteligente no nível humano, um computador teria que entender coisas como a diferença entre expressões faciais sutis, a distinção entre estar satisfeito, aliviado, contente, satisfeito e feliz, e por que Coração Valente era ótimo, mas O Patriota era terrível.

Assustador.

Então como chegamos lá?

Primeira chave para criar AGI: aumentar o poder computacional

Uma coisa que definitivamente precisa acontecer para que a AGI seja uma possibilidade é um aumento no poder do hardware do computador. Para que um sistema de IA seja tão inteligente quanto o cérebro, ele precisará igualar a capacidade computacional bruta do cérebro.

Uma maneira de expressar essa capacidade é no total de cálculos por segundo (cps) que o cérebro consegue realizar, e você pode chegar a esse número descobrindo o cps máximo de cada estrutura no cérebro e depois somando-os todos.

Ray Kurzweil encontrou um atalho ao comparar a estimativa profissional de alguém para o cps de uma estrutura e o peso dessa estrutura com o peso de todo o cérebro e depois multiplicar proporcionalmente para obter uma estimativa do total. Parece um pouco duvidoso, mas ele fez isso várias vezes com várias estimativas profissionais de diferentes regiões, e o total sempre chegava ao mesmo valor – cerca de 10 ¹⁶ , ou 10 quatrilhões de cps.

Atualmente, o supercomputador mais rápido do mundo, o Tianhe-2 da China , superou esse número, atingindo cerca de 34 quatrilhões de cps. Mas Tianhe-2 também é um idiota, ocupando 720 metros quadrados de espaço, usando 24 megawatts de energia (o cérebro funciona com apenas 20 watts ) e custando US$ 390 milhões para ser construído. Não é especialmente aplicável ao uso amplo, ou mesmo ao uso comercial ou industrial ainda.

Kurzweil sugere que pensemos sobre o estado dos computadores observando quantos cps você pode comprar por US$ 1.000. Quando esse número atingir o nível humano – 10 quatrilhões de cps – isso significará que a AGI poderá se tornar uma parte muito real da vida.

A Lei de Moore é uma regra historicamente confiável de que o poder computacional máximo do mundo dobra aproximadamente a cada dois anos, o que significa que o avanço do hardware do computador, assim como o avanço humano geral ao longo da história, cresce exponencialmente. Observando como isso se relaciona com a métrica cps/US$ 1.000 de Kurzweil, estamos atualmente em cerca de 10 trilhões de cps/US$ 1.000, no mesmo ritmo da trajetória prevista neste gráfico:9

Portanto, os computadores de mil dólares do mundo estão agora superando o cérebro do rato e estão em cerca de um milésimo do nível humano. Isto não parece muito até lembrarmos que estávamos em cerca de um trilionésimo do nível humano em 1985, um bilionésimo em 1995 e um milionésimo em 2005. Estar num milésimo em 2015 nos coloca no caminho certo para chegar a um nível acessível. computador até 2025 que rivalize com o poder do cérebro.

Portanto, no lado do hardware, a energia bruta necessária para AGI está tecnicamente disponível agora, na China, e estaremos prontos para hardware acessível e difundido do calibre AGI dentro de 10 anos. Mas o poder computacional bruto por si só não torna um computador geralmente inteligente – a próxima questão é: como podemos trazer a inteligência de nível humano para todo esse poder?

Segunda chave para criar AGI: tornando-o inteligente

Esta é a parte nojenta. A verdade é que ninguém sabe realmente como torná-lo inteligente – ainda estamos debatendo como tornar um computador inteligente em nível humano e capaz de saber o que é um cachorro, um B escrito estranho e um filme medíocre. Mas existem várias estratégias absurdas por aí e, em algum momento, uma delas funcionará. Aqui estão as três estratégias mais comuns que encontrei:

1) Plagiar o cérebro.

Isto é como se os cientistas se esforçassem para descobrir como aquele garoto que senta ao lado deles na sala de aula é tão inteligente e continua indo tão bem nos testes, e mesmo que continuem estudando diligentemente, eles não conseguem se sair tão bem quanto aquele garoto, e então eles finalmente decidem “foda-se, só vou copiar as respostas daquele garoto”. Faz sentido – estamos perplexos ao tentar construir um computador supercomplexo, e acontece que existe um protótipo perfeito para cada uma de nossas cabeças.

O mundo da ciência está trabalhando duro na engenharia reversa do cérebro para descobrir como a evolução fez algo tão incrível – estimativas otimistas dizem que podemos fazer isso até 2030. Assim que fizermos isso, conheceremos todos os segredos de como o cérebro funciona tão poderosa e eficiente e podemos inspirar-nos nele e roubar as suas inovações. Um exemplo de arquitetura de computador que imita o cérebro é a rede neural artificial. Começa como uma rede de “neurônios” transistorizados, conectados uns aos outros com entradas e saídas, e não sabe nada – como um cérebro infantil. A maneira como ele “aprende” é tentar realizar uma tarefa, por exemplo, reconhecimento de caligrafia, e, a princípio, seus disparos neurais e suposições subsequentes para decifrar cada letra serão completamente aleatórios. Mas quando lhe dizem que algo está certo, as conexões dos transistores nas vias de disparo que criaram essa resposta são fortalecidas; quando lhe dizem que estava errado, as conexões desses caminhos ficam enfraquecidas. Depois de muitas tentativas e feedback, a rede, por si só, formou caminhos neurais inteligentes e a máquina ficou otimizada para a tarefa. O cérebro aprende um pouco assim, mas de uma forma mais sofisticada, e à medida que continuamos a estudá-lo, descobrimos novas maneiras engenhosas de tirar proveito dos circuitos neurais.

O plágio mais extremo envolve uma estratégia chamada “emulação do cérebro inteiro”, onde o objetivo é fatiar um cérebro real em camadas finas, digitalizar cada uma delas, usar software para montar um modelo 3D reconstruído com precisão e, em seguida, implementar o modelo em um poderoso modelo. computador. Teríamos então um computador oficialmente capaz de fazer tudo o que o cérebro é capaz – ele só precisaria aprender e coletar informações. Se os engenheiros se tornarem realmente bons, serão capazes de emular um cérebro real com uma precisão tão exata que toda a personalidade e memória do cérebro permanecerão intactas assim que a arquitetura cerebral for transferida para um computador. Se o cérebro pertencesse a Jim pouco antes de ele falecer, o computador agora acordaria como Jim ( ? ), o que seria um AGI robusto de nível humano, e poderíamos agora trabalhar para transformar Jim em um ASI inimaginavelmente inteligente, que ele provavelmente ficaria muito animado.

Quão longe estamos de alcançar a emulação do cérebro inteiro? Bem, até agora, ainda não conseguimos emular um cérebro de verme plano com 1 mm de comprimento, que consiste em apenas 302 neurônios no total. O cérebro humano contém 100 bilhões. Se isso faz com que pareça um projeto sem esperança, lembre-se do poder do progresso exponencial – agora que conquistamos o minúsculo cérebro do verme, uma formiga pode aparecer em pouco tempo, seguida por um rato, e de repente isso parecerá muito mais plausível.

2) Tente fazer com que a evolução faça o que fazia antes, mas desta vez por nós.

Portanto, se decidirmos que o teste do garoto inteligente é muito difícil de copiar, podemos tentar copiar a maneira como ele estuda para os testes.

Aqui está algo que sabemos. Construir um computador tão poderoso quanto o cérebro é possível – a evolução do nosso próprio cérebro é a prova disso. E se o cérebro for demasiado complexo para sermos emulados, poderíamos tentar emular a evolução .

O fato é que, mesmo que possamos imitar um cérebro, isso pode ser como tentar construir um avião copiando os movimentos de bater as asas de um pássaro – muitas vezes, as máquinas são melhor projetadas usando uma abordagem nova e orientada para a máquina, e não imitando exatamente a biologia. .

Então, como podemos simular a evolução para construir AGI? O método, chamado “algoritmos genéticos”, funcionaria mais ou menos assim: haveria um processo de desempenho e avaliação que aconteceria repetidas vezes (da mesma forma que as criaturas biológicas “atuam” ao viver a vida e são “avaliadas” por se conseguem reproduzir ou não).

Um grupo de computadores tentaria realizar tarefas, e os mais bem-sucedidos seriam cruzados entre si, tendo metade de cada uma de suas programações mescladas em um novo computador. Os menos bem sucedidos seriam eliminados. Ao longo de muitas e muitas iterações, esse processo de seleção natural produziria computadores cada vez melhores. O desafio seria criar um ciclo automatizado de avaliação e melhoramento para que esse processo de evolução pudesse funcionar por conta própria.

A desvantagem de copiar a evolução é que a evolução gosta de levar um bilhão de anos para fazer as coisas e queremos fazer isso em algumas décadas.

Mas temos muitas vantagens sobre a evolução. Primeiro, a evolução não tem previsão e funciona de forma aleatória – produz mais mutações inúteis do que úteis, mas controlaríamos o processo para que só fosse impulsionado por falhas benéficas e ajustes direcionados. Em segundo lugar, a evolução não visa nada, incluindo a inteligência – por vezes, um ambiente pode até optar por uma inteligência superior (uma vez que utiliza muita energia). Nós, por outro lado, poderíamos direcionar especificamente esse processo evolutivo para o aumento da inteligência.

Terceiro, para seleccionar a inteligência, a evolução tem de inovar numa série de outras formas de facilitar a inteligência – como renovar a forma como as células produzem energia – quando pudermos remover esses fardos adicionais e utilizar coisas como a electricidade. Não há dúvida de que seríamos muito, muito mais rápidos que a evolução – mas ainda não está claro se seremos capazes de.  melhorar a evolução o suficiente para tornar esta estratégia viável.

3) Faça com que tudo isso seja problema do computador, não nosso.

É quando os cientistas ficam desesperados e tentam programar o teste para ser realizado sozinho. Mas pode ser o método mais promissor que temos.

A ideia é construirmos um computador cujas duas principais habilidades seriam fazer pesquisas sobre IA e codificar mudanças nele mesmo – permitindo-lhe não apenas aprender, mas também melhorar sua própria arquitetura . Ensinaríamos os computadores a serem cientistas da computação para que pudessem iniciar seu próprio desenvolvimento. E essa seria a sua principal tarefa: descobrir como se tornarem mais inteligentes. Mais sobre isso mais tarde.

Tudo isso pode acontecer em breve

Avanços rápidos em hardware e experimentação inovadora com software estão acontecendo simultaneamente, e a AGI pode surgir de forma rápida e inesperada por dois motivos principais:

1) O crescimento exponencial é intenso e o que parece ser um avanço em ritmo de lesma pode aumentar rapidamente – este GIF ilustra muito bem esse conceito:

2) Quando se trata de software, o progresso pode parecer lento, mas então uma epifania pode mudar instantaneamente a taxa de avanço (mais ou menos como a ciência, durante o tempo em que os humanos pensavam que o universo era geocêntrico, estava tendo dificuldade em calcular como o universo funcionava , mas depois a descoberta de que era heliocêntrico de repente tornou tudo muito mais fácil). Ou, quando se trata de algo como um computador que se aprimora, podemos parecer distantes, mas na verdade estamos a apenas um ajuste no sistema de torná-lo 1.000 vezes mais eficaz e aumentar o zoom para a inteligência de nível humano.

O caminho da AGI para a ASI

Em algum momento, teremos alcançado AGI – computadores com inteligência geral de nível humano. Apenas um monte de pessoas e computadores vivendo juntos em igualdade.

Ah, na verdade, de jeito nenhum.

A questão é que a AGI com um nível idêntico de inteligência e capacidade computacional de um ser humano ainda teria vantagens significativas sobre os humanos. Como:

Hardware:

• Velocidade. Os neurônios do cérebro atingem o máximo em torno de 200 Hz, enquanto os microprocessadores atuais (que são muito mais lentos do que serão quando atingirmos o AGI) funcionam a 2 GHz, ou 10 milhões de vezes mais rápido que nossos neurônios. E as comunicações internas do cérebro, que podem mover-se a cerca de 120 m/s, são terrivelmente superadas pela capacidade de um computador comunicar opticamente à velocidade da luz.
• Tamanho e armazenamento. O cérebro está preso ao seu tamanho pela forma dos nossos crânios e, de qualquer forma, não poderia ficar muito maior, ou as comunicações internas de 120 m/s levariam muito tempo para passar de uma estrutura cerebral para outra. Os computadores podem se expandir para qualquer tamanho físico, permitindo que muito mais hardware seja colocado em funcionamento, uma memória de trabalho (RAM) muito maior e uma memória de longo prazo (armazenamento em disco rígido) que possui capacidade e precisão muito maiores que as nossas.
• Confiabilidade e durabilidade. Não são apenas as memórias de um computador que seriam mais precisas. Os transistores de computador são mais precisos do que os neurônios biológicos e têm menos probabilidade de se deteriorar (e podem ser reparados ou substituídos se isso acontecer). Os cérebros humanos também se cansam facilmente, enquanto os computadores podem funcionar sem parar, com desempenho máximo, 24 horas por dia, 7 dias por semana.

Programas:

• Editabilidade, capacidade de atualização e uma ampla gama de possibilidades. Ao contrário do cérebro humano, o software de computador pode receber atualizações e correções e pode ser facilmente experimentado. As atualizações também podem abranger áreas onde o cérebro humano é fraco. O software de visão humana é extremamente avançado, enquanto sua capacidade de engenharia complexa é de nível bastante baixo. Os computadores poderiam se equiparar ao software de visão humana, mas também poderiam ser igualmente otimizados em engenharia e em qualquer outra área.
• Capacidade coletiva. Os humanos esmagam todas as outras espécies na construção de uma vasta inteligência colectiva. Começando com o desenvolvimento da linguagem e a formação de comunidades grandes e densas, avançando através das invenções da escrita e da impressão, e agora intensificada através de ferramentas como a Internet, a inteligência colectiva da humanidade é uma das principais razões pelas quais conseguimos chegar a tal ponto. muito à frente de todas as outras espécies. E os computadores serão muito melhores nisso do que nós. Uma rede mundial de IA executando um programa específico poderia sincronizar-se regularmente consigo mesma, de modo que qualquer coisa que qualquer computador aprendesse fosse enviada instantaneamente para todos os outros computadores. O grupo também poderia assumir um objetivo como uma unidade, porque não haveria necessariamente opiniões, motivações e interesses próprios divergentes, como temos na população humana.10

A IA, que provavelmente chegará à AGI sendo programada para melhorar a si mesma, não veria a “inteligência de nível humano” como um marco importante – é apenas um marcador relevante do nosso ponto de vista – e não teria qualquer razão para “parar” ao nosso nível. E dadas as vantagens sobre nós que mesmo a AGI equivalente à inteligência humana teria, é bastante óbvio que só atingiria a inteligência humana por um breve instante antes de avançar para o reino da inteligência superior à humana.

Isso pode nos chocar muito quando acontecer. A razão é que, da nossa perspectiva, A) embora a inteligência de diferentes tipos de animais varie, a principal característica que conhecemos sobre a inteligência de qualquer animal é que ela é muito inferior à nossa, e B) vemos os humanos mais inteligentes como MUITO mais esperto que os humanos mais burros. Mais ou menos assim:

Assim, à medida que a IA aumenta a inteligência em nossa direção, veremos que ela simplesmente se torna mais inteligente, para um animal. Então, quando atingir a capacidade mais baixa da humanidade – Nick Bostrom usa o termo “o idiota da aldeia” – nós pensaremos: “Nossa, é como um humano burro. Bonitinho!” A única coisa é que, no grande espectro da inteligência, todos os humanos, desde o idiota da aldeia até Einstein, estão dentro de um alcance muito pequeno – então, logo após atingir o nível de idiota da aldeia e ser declarado AGI, de repente será mais inteligente do que Einstein e não saberemos o que nos atingiu:

E o que acontece…depois disso?

Uma explosão de inteligência

Espero que você tenha gostado do tempo normal, porque é aí que esse assunto fica anormal e assustador, e vai continuar assim daqui em diante. Quero fazer uma pausa aqui para lembrá-los de que tudo o que vou dizer é real – ciência real e previsões reais do futuro feitas por uma grande variedade dos mais respeitados pensadores e cientistas. Continue lembrando disso.

De qualquer forma, como eu disse acima, a maioria dos nossos modelos atuais para chegar à AGI envolve a IA chegando lá por meio do autoaperfeiçoamento. E quando chegar à AGI, mesmo os sistemas que se formaram e cresceram através de métodos que não envolviam o autoaperfeiçoamento seriam agora inteligentes o suficiente para começarem a se autoaperfeiçoar, se quisessem.3

E é aqui que chegamos a um conceito intenso: autoaperfeiçoamento recursivo. Funciona assim—

Um sistema de IA em um determinado nível – digamos, um humano idiota de aldeia – é programado com o objetivo de melhorar sua própria inteligência. Quando o fizer, será mais inteligente – talvez neste momento esteja ao nível de Einstein – e agora, quando trabalha para melhorar a sua inteligência, com um intelecto ao nível de Einstein, terá mais facilidade e poderá dar saltos maiores. Esses saltos tornam-no muito mais inteligente do que qualquer ser humano, permitindo-lhe dar saltos ainda maiores . À medida que os saltos aumentam e acontecem mais rapidamente, o AGI aumenta em inteligência e logo atinge o nível superinteligente de um sistema ASI. Isso é chamado de explosão de inteligência,11e é o exemplo definitivo da Lei dos Retornos Acelerados.

Há algum debate sobre quando a IA alcançará a inteligência geral de nível humano. O ano médio em uma pesquisa com centenas de cientistas sobre quando eles acreditavam que teríamos maior probabilidade de atingir o AGI foi 204012– isso será daqui a apenas 25 anos, o que não parece tão grande até considerarmos que muitos dos pensadores neste campo pensam que é provável que a progressão da AGI para a ASI aconteça muito rapidamente. Tipo – isso pode acontecer:

Leva décadas para que o primeiro sistema de IA atinja inteligência geral de baixo nível, mas finalmente acontece. Um computador é capaz de compreender o mundo ao seu redor tão bem quanto um ser humano de quatro anos de idade. De repente, uma hora depois de atingir esse marco, o sistema lança a grande teoria da física que unifica a relatividade geral e a mecânica quântica, algo que nenhum ser humano foi capaz de fazer definitivamente. 90 minutos depois disso, a IA tornou-se uma ASI, 170 mil vezes mais inteligente que um ser humano.

Uma superinteligência desta magnitude não é algo que possamos compreender remotamente, tal como um zangão não consegue entender a economia keynesiana. Em nosso mundo, inteligente significa um QI de 130 e estúpido significa um QI de 85 – não temos uma palavra para um QI de 12.952.

O que sabemos é que o domínio absoluto dos humanos nesta Terra sugere uma regra clara: com a inteligência vem o poder. O que significa que uma ASI, quando a criarmos, será o ser mais poderoso na história da vida na Terra, e todos os seres vivos, incluindo os humanos, estarão inteiramente à sua mercê – e isto poderá acontecer nas próximas décadas.

Se nossos escassos cérebros fossem capazes de inventar o Wi-Fi, então algo 100, 1.000 ou 1 bilhão de vezes mais inteligente do que nós não deveria ter problemas em controlar o posicionamento de cada átomo do mundo da maneira que quiser, a qualquer hora – tudo o que quisermos. considere a magia, todo poder que imaginamos que um Deus supremo tenha será uma atividade tão mundana para a ASI quanto acender um interruptor de luz é para nós. Criar a tecnologia para reverter o envelhecimento humano, curar doenças, a fome e até a mortalidade, reprogramar o clima para proteger o futuro da vida na Terra – tudo de repente é possível. Também é possível o fim imediato de toda a vida na Terra. No que nos diz respeito, se uma ASI vier a existir, existe agora um Deus onipotente na Terra – e a questão mais importante para nós é:

 

Será um Deus bom?