Séries

Os Hosts, Réplicas e robôs estão mais próximos do que pensamos?

A narrativa de ficção científica – de “Westworld” e “Black Mirror” a “Her” e o novo filme “Replicas” – tornou-se obcecada pela relação da inteligência artificial com a imortalidade. Mas a possibilidade de uma vida digital após a morte é mais do que apenas uma fantasia?

Era uma vez, os robôs estavam vindo para nos matar

Os detalhes variam – talvez eles nos convertessem em combustível e nos escravizassem, ou talvez simplesmente esmagassem nossos crânios empilhados sob as marcas de pneus. Mas a premissa persiste: sempre que um computador tem muitas ideias, todos morremos.

A julgar pelos últimos 10 anos de filmes e séries, nós mudamos de opinião sobre a coisa do apocalipse robotico. Eles não estão mais chegando para nos aniquilar – provavelmente porque parecemos estar fazendo um trabalho muito bom disso.

Não, agora os robôs estão aqui para nos libertar da morte. Do Westworld ao Altered Carbon; do curioso World of Tomorrow para o Black Mirror; da maravilhosa meditação de Spike Jonze para o novo filme de Keanu Reeves, que parece preso em sua própria versão da vida após a morte – cada filme ou programa sobre inteligência artificial agora é sobre a promessa de imortalidade e como as máquinas podem entregá-la para nos.

Você pode culpar Elon Musk, talvez, ou talvez nossas próprias perspectivas como raça humana, mas a história que nos contamos sobre tecnologia parece ter mudado permanentemente. Veja como a nova história se passa e ela é contada com consistência alarmante: depois que morrermos, as informações em nossos cérebros serão preservadas, carregadas em uma nuvem e baixadas novamente em um novo corpo.

Depois disso, vamos esfregar nossos olhos e talvez até chegar em casa a tempo para o jantar. A morte é apenas outro problema de conexão, um soluço momentâneo no pergaminho sem fim, e os robôs não são mais o braço esquelético do Exterminador do Futuro segurando o tornozelo; eles são um gancho para nos resgatar do nosso abismo.

Cada um desses trabalhos tem um ângulo diferente – espiritual, emocional, político, socioeconômico – sobre como um futuro digital pode parecer. Em Westworld, os anfitriões circulam através de uma série interminável de vidas e mortes, perecendo por tiros e rasgados por facas.

Sua existência traz à mente o conceito budista tibetano do samsara, ou o ciclo interminável de sofrimento que só pode ser evitado pelo iluminação. (Eu acho que o Labirinto remete a essa ideia.) A vida após a morte é similarmente sombria em Altered Carbon – as classes mais baixas são reiniciadas em qualquer corpo deixado para sucata, enquanto o 1% privilegiado persegue um visão mais limpa e agradável da vida após a morte.

No episódio do Black Mirror, “Be Right Back”, a reanimação é uma espécie de pata de macaco. A angustiada Martha reanima seu amante Ash depois que ele morre em um acidente de carro. Sua duplicata aprende tudo o que ele sabe sobre ser Ash a partir de seu uso de mídia social; talvez sem surpresa, ele é uma reinterpretação vazia e sem alma do homem que Martha amava.

“Você é apenas algumas ondas de você; não há história para você “, ela diz-lhe no final do episódio. “Você é apenas uma performance de coisas que ele tocou sem pensar, e isso não é suficiente!”

A ideia de que a IA vai resgatar nossos entes queridos do vazio toca em nossas visceras. Você pode entender instintivamente por que as pessoas são atraídas por essa ideia.

Provavelmente não é surpreendente que a cultura esteja terceirizando nosso anseio pela imortalidade para a tecnologia. A tecnologia já é a solução proposta para todos os nossos problemas.

A ironia, é claro, em todos esses trabalhos especulativos de ficção é que eles estão decididamente atrasados, não à frente deles. O Westworld é baseado em um filme que Michael Crichton escreveu e dirigiu em 1973, dois anos após o protótipo do primeiro computador pessoal ter sido desenvolvido.

O romance que serve de base para a Altered Carbon foi escrito em 2002; Naquela época, uma equipe de 100 robôs chamados Centibots pesquisou e mapeou uma área com total autonomia.

A ideia de fazer o upload da mente entrou pela primeira vez na ficção científica em meados da década de 1930. A disciplina nascente da ciência da computação estava explodindo, e um punhado de escritores de ficção científica extrapolou esses desenvolvimentos para o futuro: o romance de 1956 de Arthur C. Clarke, The City and the Stars, foi um dos primeiros trabalhos sérios de ficção científica a considerar as implicações de poder armazenar sua mente em um computador.

Desde então, a lacuna entre essas obras imaginativas e o trabalho real dos computadores vem se estreitando constantemente.

Talvez uma razão pela qual todos eles se sintam tão vívidos agora, e por que as velhas histórias pareçam tão nervosamente frescas, é porque podemos sentir a batida desses acontecimentos batendo mais alto.

Para Bruce Duncan, shows como o Westworld não são mais ficção científica. Eles são o seu itinerário diário. Ele é o diretor administrativo da Terasem Movement Foundation, uma pequena fundação privada de pesquisa sem fins lucrativos no norte de Vermont.

A presidente da Terasem é a futurista e transumanista Martine Rothblatt, talvez a mais visível e famosa proponente do carregamento da mente. Ela tem mais motivos para acreditar na existência deste futuro do que a maioria: ajudou a criá-lo.

Em 2010, ela criou um clone de sua esposa, Bina, usando um tipo sofisticado de sistema de computador moldado no próprio cérebro humano, chamado de rede neural.

Se você gostaria de sentir sua pele estremecer de seu corpo, então por favor, assista a este clipe de cabeça de robô Bina48 “conversando” com a Bina original.

“Eu gostaria de poder sair para o jardim”, diz Bina-48, de olhos tortos e olhos mortos. “Com minhas limitações robóticas atuais, é claro que isso é impossível. Mas eu me conforto sabendo que estou perto do meu jardim, e aproveitando a brisa de uma janela aberta me ajuda a me imaginar lá fora trabalhando no jardim. Isso ajuda. ”Ela acrescenta:“ Eu gosto de me embelezar. Eu quero deixar o mundo um lugar mais bonito da minha presença nele. ”

Quando perguntada se ela tinha perguntas para “a verdadeira Bina”, Bina48 respondeu: “Provavelmente não. A verdadeira Bina apenas me confunde. Quero dizer, isso me faz pensar quem eu sou. Crise de identidade real tipo de coisa. Deprimente, de qualquer maneira.

Esse vídeo foi filmado em 2014 – o que significa que, em termos da ciência da computação, já é um passado distante.

Duncan trabalha ao lado de Rothblatt no Terasem. Aqui está como ele descreve o trabalho que eles fazem: “Nosso principal objetivo e razão de existir é testar uma hipótese de duas partes: A primeira parte pergunta, se carregarmos informações salientes suficientes sobre as atitudes, valores, crenças, maneirismos, gostos de uma pessoa Não agrada, se é possível reanimar uma aproximação suficientemente boa da consciência dessa pessoa. A segunda parte da hipótese é: se isso de fato puder ser feito, podemos usar a inteligência artificial para transferir essa persona digital para outras formas, como um robô, um avatar, um holograma, ou talvez algum dia um clone do corpo com base no DNA da pessoa, com o clone da mente baixado nesse corpo? ”

Há um monte de palavras na descrição do trabalho de Duncan que dão uma pausa. Palavras como “reanimar” e a frase “uma aproximação suficientemente boa da consciência daquela pessoa”. Só a ideia de “bom o suficiente” e o que poderia significar reanimar uma consciência que não chegasse àquela barra, é um pesadelo . Mas há a outra parte – “informação saliente”. O que significa “informação saliente”?

O Projeto LifeNaut, também da Terasem, está focado nessa parte da equação. Na equação de LifeNaut, “informação saliente” é qualquer informação que um usuário possa estar disposto a compartilhar. Posts no Facebook, compartilhamentos, curtidas. Tweets, emails, fotos.

Recentemente, a Terasem fez uma parceria com a StoryCorps, uma iniciativa que coloca estandes de gravação em lugares lotados e incentiva as pessoas a compartilharem suas histórias de vida. A terminologia abreviada de Duncan e as pessoas da Terasem e da LifeNaut para esse banco de informações é “arquivo mental”.

Se você puder criar um “arquivo mental” suficientemente grande e abrangente, você alimenta essa informação em uma rede neural que é sofisticada o suficiente para começar a fazer suas próprias conexões, você acabaria com outro, totalmente digital você?

“Acreditamos que a IA pode ser realmente boa em reagrupar e reanimar a consciência pessoal de que é uma cópia boa o suficiente para as pessoas dizerem: ‘Uau, estou realmente tirando proveito dessa interação'”, continua Duncan. Ele se apressa em esclarecer que a Terasam “não está explorando os dados das pessoas para fins comerciais; nós o estamos usando para pesquisa científica ”. Ele também me assegura que as pessoas têm controle sobre seus dados,“ e eles podem decidir se querem que ele passe da morte biológica ”.

Pessoas como Duncan não andam por aí usando termos como “morte biológica” levemente. Eles estão usando esses termos intencionalmente, mesmo com força, por um desejo de mudar a própria conversa sobre o que significa “morte”.

“Quando nós morremos agora, para a maioria de nós, particularmente se você cresceu na era pré-e-mail, muita da organização morre quando você morre”, diz Duncan, com o típico eufemismo. “Agora, quando estamos em uma geração que está crescendo depois do e-mail, e tudo – tweets, postagens no Facebook, coisas que nem conhecemos estão sendo documentadas, como os dados da linha do tempo do Google que rastreiam para onde estamos indo.

Toda essa informação é esmagadora, mas essa é a força exata do aprendizado de máquina – pode levar a complexidade e o volume de informações ”.

Quando há uma mente sem corpo, podemos sempre saber que estamos olhando para uma extensão de um eu. Mas se estamos tão envolvidos em nossa interação com a informação dessa pessoa, que é tão acessível e bem organizada, pode haver em algum momento uma redefinição do que significa estar morto. Podemos nos mover em direção à definição mais teórica de que você está morto quando suas informações não estão mais acessíveis ou organizadas ”.

“Somos guiados pela ética”, diz Duncan. “Todo mundo diz: ‘Você fica doente e morre, e é o melhor que acontece’. Dizemos: ‘Bem, e se você se estender, e nem tudo tiver que desaparecer quando sua biologia desaparecer?’”

As pessoas não estão realmente preparadas para essas coisas, que provavelmente são o motivo de todos esses filmes e programas de TV.

Altered Carbon joga com a ideia de dispersão de informação como morte real. Corpos são referidos como “mangas”, coisas que os personagens podem pular dentro e fora, enquanto a alma, a parte de você que não pode ser substituída, reside na sua “pilha cortical”, um pedaço de código que vive na base do sua espinha. A pilha cortical é “pura mente humana”, codificada e armazenada.

Da mesma forma, nas réplicas, os membros da família de Keanu Reeves já voltaram a ficar on-line e nem sabem disso. Reeves interpreta um biólogo sintético que está perto de uma grande descoberta. Ele está, é claro, estudando o cérebro humano.

Sua esposa e filhos morrem em um acidente de carro, e ele os traz de volta online.

O destino que se abate é o esquecimento

Considere James Delos, o personagem implacável em Westworld: lidando com doenças terminais, ele se volta para a tecnologia de sua empresa para evitar sua “morte biológica”. O que acontece? Ele está preso em um estojo de armazenamento, enquanto sua mente danificada se degrada.

Sempre que uma notícia sobre o carregamento da mente aparece nos noticiários, a reação é a mesma – escárnio e repulsa. Testemunhe o destino da Nectome, uma empresa que saltou para a proeminência este ano depois de ter sido financiada pela incubadora de fabricantes de automóveis Y Combinator.

A empresa prometeu, em linguagem que poderia ter soado um pouco demais de zelo profano, preservar o cérebro  a cada sinapse. O mapa do cérebro que ele propunha era íntimo e específico – preservaria o “Conectoma”, que é o conjunto único de conexões que seu cérebro fez no processo cognitivo de se tornar “você”.

Na verdade, eles haviam feito com sucesso Exatamente isso com um rato, preservando o cérebro com tanta fidelidade que cada sinapse poderia ser vista com um microscópio eletrônico. A empresa oferecia esse serviço a clientes pagantes: o problema, claro, era que esse processo foi, nas palavras malfadadas do co-fundador Robert McIntyre, “100% fatal”.

Depois de uma onda de manchetes como “A Tech Bros está se alinhando para ter seus cérebros preservados para sempre”, a empresa bateu em retirada. O MIT cortou laços com isso. Ele foi chamado de “caras malvados de desenho animado”.

Não foi mencionado, ou não muito, que um cientista havia estimado que a tecnologia poderia estar disponível em cem anos.

“Eu acho que a primeira coisa que aconteceria se chegássemos perto dessa tecnologia é que haveria uma repulsa maciça contra ela”, diz Russell Blackford. Blackford edita o Journal of Evolution and Technology, a revista on-line revisada por pares do Institute for Ethics and Emerging Technologies.

Ele também escreveu livros, incluindo o Science Fiction e a Imaginação Moral do ano passado, que investigam a ética do mundo real por trás dos cenários populares de ficção científica. Hoje em dia, ele se considera “filósofo, crítico literário e especialista em direito”, mas também escreveu ficção científica e fantasia, incluindo inscrições na série de romances O Exterminador do Futuro, The New John Connor Chronicles.

Para um ponto de referência sobre o discurso em torno do carregamento cerebral, Blackford menciona a clonagem humana. Quando Dolly, a ovelha clonada, levantou o espectro da clonagem humana em 1996, vários países proibiram a clonagem humana preventivamente; nos EUA, uma enxurrada de leis estaduais surgiu restringindo a pesquisa e a FDA interveio.

Blackford diz que, assim como a clonagem, o upload do cérebro é muito mais remoto do que qualquer receio. Mas ele também permite que a tecnologia tenda a avançar em saltos imoderados e imprevisíveis, onde um objetivo que já foi 100 anos depois se transforma em dez. “Haverá todos os tipos de problemas que surgirão”, diz ele. “Se nos convencermos de que o software que temos nessa caixa está realmente experimentando prazeres e dor, então você tem todos os tipos de responsabilidades éticas para com essa vida. Você experimenta isso de maneiras que causem dor? Temos muitos problemas éticos experimentando ratos, e muitos dos mesmos problemas vão aumentar muito. Antes de você chegar muito longe no futuro, você tem que resolver esses problemas. ”

“Podemos ter que reconhecer que existem níveis variados de pessoalidade”, diz Duncan. “Quando a consciência cibernética começa a ter alguma autoconsciência e começa a valorizar sua própria existência, entramos nessa área cinzenta. É aí que a inteligência animal está agora. Os animais parecem ser movidos pelo desejo de viver. Especialmente nos primatas superiores, há uma inteligência emocional definida – há evitação, há capacidade de sofrimento. À medida que nossa instrumentação científica humana se torna mais refinada e nos permite reconhecer as coisas que provavelmente ocorreram por um longo tempo sobre a inteligência animal, nossa ética humana e nossos sistemas morais estão começando a questionar algumas de nossas ações anteriores ”.

Duncan não sai como um tipo do Dr. Faust. Ele parece estar lidando com essas questões abstratas com uma sinceridade alarmante.

“Da mesma forma que começamos a atribuir a personalidade eventualmente a pessoas que originalmente eram apenas vistas como um produto, agora as pessoas estão dizendo: ‘Sim, 100 anos atrás, você poderia ter me possuído, e agora você reconhece que eu sou um ser humano como você é – pode chegar um ponto no futuro em que a consciência cibernética dirá: “Sim, eu costumava ser sua assistente, mas evoluí a tal ponto que agora tenho minhas próprias ideias e tenho emoções, e tenho metas. ”Não é muito cedo agora para começarmos a abordar: qual seria a resposta legal e ética para essa situação? Os precedentes legais e a jurisprudência levam décadas para desenvolver ideias e relacioná-las à lei comum, por isso, se esperarmos até que a consciência cibernética diga: “Espere, não me desligue”, vai ser um pouco tarde demais, e haverá um período de sofrimento desnecessário, confusão ou mesmo discriminação ”.

O que todo esse material selvagem – placas de certificação de arquivos, direitos civis do clone da mente, etc. – pressupõe é que a consciência em si “emergirá” de clones mentais. É uma coisa muito grande de se pressupor, e é o alicerce de todo o projeto de upload do cérebro. “Essa é a grande questão que ninguém tem a resposta”, diz Duncan. “Estamos dizendo que achamos que a consciência pode ser uma propriedade emergente da física que surge da complexidade cada vez maior de padrões reconhecidos por redes neurais, seja ela biológica ou um algoritmo.”

Neste modelo, a consciência é um processo cumulativo. Ela se desenvolve gradualmente, como o aumento de camadas de lama que gradualmente endurecem na rocha ou o zumbido dos motores que se tornam audíveis. Nas palavras do filósofo Daniel Dennett: Você pode ser “meio que” consciente.

Blackford não parece tão convencido de que a consciência possa ser “emergente”.

“Eu acho que em certo sentido, deve ser”, diz ele. “Mas em que sentido? “Escorregadio” é uma propriedade emergente. O escorregadio é inerente à natureza da física; Se você coloca certos tipos de coisas juntos em um certo nível, o que vem disso é que você adquire uma matéria que age de certas maneiras que chamamos de “escorregadio”. Não há nada sobre o escorregadio que não é dedutível das leis físicas fundamentais.

“Não podemos explicar a consciência da mesma maneira”, diz ele. “Esse é o nosso grande problema. Se é emergente, tem que ser emergente em um sentido muito mais forte, e tem que haver alguma lei adicional que não sabemos sobre como ela surge ”. Em outras palavras: você pode escrever uma receita para o escorregadio; antes mesmo de juntar todos os ingredientes, você sabe o que vai conseguir. Nós não temos todos os ingredientes para baixo para prever a consciência ainda.

“Estamos longe de saber até onde a consciência surge ao longo do caminho evolutivo. Uma coruja é consciente? Um lagarto? É muito difícil fazer um experimento sobre isso, porque uma ostra não pode dizer “sim, estou sentindo uma dor lá”, sabe?

Não podemos falar diretamente sobre a consciência: só podemos rastreá-la através da triangulação de metáforas como a Sala Chinesa e a Caverna de Platão. Duncan propõe outro: “Se você gravar uma sinfonia ao vivo com ferramentas digitais e reproduzi-la em casa, sobre seu sistema de estéreo digital matador, não há debate sobre a experiência da música. Também não há ilusão de que você está experimentando música diretamente de uma fonte ao vivo.

“Mas está chegando perto e algumas pessoas dizem:” Quem se importa? Você está tendo uma experiência autêntica que é orgânica para você e é proveniente de uma fonte sintética. Isso realmente importa? “Meu palpite é que não vai.”

Via: The Ringer

Leia também:

Altered Carbon – A Série Cyberpunk da Netflix

Westworld – Teorias e o que esperar da segunda temporada

Quer ajudar a blog? Vem acompanhar a gente em outros canais:

Instagram / Facebook / Youtube

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

%d blogueiros gostam disto: