Big data, google e o fim do livre arbítrio

Esqueça de ouvir a si mesmo, pois na era dos dados, os algoritmos têm a resposta.

yuval

Yuval Noah Harari

Por milhares de anos, os humanos acreditavam que a autoridade vinha dos deuses. Então, durante a era moderna, o humanismo gradualmente mudou a autoridade das divindades para as pessoas. Jean-Jacques Rousseau resumiu essa revolução em Emile, seu tratado de 1762 sobre educação.

Ao procurar as regras de conduta na vida, Rousseau as encontrou: no fundo do meu coração, traçadas pela natureza em caracteres que nada pode apagar. Só preciso me consultar em relação ao que desejo fazer; o que sinto ser bom é bom, o que sinto ser ruim é ruim.

Pensadores humanistas como Rousseau nos convenceram de que nossos próprios sentimentos e desejos eram a fonte suprema de significado, e que nosso livre arbítrio era, portanto, a mais alta autoridade de tudo. Agora, uma nova mudança está ocorrendo.

Assim como a autoridade divina foi legitimada pelas mitologias religiosas e a autoridade humana foi legitimada pelas ideologias humanistas, os gurus da alta tecnologia e os profetas do Vale do Silício estão criando uma nova narrativa universal que legitima a autoridade dos algoritmos e do big data. Este novo credo pode ser chamado de dataísmo.

Em sua forma extrema, os proponentes da visão de mundo dataísta percebem todo o universo como um fluxo de dados, com organismos como pouco mais do que algoritmos bioquímicos e acreditam na vocação cósmica que a humanidade deve criar um sistema de processamento de dados abrangente – e então fundir-se a isso. Já estamos nos tornando minúsculos chips dentro de um sistema gigante que ninguém entende.

Todos os dias eu absorvo inúmeros bits de dados por meio de e-mails, telefonemas e artigos; processar os dados; e transmitir novos bits através de mais e-mails, telefonemas e artigos. Eu realmente não sei onde eu me encaixo no grande esquema das coisas e como meus bits de dados se conectam com os bits produzidos por bilhões de outros humanos e computadores.

Eu não tenho tempo para descobrir, porque estou muito ocupado respondendo e-mails. Esse fluxo de dados incansável gera novas invenções e interrupções que ninguém planeja, controla ou compreende. Mas ninguém precisa entender. Tudo que você precisa fazer é responder seus e-mails mais rapidamente. Assim como os capitalistas do livre mercado acreditam na mão invisível do mercado, os dataístas acreditam na mão invisível do fluxo de dados.

À medida que o sistema global de processamento de dados se torna onisciente e todo poderoso, a conexão com o sistema torna-se a fonte de todo o significado. O novo lema diz: se você experimentar algo – registre-o. Se você gravar algo – faça o upload. Se você fizer o upload de algo, compartilhe. Os especialistas em dados acreditam ainda que os dados biométricos e o poder de computação são suficientes, pois esse sistema abrangente poderia entender os humanos muito melhor do que nós entendemos.

Uma vez que isso aconteça, os humanos perderão sua autoridade e práticas humanistas como eleições democráticas tornar-se-ão tão obsoletas quanto as danças de chuva e as facas de pedra. Quando Michael Gove anunciou sua candidatura de curta duração para se tornar o primeiro-ministro da Grã-Bretanha após a votação do Brexit em junho, ele explicou: em cada passo da minha vida política me fiz uma pergunta: Qual é a coisa certa a fazer? O que seu coração lhe diz?

É por isso que, de acordo com Gove, ele lutou tanto pelo Brexit e foi por isso que ele se sentiu compelido a dar um enganada em seu antigo aliado Boris Johnson e se candidatar à posição de primeiro-ministro – porque o seu coração lhe disse para fazê-lo. Gove não está sozinho em ouvir seu coração em momentos críticos.

Nos últimos séculos, o humanismo viu o coração humano como a suprema fonte de autoridade, não apenas na política, mas em todos os outros campos de atividade. Desde a infância somos bombardeados com uma enxurrada de slogans humanistas nos aconselhando: escute a si mesmo, seja fiel a si mesmo, confie em si mesmo, siga seu coração, faça o que é bom.

Em política, acreditamos que a autoridade depende das escolhas livres dos eleitores comuns. Na economia de mercado, afirmamos que o cliente está sempre certo. A arte humanista acha que a beleza está nos olhos de quem vê; a educação humanista nos ensina a pensar por nós mesmos; e a ética humanista nos aconselha que, se for bom, devemos seguir em frente e fazê-lo.

Claro, a ética humanista muitas vezes se depara com dificuldades em situações em que algo que me faz sentir bem faz com que você  se sinta mal. Por exemplo, todos os anos, durante a última década, a comunidade LGBT israelense realizou uma parada gay nas ruas de Jerusalém. É um dia único de harmonia nesta cidade dividida por conflitos, porque é a única ocasião em que judeus religiosos, muçulmanos e cristãos de repente encontram uma causa comum – todos eles se irritam com a parada gay.

O que é realmente interessante, no entanto, é o argumento que os fanáticos religiosos usam. Eles não dizem: você não deveria fazer uma parada gay porque Deus proíbe a homossexualidade. Em vez disso, eles explicam a todos os microfones e câmeras de televisão que ver um desfile gay passando pela cidade santa de Jerusalém fere nossos sentimentos. Assim como os gays querem que respeitemos seus sentimentos, eles devem respeitar os nossos.

Não importa o que você pensa sobre esse enigma em particular, pois já estamos nos tornando minúsculos chips dentro de um sistema gigante que ninguém realmente entende. Contudo, o humanismo está agora enfrentando um desafio existencial e a ideia de livre arbítrio está sob ameaça.

Os conhecimentos científicos sobre o modo como os cérebros e corpos funcionam sugerem que os sentimentos não são uma qualidade espiritual exclusivamente humana. Pelo contrário, são mecanismos bioquímicos que todos os mamíferos e aves usam para tomar decisões, calculando rapidamente as probabilidades de sobrevivência e reprodução.

Ao contrário da opinião popular, os sentimentos não são o oposto da racionalidade, eles são a racionalidade evolucionária como a matéria. Quando um babuíno, girafa ou humano vê um leão, o medo surge porque um algoritmo bioquímico calcula os dados relevantes e conclui que a probabilidade de morte é alta.

Da mesma forma, os sentimentos de atração sexual surgem quando outros algoritmos bioquímicos calculam que um indivíduo próximo oferece uma alta probabilidade de acasalamento bem-sucedido. Esses algoritmos bioquímicos evoluíram e melhoraram ao longo de milhões de anos de evolução.

Se os sentimentos de algum ancestral antigo cometeram um erro, os genes que moldaram esses sentimentos não passaram para a geração seguinte. Embora os humanistas estivessem errados ao pensar que nossos sentimentos refletiam algum misterioso livre-arbítrio, até agora o humanismo ainda fazia muito sentido prático.

Embora, não houvesse nada de mágico em nossos sentimentos, eles eram, no entanto, o melhor método no universo para tomar decisões – e nenhum sistema externo poderia esperar compreender melhor meus sentimentos do que eu. Mesmo se a igreja católica ou a KGB soviética me espionassem a cada minuto de cada dia, eles não tinham o conhecimento biológico e o poder de computação necessários para calcular os processos bioquímicos que moldam meus desejos e escolhas.

Por isso, o humanismo estava correto em dizer às pessoas para seguirem seu próprio coração. Se você tivesse que escolher entre ouvir a Bíblia e ouvir seus sentimentos, era muito melhor ouvir seus sentimentos. A Bíblia representava as opiniões e preconceitos de alguns sacerdotes na antiga Jerusalém. Seus sentimentos, em contraste, representam a sabedoria acumulada de milhões de anos de evolução que passaram nos mais rigorosos testes de controle de qualidade da seleção natural.

Porém, à medida que a igreja e a KGB abrem caminho para o google e o facebook, o humanismo perde suas vantagens práticas. Pois estamos agora na confluência de duas ondas de maré científicas. Por um lado, os biólogos decifrando os mistérios do corpo humano e, em particular, do cérebro e dos sentimentos humanos. Ao mesmo tempo, os cientistas da computação estão dando um poder de processamento de dados sem precedentes.

Quando se coloca os dois juntos, obtém-se os sistemas externos que podem monitorar e entender meus sentimentos muito melhor do que eu. Uma vez que os sistemas de big data me conhecem melhor do que eu mesmo, a autoridade passará dos humanos para os algoritmos. O big data poderia, então, capacitar o big brother. Isso já aconteceu no campo da medicina. As decisões médicas mais importantes em sua vida baseiam-se cada vez menos em seus sentimentos de doença ou bem-estar, ou mesmo nas previsões informadas de seu médico, mas nos cálculos de computadores que o conhecem melhor do que você mesmo.

Um exemplo recente desse processo é o caso da atriz Angelina Jolie. Em 2013, Jolie fez um teste genético que provou: ela estava carregando uma mutação perigosa do gene BRCA1. Segundo os bancos de dados estatísticos, as mulheres portadoras dessa mutação têm uma probabilidade de 87% de desenvolver câncer de mama.

Embora na época Jolie não tivesse câncer, ela decidiu antecipar a doença e passar por uma mastectomia dupla. Ela não se sentiu mal, mas sabiamente decidiu ouvir os algoritmos de computador. Você pode não sentir que algo está errado, diz o algoritmo, mas há uma bomba relógio no seu DNA. Faça algo sobre isso – agora,

A autoridade mudará de humanos para algoritmos de computador. O big data poderá, então, capacitar o big brother O que já está acontecendo na medicina provavelmente ocorrerá em mais e mais setores. Começa com coisas simples, como qual livro comprar e ler.

Como os humanistas escolhem um livro? Eles vão a uma livraria, vagam entre os corredores, folheiam um livro e leem as primeiras frases, até que algum instinto os conecte a um tomo particular.

Os dataístas usam a Amazon. Quando entro na loja virtual da Amazon, uma mensagem aparece e me diz: eu sei quais livros você gostou no passado. Pessoas com gostos semelhantes também tendem a amar este ou aquele novo livro. Isto é apenas o começo. Dispositivos como o kindle, da Amazon, são capazes de coletar dados constantemente em seus usuários enquanto leem livros. O seu kindle pode monitorar quais partes de um livro você leu rapidamente e quais, lentamente; em qual página você fez uma pausa, e em qual frase você abandonou o livro, para nunca mais pegá-lo novamente.

Se o kindle fosse atualizado com software de reconhecimento facial e sensores biométricos, saberia como cada frase influenciava sua frequência cardíaca e pressão sanguínea. Saberia o que te fez rir, o que te deixou triste, o que te deixou com raiva. Em breve, os livros irão lê-lo enquanto você os lê. E enquanto você rapidamente esquece a maior parte do que lê, os programas de computador nunca precisam esquecer.

Tais dados devem eventualmente permitir que a Amazon escolha livros para você com precisão incomum. Também permitirá que a Amazon saiba exatamente quem você é. Leve isso para uma conclusão lógica e, eventualmente, as pessoas podem dar aos algoritmos a autoridade para tomar as decisões mais importantes em suas vidas, como com quem se casar. Na Europa medieval, padres e pais tinham a autoridade de escolher seu cônjuge para você. Nas sociedades humanistas, damos essa autoridade aos nossos sentimentos.

Em uma sociedade dataísta, pedirei ao google que escolha. Escute, google, direi, John e Paul estão me cortejando. Eu gosto dos dois, mas de um jeito diferente, e é muito difícil me decidir. Dado tudo o que você sabe, o que você me aconselha a fazer? E o google responderá: bem, eu conheço você desde o dia em que você nasceu. Li todos os seus e-mails, gravei todos os seus telefonemas e conheço seus filmes favoritos, seu DNA e toda a história biométrica de seu coração. Eu tenho dados exatos sobre cada data que você passou, e eu posso mostrar-lhe gráficos de segundo a segundo da sua frequência cardíaca, pressão arterial e níveis de açúcar sempre que você foi a um encontro com John ou Paul. E, naturalmente, eu os conheço tanto quanto conheço você.

Com base em toda essa informação, em meus excelentes algoritmos e em décadas de estatísticas sobre milhões de relacionamentos – aconselho-o a ficar com John, com uma probabilidade de 87% de estar mais satisfeito com ele no longo prazo. De fato, eu te conheço tão bem que até sei que você não gosta dessa resposta. Paul é muito mais bonito do que John e, como você dá muito peso às aparências externas, secretamente queria que eu dissesse Paul.

Parece importante, claro, mas não tanto quanto você pensa. Seus algoritmos bioquímicos – que evoluíram há dezenas de milhares de anos na savana africana – conferem à beleza externa um peso de 35% em sua classificação geral de potenciais parceiros. Meus algoritmos – que são baseados nos mais atualizados estudos e estatísticas – dizem que os visuais têm apenas 14% de impacto sobre o sucesso a longo prazo dos relacionamentos amorosos.

Então, embora eu tenha levado a beleza de Paul em conta, eu ainda te digo que você ficaria melhor com John. O google não precisa ser perfeito. Não precisa estar correto o tempo todo. Terá que ser melhor, em média, do que eu.

E isso não é tão difícil, porque a maioria das pessoas não se conhece muito bem e a maioria das pessoas comete erros terríveis nas decisões mais importantes de suas vidas. A visão de mundo dos dados é muito atraente para políticos, empresários e consumidores comuns porque oferece tecnologias inovadoras e imensos novos poderes. Por todo o medo de perder nossa privacidade e nossa livre escolha, quando os consumidores têm que escolher entre manter sua privacidade e ter acesso a cuidados médicos muito superiores – a maioria escolherá saúde.

Para os estudiosos e intelectuais, o dataísmo promete fornecer o santo graal científico que nos iludiu por séculos: uma única teoria abrangente que unifica todas as disciplinas científicas, desde a musicologia, passando pela economia, até a biologia. De acordo com dataísmo, a quinta sinfonia de Beethoven, uma bolha na bolsa de valores e o vírus da gripe são apenas três padrões de fluxo de dados que podem ser analisados usando os mesmos conceitos e as ferramentas básicos.

Essa ideia é extremamente atraente. Ele dá a todos os cientistas uma linguagem comum, constrói ligações sobre as divergências acadêmicas e facilmente exporta conhecimentos por meio das fronteiras disciplinares. É claro que, como os dogmas abrangentes anteriores, o dataísmo também pode ter fundado um mal entendimento da vida.

Em particular, o dataísmo não tem resposta para o notório problema difícil da consciência. No momento, estamos muito longe de explicar a consciência em termos de processamento de dados. Por que é que quando bilhões de neurônios no cérebro disparam sinais específicos um para o outro, uma sensação subjetiva de amor ou medo ou raiva aparece? Nós não temos a menor ideia.

Mas, mesmo que o dataísmo esteja errado sobre a vida, ele ainda pode conquistar o mundo. Muitos crendices anteriores ganharam enorme popularidade e poder apesar de seus erros factuais. Se o cristianismo e o comunismo pudessem fazê-lo, por que não o dataísmo?

Ele tem perspectivas especialmente boas, porque atualmente está se espalhando por todas as disciplinas científicas. Um paradigma científico unificado pode facilmente tornar-se um dogma inatacável. Se você não gosta disso, e quer ficar além do alcance dos algoritmos, provavelmente há apenas um conselho para dar a você, diretamente do mais antigo livro: conheça a si mesmo.

No final, é uma questão empírica simples. Contanto que você tenha uma maior percepção e autoconhecimento do que os algoritmos, suas escolhas ainda serão superiores e você manterá pelo menos alguma autoridade em suas mãos. Se os algoritmos, contudo, parecem prontos para assumir o controle, é principalmente porque a maioria dos seres humanos dificilmente se conhece.

Yuval Noah Harari é professor na Universidade Hebraica de Jerusalém e é autor de Sapiens: Uma Breve História da Humanidade e Homo Deus: Uma Breve História do Amanhã – https://www.ynharari.com/contact/



Categorias:Opinião

Tags:, , , , ,

1 resposta

Deixe uma resposta

%d blogueiros gostam disto: