#58. Silvio Meira: O Deserto do Real: IA está Gerando um Mundo Sem Original

Naquele império, a arte da cartografia alcançou tal perfeição, que o mapa de uma única província ocupava toda uma cidade, e o mapa do império, toda uma província. Com o tempo, esses mapas desmedidos não satisfizeram e os colégios de cartógrafos levantaram um mapa do império que tinha o tamanho do império e coincidia pontualmente com ele. Essa estação, que é do Jóis de Luiz Borges, parece uma fantasia, né? Mas talvez seja a melhor forma de descrever a nossa realidade hoje. E é com ela que a gente abre a nossa conversa. Hoje a gente vai explorar as ideias de um artigo chamado "O Deserto do Real", do Silvio Meira. Eu particularmente achou ele um dos maiores cientistas brasileiros da atualidade. O nosso produtor aqui inclusive é fan de carteirinha. Com certeza! E nesse texto ele argumenta que a inteligência artificial está de um jeito bem sutil construindo um mundo onde, onde o original simplesmente não existe mais. Pois é, eu acho que é uma discussão fundamental. O mais interessante é que o Meira, que baseia muito num filósofo, Jean-Baudriar, que falou sobre isso, sei lá, décadas atrás. Exato. Quando ia a generativa era coisa de filme. Exato. E a ideia dele que parecia super filosófica era que a copia não só vem antes do original, mas, no fim, ele imina o original. Aí há, parece que foi a ferramenta que tornou essa teoria assustadoramente real. Totalmente. E como as ideias são muito grandes para a gente não se perder, eu pensei num caminho tipo uma agenda para a nossa conversa. Ótimo. A gente podia começar pelo conceito central essa ideia de hiperreal para entender como ia construir isso. Depois, a gente desce para o nosso nível, para o indivíduo, com que ele chama de "self digital". E daí a gente vê o efeito dominó, como esses indivíduos formam grupos que já não são bem comunidades. Isso. Se maior. E aí, no fim, a gente encara a pergunta que o artigo deixa no ar. O que sobra da democracia no meio disso tudo. Perfeito. É um belo roteiro. E aí, bora começar? Vamos lá. Ok. Então, o ponto de partida é um conceito com um nome que assusta um pouco. Precessão do Simulacros. Sim, é um nome complicado. É. O meira resgata é isso do Baldryard. Mas a ideia, como você falou, é que a cópia vem antes do original. Isso dá um nome à cabeça, porque a gente sempre pensou o contrário, né? Exato. A gente aprendeu que existe a monaliza lá no Louvre e depois vem as cópias, as fotos, os pôsteres. Isso. Toda nossa lógica se baseava nisso. Existe um fato, um evento real. E a partir daí, vem as representações. O que o Baldryard propôs e que o meira diz que a IATA realizando é a inversão total. O modelo vem primeiro. A simulação vem antes da realidade. Nossa. Ele até se toma a frase do Baldryard que é brutal. A verdade hoje serve só para esconder que não existe mais verdade. O Simulacro. A cópia sem original. Virou o nosso ambiente. E aí que a IATA generativa entra como uma Louva, né? Porque ela não está fazendo cópia de algo que já existe. Ela está gerando um real sem origem. O realidade é o tal do Iperreal. Perfeito. Pensa no Mid-Journey, por exemplo. Você digita lá um astronaut andando a cavalo na Loua no estilo de Van Gogh. A imagem que ele cria não é uma cópia. Não existe foto disso, não existe pintura. Certo. Ela foi gerada de um modelo estatístico, de um mar de dados. É uma realidade sintética que parece real, mas não tem nenhuma âncora no mundo físico, sabe? Ela é o seu próprio original. Isso me leva a uma dúvida. O meira diz no texto que focar em fake news é um erro que a gente está olhando para o problema errado. Mas como assim? Notícia falsa não é um problema gigantesco? É um problema, mas acho que o argumento dele é mais sutil. O termo fake news nos distrae, entende? Porque falsos pressupon que existe um verdadeiro. O problema do Iperreal não é a mentira. É aí relevância da verdade. A iaa não cria uma mentira sobre um fato. Ela cria um fato sintético que compete de igual para igual com o fato real. Entendi. Não é uma batalha de verdadeiro contra falsos. Exato. É uma batalha de simulações. Acho que o exemplo do filtro do Instagram ilustra bem isso, né? No começo o filtro era só uma alteração. Ele só avisava a pele. Era uma cópia modificada do seu rosto, que era o original. E isso era uma cópia alterada. Hoje, a iaa pode criar o rosto de uma pessoa que nunca existiu como a perfeição que engana qualquer um. E esse rosto não é uma cópia de nada? Não é. Ele é a coisa em si. Agora aplica essa lógica para todo. Para discursos políticos, para artigos de opinião, o chão "some", porque o referencial do que é real ele simplesmente desaparece. Ok, essa ideia de uma realidade sem original é gigante. E como é que isso é terrissa na nossa vida, no nosso dia a dia? É aí que ele traz outro termo, né? O selfie digital. Sim, que a fusão de "self" ou eu, com o "fígital", que é essa mistura do físico com o digital. A ideia é que a gente não é mais só uma consciência interna que usa tecnologia. Nós somos uma unidade que mistura, nosso corpo, nossos dados, as redes que a gente usa e os algoritmos que nos lem. A iaa não só nos observa, ela passa a nos constituir. E a consequência disso é uma frase do artigo que. Nossa, me marcou muito. O mapa, que é o perfil, agora precede o território, que é a pessoa. Isso é assustador, né? É muito. Quer dizer que o nosso perfil nos Instagram os dados que o Google tem sobre nós, eles são o modelo que nos informa como agir. A identidade deixa de ser uma descoberta interna para virar um problema de otimização externa. A gente começa a se calibrar para o que o algoritmo espera, para que dá mais engajamento. Exatamente. É uma busca constante por coerência com a nossa versão que existe lá nos servidores. A gente performa para confirmar o nosso próprio perfil. Isso leva ao que ele chama de vazio existencial digital. É uma sensação esquisita, né? A pessoa se sente vazia, não porque ela fracaçou em atingiu um ideal. Não. Mas porque no fundo, ela percebe que o próprio ideal era uma simulação. Era um outro algoritmo criado para ela. Perfeito. É aquela sensação de postar uma foto e fica dando o F5, esperando a validação. E quando as curtidas vem, elas não preenche em de verdade. Porque não é você que está sendo validado. É a sua performance e a sua otimização. Nossa, isso mesmo. Você persegue um fantasma e quando alcança, descobre que ele e você são feitos da mesma fumaça digital. O exemplo da vida fitness nas redes sociais é perfeito para isso. Eu vejo direto. A pessoa começa a se exercitar por saúde, bem estar. M-m-m. Aí posta uma foto, o algoritmo recompensa. Daqui a pouco, ela não está mais escolhendo o exercício que é bom pro corpo dela. Mas o que fica melhor na foto. A roupa, o horário, a academia. Tudo é otimizado para engajamento. Exato. O eudo perfil passa a governar as ações do eo real, até que a fronteira entre ele se apaga. A pessoa não é mais saudável. Ela se torna o simuláculo de uma pessoa saudável. E o mais assustador é que esse vazio, essa performance, não é um ato solitário. Ele se alimenta e cresce quando a gente se junta com outros selfies digitais que estão na mesma. E essa é a ponte pro próximo ponto, né? O impacto nos grupos. Se o indivíduo é um simuláculo, o que acontece quando eles se juntam? A gente tem um simuláculo de comunidade. Exatamente. As plataformas com suas iais são mestras nisso. Elas não conectam pessoas com base em debates e em interesses complexos. Elas a grupo um perfis parecidos para reforçar uns aos outros. As famosas câmaras de eco, as bolhas. Então, o que a gente chama de comunidade online é, na verdade, um agregado de "eus" otimizados. Sim, performando uns pros outros e validando a simulação coletiva. Caramba. Então, aquela ideia de uma esfera pública unificada, sabe? Um lugar onde todos debatem os mesmos fatos e isso simplesmente morre. O artigo uso termo "employção" do social. É uma ótima imagem. Um espaço social não explode ele colapsa para dentro. Em milhares de micro-realidades que não se conversam. Cada uma com a sua verdade, suas regras, seus inimigos. E o perigo aumenta, porque "a" pode ela mesma simular dinâmica social dentro dessas bolhas. Redes de bots podem criar impressão de que uma ideia tem apoio massivo, fabricando um consenso. Ou o contrário, né? Gerando polarização artificialmente. Exato, o grupo deixa de seu ator político pra virar uma massa de dados a ser modelada. O exemplo do grupo de WhatsApp do condomínio muito bom pra isso. Imagina que estão discutindo uma nova regra. Sei lá, sobre animais de estimação. Ae um dos lados, em vez de argumentar, usa uma rede de bots pra curtir e comentar massivamente nas próprias mensagens. Em pouco tempo, cria-se a ilusão de que a grande maioria dos moradores concorda com aquilo. Exato. Os moradores indecisos são influentes. conheciados por esse falso consenso, quem é contra esse sente intimidado, se sente uma minorísolada, o debate real nunca acontece. O que acontece é uma simulação de debate. Sim. Onde enfencedor não é quem tem o melhor argumento, mas quem tem mais poder de fogo algoritmico. A razão é substituída pelo volume. E se isso acontece na escala de um condomínio, o estrago na política nacional deve ser inimaginável. É o próximo passo lógico. Individos simulados, formando grupos simulados, levam a uma sociedade simulada. E aí a gente volta para o borde de estilado inicio. O mapa não só precedeu o território. Ele se torna o que restou do território. A gente não vive mais a realidade diretamente. A gente vive os modelos as tendências que as plataformas criam para nós. A política vira por espetáculo. Mas assim, a política sempre teve um pouco de teatro de performance, não teve, o que aí a muda de verdade. Eu acho que ela remove o último eluco a substância. Antes, um político precisava em algum nível ter carisma, ter uma ideia, ter uma biografia. Era uma performance, mas ancorada em algo. Entendi. Aia permite a criação de uma performance totalmente sintética. Discursos gerados por algoritmos para maximizar o engajamento, avatares que interagem com eleitoris. A autenticidade não é mais um valor. Ela é só mais uma variável a ser simulada com perfeição. E nas eleições, isso fica muito concreto. O micro-targeting não é só para te mandar propaganda. É para simular uma conexão pessoal com o candidato, explorando suas vulnerabilidades psicológicas, seus medos. Exato. E a a fabrica a aparência de apoio popular. A gente vê uma hashtag subindo nas redes, e não tem como saber se é um movimento genuíno ou uma operação de botes. A crise da representação que a base da democracia se torna absoluta. É como se um candidato, em vez de fazer um comício para mil pessoas com discurso genérico, usar a CIA para criar mil versões diferentes do discurso dele. Sim, cada uma adaptada para uma única pessoa. Isso. Com base em todos os dados que ela deixou pela internet. A pessoa recebe aquela mensagem e pensa. Nossa, ele me entende. Ele pensa como eu. Cria-se a impressão de uma conexão íntima verdadeira. Mas essa conexão nunca existiu. É a simulação da representação em escala industrial. E se a representação é uma simulação, o que sobra da democracia. Esse é o ponto final e talvez o mais sombril do artigo. Sim. A democracia moderna dependia de alguns pilares. Se dá dãos que formam suas opiniões. Representação legítima, debate racional. Tudo baseado numa realidade compartilhada. AIA, ao materializar o Iper Real, ataca todos esses pilares de uma vez. Nossa, ele usa uma outra analogia do Bodrilára aqui que é fantástico e perturbadora. Adames Neilândia. É uma analogia poderosa, né? A ideia é a seguinte. A Disney Landia é apresentada como um mundo de fantasia e imaginário para nos fazer acreditar que tudo fora dela, cidade, economia, política é real. Na verdade, a Disney Landia existe para esconder que o próprio mundo real lá fora já virou uma grande simulação. Já virou uma Disney Landia. Trasendo para a política, a analogia seria que os rituais da democracia, eleições, debates, o Congresso, são apresentados como esse espaço imaginário da deliberação popular. Isso. Para esconder que o sistema real, o que de fato governa nossas vidas, já não opera mais com princípios democráticos, mas com a lógica das redes dos algoritmos do capital. Exatamente. A crise final, então, é epistemológica. É uma crise sobre a própria possibilidade de conhecer a realidade. Se a gente não tem mais uma base comum para debater, a política deixa de ser uma disputa de projetos e vir uma guerra entre simulacros. Cada bolha com a sua própria simulação de realidade, tentando se impor sobre as outras. É isso. Por isso, a conclusão do texto é tão radical. Ele diz que não adianta fazer pequenas reformas, criar leis para combater fake news, ele fala em uma refundação radical. Isso é uma afirmação muito forte. Muito forte. E eu acho que é mais uma alerta, um chamado a responsabilidade. A ideia não é dar uma receita de bolo, mas dizer que qualquer nova forma de democracia precisa partir do reconhecimento de que a gente já vive nesse mundo digital. Certo. Não dá mais para fingir que o digital é só uma ferramenta. Ele propõe que essa nova forma precisa ser uma co-criação contínua e consciente da realidade social. É uma ideia bem profunda e sinceramente eu nem sei por onde a gente começaria a construir. É uma louca de um mundo onde o mapa criou território. Vimos como isso nos transforma em perfis que precisam ser otimizados, como fragmenta a sociedade em bolhas que não se falam, e como transforma a política num jogo de simulações. E terminamos com esse desafio gigantesco no colo, como repensar a vida incomum a democracia, num mundo onde a própria realidade é gerada por modelos de A. Acho que o Silvo Meira não nos dá uma resposta pronta, mas ele nos força fazer a pergunta certa. Sem dúvida. E talvez essa seja função mais importante de um cientista nesse momento, né? Com certeza. E isso me deixa com uma última reflexão aqui para quem está ouvindo a gente e que volta lá pro começo na ideia do indivíduo. Se a nossa realidade é cada vez mais uma co-criação com os algoritmos, como é que a gente carante que a nossa humanidade, com as nossas falhas, nossas contradições, nossas pontanidades, continue fazendo parte da equação? O que acontece quando a versão otimizada de nós mesmos, aquela sugerida pela IA, se torna mais conveniente, mais bem sucedida, e, no fim das contas, mais real do que quem nós realmente somos.