AD #44 (bônus) - Biometria facial além do acesso: direitos, racismo e deepfake com Luiza Dutra (IRIS)

[Música] Bom, e para não ficarmos aqui na especulação, a gente conversa agora com a Luisa Dutre, especialista do IRIS, que é o Instituto de Referência Internets Sociedade, para falar um pouco mais sobre algumas características da biometria e em específica facial. Muito obrigado, e você pode explicar um pouquinho o que é o IRIS, para quem nunca ouviu falar? Claro, muito obrigada, Vílora e por nós, tu tem nos convidado. Bom, IRIS é o Instituto da Sociedade Civil. Eu te completou seus 10 anos já, e a gente trabalha com temas da internet, que envolve a internet e a sociedade nas suas diferentes áreas com a ideia de produzir conhecimento, produzir debate, de forma acessível, que seja um debate democrático para trazer, de formentar a construção de políticas públicas nessas áreas que a gente trabalha, como forma de defender os direitos humanos. Defeito, quais são as vantagens e riscos da biometria facial? Você consegue ali estar para a gente? Essa sensação de que ela está substituindo, outras formas de biometria como digital, é real ou é só uma impressão do momento? Bom, já biometria facial está ganhando espaço gigantesco em várias áreas da sociedade, né? Então, o deza área de segurança pública, o que a gente já falou de acesso em condomínios também, né? Então, a gente, para andar num lugar que a gente mora às vezes a gente tem que botar o nosso rosto ali, para assim reconhecido e entrar, e justamente que ela traz essa promessa extremamente sedutora de mais segurança, e mais praticidade, né? Então, a ideia de que eu chego ali, boto meu rosto e entro, me dava uma sensação de segurança aqui, né? Então, eu não preciso mais carregar a chave, por exemplo, entrar na minha casa, cartão, ou lembrar qualquer tipo de senha, por exemplo, no próprio aplicativo do banco, né? Quando a gente está no celular na mão, né? Mas existe, eu acho que, apesar da gente associar enquanto sociedade, a tecnologia, mais avançada, né? Cê nem meu Deus, de lei a biometria, a mais segurança, e isso a gente tem que saber que isso não é sempre verdade, tá? Então, quando a gente fala de biometria facial, a primeira coisa que a gente tem que lembrar, a gente está falando de uma coleta de um dado extremamente sensível, né? Que o meu rosto, eu tenho o rosto. Cada um tem o seu rosto diferente, que é ser eu e tem as características únicas, e que é nossa. Se eu usar uma senha ela pasar, né? Eu crie outra senha, se eu perder uma chave, eu faço outra chave. Se um cartão é roubado, eu cancê-lo, meu cartão, mas eu não posso trocar o meu rosto, né? Então, ele é considerado um dado extremamente sensível, esse é um dado sobre as postas ou utilizados indevidamente. É um perigo absurdo, né? Muitos desses usos, assim, né? Por exemplo, em condomínios, né? Para entrar, a gente não tem enquanto se dá dão informações nítidas específicas sobre quem, como é que esses dados estão sendo armazenados por quem, aonde, por quanto tempo, quais são as empresas, né? E quais são as medidas de segurança dotadas. Mas eu não tenho nítides da forma como esse dado está sendo utilizado o armazenado, ele pode ser usado para outros fins que não esse, e aí vai totalmente contra a própria lei, né? Por exemplo, o armazenamento do meu rosto, né? Da biometria facial, tenho que a gente está falando. E a gente começa a usar essa biometria facial, né? Ela está num banco de dados, mas ela começa a ser usada para outros fins, por exemplo. Esse dado pode ser usado para vigiar os meus passos ao vigial que eu, o determinado da pessoa, está fazendo, porque no momento que, por exemplo, a tendência é que se vigi determinada população dentro do Brasil, né? Então, uma população x está sendo mais vigiada na área de segurança, por exemplo. E as instituições de segurança têm acesso a esse dado, da biometria, né? Coletada para outros fins que não esse, mas pega para esse fim, a gente pode expandir a gama de vigilância, né? Porque, daí, eu tenho o dado da pessoa, eu consigo enxergar, por exemplo, a partir das câmeras nas ruas, aonde essa pessoa identifica onde essa pessoa está, onde essa pessoa foi, ou que, enfim, então, o medo é expansão de uma vigilância indevida, né? A pessoa nem sabe que os dados estão sendo usados para isso, e as pessoas, e aí, as instituições que, teoricamente, seriam de segurança, estão usando isso, indevidamente, para vigiar, para fazer essa vigilância. Com a IAA, está automatizando tudo. Por exemplo, a IAA vai começar a monitorar todo mundo. Ela vai monitorar todo mundo igualmente, ou parece que existe algum tipo de foco, alguma abordagem específica. Sempre quando a gente está falando de Brasil, isso é escamente, né? E a gente está falando de qualquer debate sensível, ou qualquer debate, mas especialmente esses debates sensíveis que envolvem dados sensíveis das pessoas, a gente tem que saber que essa vigilância, por exemplo, esse uso indevido de dados, ele normalmente acontece com uma parte específica da população, que é a população preta, né? A gente está falando sobre uma população específica, né? E, em Brasil, ele é erguido, né? Ele é construído a partir de uma dimensão racializada, né? Então, a gente tem um racismo que é tipo uma elarquia, né? Racial. Então, quem está no topo, é quem tem mais direitos, quem é menos vigado, tem atendência, a circular e a viver, é um pouco mais tranquilo, e quem está embaixo, nessa era a população preta, a população que tem uma atendência maior, a ser vigiada, a ser punida, e isso a gente pode ver, por exemplo, na área de segurança pública, os dados de letaridade policial, né? Então, a população preta, independente dos tecnologias, já é mais visada pelas instituições de segurança pública, né, pela instituição do policial, por exemplo, né? E, ao longo do tempo, a gente, quando a sociedade é a instituição policial, porque, enfim, quando a gente está falando de sociedade, a gente está falando de isso, a gente construiu imaginário que a sociedade é terminado os corpos, né? E aí, falando em corpos pretos, a ideia de criminalidade, a ideia de suspensão, a ideia de que merece ser vigiado, né? Precisa ser vigiado. Então, quando a gente coloca tecnologias de vigilância, por exemplo, né, aqui vamos usar esses dados, aí, enfim, tudo isso, quando são implementados nesse contexto, elas não vão operar num vazio, né? Então, elas vão reproduzir muitas e muitas vezes essas formas de atuação já direcionadas para esse grupo, né? E vão reforçar a desigualdade sociais mais e mais, né? Então, e é só a gente ver, por exemplo, reconhecimento facial, as taxas de erro de segurança pública, são muito maiores, né, quando a gente está olhando para pessoas pretas, né? E não é assim falhou, falhou, porque tem todo por trás essa história de constituição e de ações que o Brasil, né, na área de segurança, gera e vem a reproduzir ao longo dos anos. E agora, pra gente se proteger disso, em essa luta, o que a gente pode fazer? Quanto sociedade contra um indivíduo? Depende da onde a gente está falando da área da sociedade, né? Porque isso, reconhecimento a biométria e facial, está sendo usada em diferentes espaços, né? Eu acho, por exemplo, a gente começou com a conversa do condomínio, né? E eu acho que, por exemplo, a gente tem que saber que a gente não obrigatoriamente precisa dar o nosso rosto para entrar num condomínio, né? E, na mais, a gente não tem nenhuma explicação de como é que vai ser usado a. Onde é que vai ficar imaginada coleta, né, da biométria do meu rosto, né? Então, eu acho que saber que a gente tem um direito de saber de que forma vai ser utilizado, porque vai ser utilizado com a finalidade dessa coleta, né? Tem um documento me explicando isso. É extremamente importante. Eu acho que, então, o primeiro, saber os direitos é algo extremamente importante quando a gente está falando sobre coleta de biométria, né? Enfim. Eu acho que, enquanto a sociedade civil é a questão da gente se unir, né? E saber e atrasse saber quais são os erros cometidos por essas tecnologias, porque a gente tem que, enquanto a sociedade civil se colocar contra o uso dessas tecnologias, por exemplo, reconhecimento facial na segurança pública é um local que. Grande parte da sociedade civil, basicamente, toda é contra, porque é um uso extremamente delicado e que erra muito em relação a essa população preta. Então, eu acho que, no momento que a população sabe que existe esse erro e sabe que a coleta desse das na verdade vai gerar mais desigualdade, tende a vira gerar mais desigualdade, né? Principalmente nessa. na saletividade policial, por exemplo. É uma forma de a gente já se colocar contra. Eu acho que a conscientização é o primeiro ponto, né? A gente entender o que que de fato está acontecendo e não ser seduzido nesse discurso de "vadar mais segurança, vai trazer melhoria", sem a gente entender, sem a gente criticar esse discurso e pensar "tá, mas como assim, vai trazer melhor?" Aonde estamos dados que me mostram? Que isso vai ser melhor ou não? Efeita, a gente está encerrando aqui a nossa conversa mais antes. Eu queria questionar você assim. A gente está conversando aqui numa versão extendida em vídeo gravado, que vai para se tratar de stream, inaudi o somente a voz, né? Estou falando com a Luisa Dutel, sei que eu estou falando com ela e eu sei que ela está falando ela mesmo. Mas vai que uma ia onde não você necessariamente uma pegasse seu exemplo te transforma ali num de fake, cria um rosto que não é o seu. quer dizer, é o seu, mas não é você. E começa a falar uma coisa completamente diferente do que você disse. Tem alguma dica, algum caminho para a gente poder lidar com isso, até porque a gente está chegando em período de eleição onde a interessa edificial, por uma excepada proibida e muitos aspectos ou regulamentada, vai ser usada a torre direito para poder tentar convencer a pessoa independente da verdade. Essa é uma pergunta muito boa, muito interessante. Eu acho que uma pergunta que grande parte da sociedade civil que trabalha com o tema anda se deproçando, né? Porque isso, a possibilidade de disseminação de disinformação, agora em período eleitoral com uns interessa edificial é absurda, né? Eu acho que tem a homicinais sim que a gente pode ver, assim, até o ento para levantar não é um assospéi. a gente tem que lembrar que quando a gente só avós, por exemplo aqui a gente está conversando, tem, assim, pontos em que é uma voz humana conversando, né? Então a gente faz pausa, as natureiras quando a gente está falando, a gente faz aquele "né", a gente faz algumas questões, algumas detalhes que a gente consegue gerar que é um ser humano falando. Então acho que se não é assim a gente nem curar é. Quando a gente não tem a usar isso, é, quando a gente não tem a usar isso dessas pausas naturais, quando a gente não tem essa respiração, né, durante a fala, então que é uma coisa natural também nossa, soms típicos, né, de uma comunicação, uma anem é que uma comunicação falada, a gente está falando, né, uma anem, quando tem intonações muito artificiais ou emoções, parecem muitas agiradas, a tendência é ser mais uma inteligência artificial, isso é tendência, né, do que uma convé, uma convéria que é um ser humano falando, né? E respostas muito rápidas, né, e muito perfeitas, por exemplo, a gente, o ser humano, sem nem a pensar um pouco, né, a gente respondente não é tão robotizada assim, então acho que isso é um ponto de ficar bem até a um, né, inclusive se for conversas por ter isso, também tem isso, né, repetição, destruturas, expressões, respostas muito perfeitas, né, isso é, tem que ter um cuidado, né? E eu acho que na questão do conversa de si vendo assim, tem também a questão dos movimentos faciais, né, quando é pouco natural, quando é muito artificial, né, expressões que parecem mais rígidas, às vezes até a se incronização que não é muito perfeita da voz com o lábio, né, isso é cada vez que é melhor, mas é uma tendência que a gente pode olhar, né, outras ações estranhas, nem partes do rosto, quando a gente tá conversando, né, isso são indícios, não é seriamente, vai ser ou não, mas já são pontos a gente cuidar, né, então é pensar muito, vai ser esse vídeo, tem alguma razão, para eu acreditar que essa informação talvez não seja verdadeira, tipo o que, né, então eu acho que esses são pontos que a gente pode olhar muito e ter um cuidado, né, e também declarações muito polêmicas e atualidades públicas assim, né, uma coisa muito chocante que vai completamente o oposto do que essa autoridade pública, por exemplo, vinha se posicionando, então isso é uma coisa que é interessante cuidar, e claro, tem aplicativos que você consegue ver se a cê entra de gente artificial ou não, eles vence criando aplicativos, né, mas eu ainda acho a melhor questão é se olhar nosso assim um pouco mais apurado para esses pequenos indícios que podem virar ter, né, dos ainda de inteligência artificial. Perfeito, eu acho que eu peguei uma coisa importante que talvez as ias ainda não saibam, ou espero que elas não saibam, que é a questão que o algoritmo não consegue reproduzir a nossa imperfeição humano, né, assim, que é que você falou assim, a respiração, o trejeito, etc, mas tomar aqui isso não seja resolvido pela até a tecnologia, por favor, e eu agradeço, Luiz, pela sua participação, deixe uma aberta, também para você complementar com alguma outra informação, alguma linha que a gente não consegue explorar hoje, mas quem sabe fica com uma pauta, com um próximo episódio do ajudante digital, aí, com bônus e tudo mais. Muito obrigada, Viu lei, eu queria agradecer, agradecer o convite, agradecer essa conversa, daqui eu acho que isso foi importante a gente passar essas dicas rápidas assim para a sociedade civil, né, mesmo que pareçam assim muito genéricas, elas são dicas que é o início para a gente entender o que está sendo, essa situação. Eu acho que a gente sempre tem que lembrar quando a gente está falando de tecnologia digital, especialmente na área de segurança, pública, a gente não deve só se limitar essa pergunta de, se a tecnologia funciona ou não, né, primeiro porque o objetivo da implementação da tecnologia pode ser diferente, isso a gente tem que saber, né, mas a gente tem que lembrar, e sempre se questionar de quem vai se ver, nesse profissiar com uso dessas ferramentas, e quem, na verdade, vai ser colocado mais em risco, né, de uma forma de entrar num sistema mais ainda muito violento com uso dessas ferramentas, né, e enquanto a sociedade civil, eu acho que a gente tem que se colocar um buscar, né, criar mecanismos, se juntar para tentar entender e ter formas de transparente e responsabilização, uso dessas tecnologias, né, se elas são usadas de forma endevida, a gente tem que barrar elas, né, tem que pedir a responsabilização de quem está usando o mal, né, então eu acho que essa é a grande discussão, assim, a grande local para a gente se colocar na minha percepção no momento, assim. Muito obrigado, Luisa, agora a gente vai continuar algumas dicas práticas aí com o nosso programa "Ajudante Digital", valeu, Luisa demais.