Go back

Pareces peligroso: el uso de la IA y las policías de América Latina

32m 8s

Pareces peligroso: el uso de la IA y las policías de América Latina

La transcripción analiza la creciente implementación de inteligencia artificial, específicamente policía predictiva y reconocimiento facial, en los cuerpos policiales de América Latina. Inspirados por la ficción de "Minority Report" y ejemplos globales, países como Chile, Uruguay, Argentina y Colombia están adoptando estas tecnologías con la promesa de mejorar la eficiencia y la seguridad pública. Sin embargo, el reportaje expone graves riesgos y fallas. Los sistemas suelen tener sesgos algorítmicos, como se vio en Detroit donde un hombre afroamericano fue arrestado erróneamente, y promueven una vigilancia masiva que invade la privacidad. Los casos de Chile y Uruguay muestran una falta de transparencia en su funcionamiento, una regulación legal casi inexistente —especialmente en cuanto a la validez de la prueba digital— y una cultura de secretismo dentro de las instituciones policiales. A pesar de que se desarrollan estrategias nacionales de IA, la conclusión es que la tecnología avanza más rápido que su marco ético y legal, generando un panorama donde el control social se intensifica sin las garantías necesarias para proteger los derechos ciudadanos.

Transcription

4892 Words, 29776 Characters

Spanish
Tal vez se acuerdan de la película Minority Report o Sentencia Previa, salió en 2002 y la dirigió Steven Spielberg. La trama sobre un departamento de policía que logra detener los crímenes antes de que ocurran. Más de 20 años después de su estreno, países como Estados Unidos, China o países bajos están usando un tipo de tecnología que se conoce como policía predictiva, potenciada con inteligencia artificial. Y poco a poco, está llegando a América Latina. A la videobigilancia que ya tenemos hace años en la Policía Nacional, sumarle la inteligencia artificial que nos deteste mediante el estudio de los patrones de conducta de los delincuentes. Esta es una autoridad de la Policía de Uruguay en septiembre de 2024. A inteligencia artificial se le pidió que nos disparara alertas previo a consumar el acto delictivo y durante el consumo de dicho acto. En los últimos años, los gobiernos de diferentes países latinoamericanos incorporaron o empezaron a prepararse para integrar la inteligencia artificial a su policía para combatir el crimen. Pasó en Chile. Es un sistema que permite mediante la inteligencia artificial poder alertar de situaciones muy particular que están sucediendo los parres de los vecinos de la esconde y que va a ser argentina. En el boletín oficial que Patricia Uruguay había firmado una resolución en la que anunció la creación de esta unidad de inteligencia artificial aplicada a la seguridad para detectar su policía. Y en Colombia. Depedido al ejército y a la policía que creen las facultades al interior de las escuelas militares que tengan que ver precisamente con las apiencias alrededor de la inteligencia artificial. En todos los casos se ofrece una idea de eficiencia como si la tecnología pudiera por sí misma mejorar la seguridad pública. Pero las experiencias de Estados Unidos y Europa nos dejan más preguntas que respuestas y algunas advertencias. Muchos distritos pobres pueden terminar siendo sobrevigilados porque el modelo predice que las tasas de criminalidad serán más altas allí. El reconocimiento facial lo identificó como el sospechoso, incluso la propia víctima le dijo la policía que no era él. Bienvenidos a El Hilo, un podcast de rado mular de estudios. Soy Silvia Víneas. ¿Y yo soy Elia Serbuda-Só? Hoy, como a América Latina, una región asolada por la violencia, interra la inteligencia artificial a sus servicios de policía. Y cuáles son los riesgos cuando esa tecnología se usa con poca transparencia y llega más rápido que su regulación. Es 21 de febrero de 2025. Una pausa y volvemos. Vamos de vuelta en el hilo. Nuestro verificador de datos, Bruno Celsa, viene siendo de cerca los impactos del boom de la inteligencia artificial en América Latina. A ser unos meses, quiso conocer qué tipos de inteligencia artificial ya están usando las fuerzas de seguridad en nuestra región. Vamos a empezar con Chile, porque fue uno de los primeros países en apoyarse en la tecnología para el trabajo de vigilancia policial. Y un escó lo considera un país a la vanguardia en políticas para un uso responsable de la inteligencia artificial. Sus experiencia tiene que ver con algo que vemos todos los días en las calles, en todos lados y cada vez más. Las cámaras de seguridad. Bruno nos sigue contando. Chile empezó a instalar cámaras de vigilancia a mediados de la década del 90. Después, en 2018, empezó a incorporar tecnologías de inteligencia artificial a sus sistemas de seguridad como el reconocimiento facial en centros comerciales y otros espacios públicos. Y que se ha unido a la tendencia por poner más tecnología del vídeo vigilancia, sea no solamente a través de cámara fija, sino también a través de drones o de globos. Él es Juan Carlos Lara, co-director ejecutivo de la Organización de Hechos Digitales. Me dijo que además de esta vigilancia por cámaras y drones, la policía chilena lleva unos años usando tecnologías de predicción policial. Esto es tecnología que mediante información con la que cuenta que la denuncia de delitos sociatos lugares comienzan a priorizar el despiego de policías en las calles para tratar de prevenir delito dentro de los espacios que se reconocen como hacer el siglo. Entonces, reconocimiento facial y policía predictiva. Juan Carlos me explicó que la mayoría de estas nuevas tecnologías están en zonas urbanas, más que nada en Santiago, la capital y en común acerca del centro. Los programas piloto empezaron a ser casi una década y en 2023 el Ministerio de Seguridad presentó el plan de patrullaje preventivo inteligente. Para 24 63 de las más de 300 comunes del país estaban incluidas en este plan. El sistema usa la inteligencia artificial para identificar zonas más propensas a tener más delitos y tras hacer rutas de patrullaje basadas en esa información. El caso de Chile es particular porque a diferencia del resto de la región que suele usar tecnologías de Estados Unidos, China y Europa, la policía colaboró con universidades locales para crear este sistema. Además, entendiendo que desarrollo de estos fue llevados adelante por universidades locales son un costo considerablemente menor que el de tratar de comprar tecnología extranjera. Así que era visto desde esa perspectiva como un intento de modernización desde el esfuerzo nacional más que traer hasta acá tecnología forán. Lo cual suena como algo positivo. Más adelante vamos a hablar sobre qué implica que la tecnología venga de otros países. Pero jongar los resaltas que si estas tecnologías se desarrollan localmente y para eso usan fondos públicos, lo que hacen es financiar conocimiento para vigilar a la sociedad y no para que la gente tenga mayor libertad de movimiento. Chile no es el único país que está usando tecnologías de reconocimiento facial para tratar de mejorar la seguridad pública. Desde hace ya algunos años parece haber un consenso entre los gobiernos de América Latina sobre sus beneficios. Juan Carlos me explicó que para los gobiernos tiene, supuestamente, muchas ventajas aparentes. Cada vez que nos encontramos con un discurso público que habla de reconocimiento facial parece ser básicamente como una tecnología mágica que permite detectar de forma inmediata cuando exista un peligroso delincuente buscado en un lugar público. Obviamente permite reconocer inmediatamente a una persona que acaba de cometer un delito. Pero por supuesto no es así como funciona. La otra ventaja sería que supuestamente con estas tecnologías de reconocimiento facial podríamos darnos cuenta de qué está pasando en tiempo real sin depender solo de qué haya policías en el lugar del delito. Y una de las grandes preocupaciones de seguridad pública que existe hoy está precisamente relacionada con que las policías no hacen su trabajo porque no están ahí. Entonces con todo eso ahí es mucho más fácil para las autoridades, es decir, esta es una ranienta útil y también puede ser mucho más fácil para la gente entender que es una ranienta útil para la seguridad. Sin darse cuenta que está recopirando su información. Juan Carlos me explicó que el reconocimiento facial funciona como un sistema de pesca de arrastre. Cuando con una red los pescadores se llevan a varios pese y animales acuáticos a la vez. O sea, aunque la policía esté buscando alguien específico, todas las personas que pasen delante de una cámara quedan registradas y no se sabe qué datos se les coman. La principal preocupación que existe es una creciente invasión en nuestra vida por parte de la parato público. Es decir, podemos decir que no queremos que el Estado nos esté siguiendo y puede ser que en algún momento las personas reaccionen diciendo que puede ser por mayor seguridad. Pero no se está que no queremos tener un agente del Estado sobre nuestras cabezas ni mucho menos que nos llega un registro de dónde estudiste a cada momento. Y con el reconocimiento facial se crean esos registros todo el tiempo, lo que le da la policía y la capacidad de saber dónde está a una persona en cualquier momento. Y eso es altamente peligroso porque normaliza que todas las personas se las vigilan todo momento solamente por el hecho de salir de la calle. Además, estas tecnologías vienen con cejos desde su fabricación. Una inteligencia artificial es tan buena como los datos que procesa y la forma en que se diseñe ese procesamiento. Y un error de diseño puede convertirse en un cejo. La tecnología de reconocimiento facial es una tecnología que como tal puede fallar. Y es ha sido una de las grandes preocupaciones del mundo de los derechos humanos. Que una persona pueda ser mal identificada o confundida con otras cuando está andando por la calle. Y eso ha pasado en el mundo y se ha identificado incorrectamente una persona y se le ha perseguido judicialmente y condenado incorrectamente. Pasó en 2020 en Detroit, Estados Unidos. La policía arrestó a un hombre afroamericano porque una inteligencia artificial de reconocimiento facial lo señaló como autor de un robo. El hombre era inocente pero la inteligencia artificial había sido entrenada mayormente con rostros blancos. Ese mismo año se supo que más de 26.000 familias en países bajos, la mayoría de origen migrantes perdieron ayuda sociales porque una inteligencia artificial la señalaba como propensas a esta fara al Estado. Cuando se descubrió el cejo del sistema, el primer ministro renunció y el software fue declarado ilegal. Y el problema del cejo es que no solamente identifica mal a individuos sino que identifica mal a grupos de individuos. Personas negras, personas de test ligeramente más oscura. Es muy probable que una tecnología de inteligencia artificial. de la inteligencia artificial de reconocimiento facial que ha sido entrenada para reconocer a personas blancas se equivoque seriamente con personas negras. Según Juan Carlos esto trae un par de consecuencias. La primera es que si una inteligencia artificial se equivoca con sesgostán discriminatorios se vuelve un peligro para cualquier persona racializada. Pero también una segunda consecuencia que creo que no deberíamos olvidar por cuando estamos hablando de los áxitos. Si esta tecnología llega a ser perfectamente operativa, si finalmente es tan exitosa que ya no tenemos que preocuparnos del sesco o la discriminación, sigue siendo una tecnología tan potente y tan invasiva que no importa que no se termine o no piscrimine. Si eliminan los áxicos, no dejan ser peligrosa y no podemos quedarnos en la superación de los sescos o pedirle una mayor precisión técnica a una vigilancia que debería ser imaseptable para todos. Después de la pausa vamos a Uruguay que creó un ecosistema de vigilancia policial con tecnología y ahora intenta regular la inteligencia artificial. Se abuelvemos. ¿Estamos de vuelta en el hilo? Si bien Uruguay ha tenido una baja en las cifras oficiales de delitos durante los últimos años siguen siendo números altos y se destacan porque son muy violentos. Irumpieron en las canchas tres hombres armados y comenzaron a disparar contra un hombre que esperaba para jugar un partido de fútbol 7. El joven de 22 años estaba yendo en el almacén con su hija de dos años en brazos cuando dos hombres que pasaron en moto efectuaron una ráfaga de disparos. El primero de marzo en Uruguay asumirá un nuevo presidente, Yamando Orsi, del frente amplio. El partido de Centro izquierda volverá al gobierno luego de cinco años de presidencia de Luis Lacalle Pau. La seguridad pública fonte más central en la campaña de Orsi. El objetivo de la seguridad debe ser el de recuperar, recuperar el espacio que no se controla, recuperar la tranquilidad de los barrios, recuperar la paz social, recuperar la confianza. En 2024 en Uruguay hubo más de 10 homicidios por cada 100.000 habitantes, más que en países de la región como Chile, Perú y Argentina. De la última década, las posibles soluciones a la inseguridad de Uruguay suelen venir con propuestas de nueva tecnología. Recuerdo la primera vez que vi una noticia que me llamó la atención relacionada con incorporación de tecnología para vigilancia automatizada por parte del ministerio del interior, fue por el 2015, se puede ser que haya… Ella es Patricia Díaz, es abogada especializada en derechos digitales y coordina el laboratorio de datos y su ciudad, Datisock. Mi semana de atención está a tecnología de esa madrugada, Peret Pol, que no se estima ha pasado un algoritmo de inteligencia artificial, que recomendaba la policía donde desplegar los recursos y patrullaje, lo que hacía de analizar la información que tenía disponible en la policía y marcar son arrojas básicamente. Son arrojas, es decir, lugares donde potencialmente ocurren más delitos. El ministerio del interior uruguayo, usó Peret Pol, entre 2014 y 2017, con la promesa de predecir donde se cometerían delitos. Pero se dejó de usar porque una investigación demostró que había pocas diferencias entre el mapeo que hacían los policías, pasados en su experiencia y los resultados de Peret Pol. En cuestiones relacionadas con barrios pobres o marginales, en cuestión de eficiencia era bajísima. Pero esto es una muestra, una muestra de… bueno, como es la dinámica y vamos a experimentar. El ministerio del interior uruguayo siguió incorporando tecnología, compró un sistema para intervenir comunicaciones, un software de reconocimiento facial, uno que busca conexiones entre usuarios en redes sociales, otro que detecta disparos y el más reciente el que presentaron en septiembre de 2024. Es un software de análisis de movimiento basado en inteligencia artificial que detecta teóricamente conductas delictivas. El movimiento de personas en la via pública, porque se supone que se supone que se supone la asociado de las cámaras de videobigilancia, que son miles. Según el ministerio del interior, hasta agosto de 2024, había 12 mil cámaras instaladas en todo el país. Eso es una cámara cada 291 personas. La mitad está en la capital, ante video, y unas 2 mil tienen este nuevo sistema. Funciona así, la inteligencia artificial detecta supuestos patrones de conducta, cuando alguien pasa adelante de las cámaras. Envía una alerta y quienes monitorean las imágenes deciden si pedir policías en la zona o no. Y ahora vamos a ver, nos sorpreuntamos muchas preguntas sobre cómo funciona cuál es el alcance y la eficiencia y la respuesta es no podemos contestarte por parte del ministerio del interior, que este último software es realmente una intriga de qué hace y cuáles son las consecuencias de hacer determinados movimientos en determinados barrios. Aunque no sabemos, qué es lo que detecta y cómo funciona. Patricia dice que el ministerio del interior uruguayo creó unico sistema de vigilancia que tiene varios problemas. El principal es el trazado de líneas rojas. Qué es lo que no debería hacer? O sea, qué límites le ponen a la policía para usar tecnologías, especialmente las de inteligencia artificial, pero para poner esos límites, se necesita regulación. En Uruguay estamos a Fogacero. Fogacero en el sentido de que no sólo no tenemos regulada el uso de la inteligencia artificial con fines de vigilancia policial, sino que tampoco tenemos ninguna normativa relacionada con prueba digital. La prueba digital es la información que se produce, se guarda o se transmite en medios electrónicos y se usa en un proceso judicial. Puede ser, desde los datos de una foto que tomaste con tu celular, a la información que recoge una cámara con reconocimiento facial. En Uruguay hay leyes sobre los documentos digitales, pero nada que dejen claro qué puede ser tomado como prueba digital y qué no. En el código del proceso penal Uruguayo no hay menciones a la prueba digital, aunque según patricia es muy probable que se vaya a usar en juicios. Tenemos que entender si es admisible o no en juicio, y cómo un juicio puede valorar la prueba que surja de un sistema automatizado de tección de movimiento, un machbométrico, técnicas de cyberpatrullaje y análisis de relación de personas en internet. No tenemos regulado la vigilancia. La prueba digital y no tenemos formados a los actores del sistema jurídico. Es un tres problemas que vienen en el mismo paquete y que tendríamos que estar poniéndonos urgente a trabajar. Este año los legisladores Uruguayos tienen información para empezar a trabajar. La fina de 2024 se aprobó una estrategia nacional de inteligencia artificial para que se aplique en el estado uruguayo hasta el 2030. El laboratorio de ATISOC, donde trabaja patricia, participó en el desarrollo de esta política con aporte sobre seguridad. Aunque la estrategia no tiene un apartado de seguridad pública porque fue muy difícil llegar a un acuerdo en este tema, sí propone acciones inmediatas para equilibrar los avances en el uso de guía en la seguridad pública y el impacto que pueda tener en los derechos de las personas. Pero patricia ve que hay un problema más grande que es independiente de las regulaciones. ¿Cómo se maneja la transparencia en la policía uruguaya? No importa el color del gobierno en el que estemos. Existe un problema de cultura institucional de secretismo a nivel ministerio del interior que no se ha solucionado con cambio de gobierno, cambio de partido. ¿Qué tal es la cultura si ha reingada? Patricia me explicó que ATISOC te mandó al Ministerio del Interior dos veces y ganó en ambos casos para que entregue información que habían declarado reservada sobre cómo y para que se usan algunas tecnologías que tienen la policía. Con el nuevo sistema de policía predictiva también está faltando información. Cuando hablamos del funcionamiento del software de análisis, estamos haciendo explicación pura a VISO, porque en ningún momento se explicó cómo funciona el software. Solo se explicó que levantando las manos se pide auxilio, se supone que hay que mirar las cámaras y levantar las manos. Pero detectan acciones como estar vigilar a una víctima o acciones de violencia. La cuestión es que cómo se podría manejar y ahí estamos en el campo hipotético. En el caso de una persona que tiene epilepsia o que estaba hilando, y las personas no están enteradas de cómo funciona el software y tampoco de cuéles son las consecuencias. El ciudadano tiene que saber cómo va a reaccionar la policía ante una alerta que se sofre. Nada de eso se sabe, lo único que tenemos es propagando pura. Y según Patricia, ese va a ser uno de los grandes desafíos en seguridad para el gobierno uruguayo que entra, porque implica cambiar la cultura de la misma policía y el Ministerio del Interior. Va a llevar tiempo un cambio en el sentido de transformar la cultura institucional de secretismo y de resistencia a la rendición de cuentas que tiene la policía. De cualquier manera nosotros nos vamos a acercar a las autoridades en este nuevo gobierno. Con otra mirada, ¿por qué? Eso teníamos informes porque es. ya tenemos, este tema no es un tema que haya pasado bajo el radar, este tema de la vigilancia automatizada es trendy a nivel mundo y a nivel nacional salieron muchas alarmas. Entonces, insisto, no tiene que ver con quién es en el gobierno, sino que han sucedido cosas y que deberíamos estar en un momento en el que se han nos en necesitan más alarmas, necesitamos movarnos hacia una regulación y creo que tenemos los antecedentes como para poder empezar a trabajar el tema de la mirada de regulatorio. Después de la pausa, cómo avanza la regulación de estas tecnologías en el resto de la región, se abulvemos. Estamos de vuelta en el hilo, ya conocimos los casos de Chile y Uruguay, pero la inteligencia artificial en la policía es un cambio que está llegando poco a poco a toda la región con diferentes niveles de regulación. El año pasado, Argentina creó una unidad de inteligencia artificial aplicada a la seguridad. En Paraguay, la policía empezó a probarla en estadios de fútbol. En ciudad de México se está usando para detectar actividades delictivas en internet y en el control del tránsito. Mientras tanto, el presidente del Salvador, Nellipukele, designó como asesor en inteligencia artificial a un empresario estadounidense, e inició conversaciones con China por el uso que le dan el aía en la seguridad pública. De nuevo, Juan Carlos Lara. Hemos llevado delante 10 casos de estudio en distintos países de la región para ver casos como los de chatfots o de entregada de ayudas estatales o de despliegue de policía predictiva también. La organización que dirige lideró un proyecto para estudiar cómo se implementó la inteligencia artificial en los gobiernos de Chile, Argentina, Colombia, Paraguay, México, Brasil y Uruguay. Juan Carlos dice que aunque los casos son diferentes particulares a cada país, hay varios aspectos en común, como la falta de transparencia a lo que nos mencionaba patrisa sobre Uruguay y también han encontrado que, usualmente, no se consulta a las personas que trabajan en áreas dedicadas a proteger datos personales como las autoridades de los registros civiles. Obien una falta completa de discusión o de análisis previos de impacto en derechos humanos y también es muy difícil encontrar allí que existe algún mecanismo de reglabo dedicado especialmente a esas tecnologías. Las tecnologías de inteligencia artificial en la región avanzan porque no hay leses que las regulan o simplemente se ignoran esas leyes. Es un poco de poder ser rápido de romper cosas. El avance en su implementación tiene hacer un proceso muchísimo más rápido, muchísimo menos sujeto a controles y muchísimo más implementado con digno de orancia incluso de la población. Porque según dice Juan Carlos, se vea la tecnología como una solución del futuro. Es como darle a entender a la población que la policía trabaja con las mejores herramientas, aunque no lo sean. Aún si no son necesariamente útiles para su propósito o si tienden a barrer por un montón de preocupaciones legítimas, sobre derechos fundamentales, sobre participación pública o incluso sobre la democracia. Además, recordemos que la mayoría de los países de la región importan estas tecnologías y ahí la transparencia se vuelve un problema mayor. Yo creo que eso tiene que ver también con el contexto en el que recibimos la tecnología. Él es Juan Diego Castaneda, co-director de la Fundación Carisma de Colombia. A diferencia de lo que puede estar pasando en Estados Unidos, en China o en Europa, cuando los desarrollos son locales, hay también una posibilidad mayor de escrutinio mientras que lo que recibimos en sus países muchas veces, una herramienta que se desarrolla en otro lugar a través de un proveo de un intermediario. Cuando la tecnología viene del extranjero, los países no reciben tanta información. No saben cómo se construyó ese servicio, cómo lo entrenaron, qué líneas rojas tuvieron en cuenta y no pueden hacerle cambios. Al sector privado, qué reventes, soluciones tecnológicas para seguridad también le conviene que la tecnología se presente con un actor barco. Juan Diego recordó que durante las protestas en Colombia en 2021, el Ministerio de Defensa usó inteligencia artificial para recopilar información en redes sociales de los manifestantes. Luego, la fiscalía la usó para llevarlos a la justicia. En Colombia, tradicionalmente la protesta, la manifestación pacífica han sido estigmatizadas y por eso mismo en la perspectiva con la cual se incorpora tecnología en el trabajo de seguridad, es una perspectiva de criminalizar, de atacar más que de negociar, más que de efectivamente concentrarse en cosas que hay un consenso sobre qué es, qué puede ser delictivo criminal, qué puede ser Daniel para la sociedad. Entonces, la forma en la que se contratan las tecnologías, digamos, los manuales técnicos con los que vienen estas tecnologías, los opulicos, nosotros no conocimos solamente los procesos por los cuales llegará a tomar esa decisión. En la región hay algunos proyectos que buscan que la inteligencia artificial se use con responsabilidad. Esta es la estrategia de guía de Uruguay que mencionamos a su momento. Chile tiene una política nacional de inteligencia artificial y el año pasado se presentó un proyecto de regulación. Y también se está trabajando en algo similar en el Congreso de Colombia, pero uno de los casos más relevantes es el de Brasil. Oplema de uranado aprobó una estatel safero más cogeculatuario para uso de inteligencia artificial en infraestructuras de agua o electricidad, control fronterizo, administración de justicia, sistemas biométricos de identificación y otros, son considerados de riesgo alto y serán objeto de mayores crutinio antes de ser autorizados. En diciembre de 2024 el proyecto de ley fue aprobado en el Senado y pasó a diputados, propone crear una institución que se dedique a regular la inteligencia artificial y establece niveles de riesgo para diferentes usos de la tecnología en temas de seguridad. Está inspirado en la regulación de la Unión Europea. La Unión Europea ya está lista para implementar su nueva ley de inteligencia artificial, es considerada como la ley de y a más completa del mundo. Sus creadores dicen que el enfoque está en proteger a los usuarios. Se aprobó en 2024 y este año empieza a implementarse de forma parcial. Lo más importante es que establece cuatro niveles de riesgo. El nivel 1 es de riesgo mínimo y en el nivel 2 están las aplicaciones que tienen que cumplir con rey las de transparencia, por ejemplo los chatbots como chat GPT o deep seek. El nivel 3 es de alto riesgo y exige una regulación clara y estricta porque es el que abarca los servicios públicos desde la administración hasta la justicia. Por último, en el nivel 4 directamente se prohiben algunos usos de la inteligencia artificial, por ejemplo que la policía identifica personas por biometría, o sea el escaneo de retinas, iris y otros rasgos físicos. También prohíbe que la policía useía para predecir el riesgo de que alguien cometa una infracción. Esa regulación la de mayor riesgo es la que entró en vijencia este año. El panorama de regulación ha cambiado poco desde la subida de Trump al gobierno de los Estados Unidos, porque llevó todo el problema regulatorio al problema de competencia. De nuevo, Juan Diego Castañeda de la Fundación Carisma me explicó que Trump decidió priorizar que las empresas compitan por el desarrollo de la IA dejando del lado de las regulaciones. Acompañado de las cabezas de las grandes empresas de tecnología en el mundo, pues claramente con un mensaje de desregulación, que es no hacer nada desde el estado y permitir que las empresas sacan lo que consiguienes, que ven hacer, de acuerdo a las presiones y intereses que reciben. Una de las primeras medidas que anunció Trump fue una inversión privada de 500 millones de dólares para desarrollar infraestructura de inteligencia artificial a través de Stargate, una compañía creada por OpenAi, Oracle y la japonesa Softbank. En la cumbre de acción sobre inteligencia artificial, que se hizo a principios de febrero en París, quedaron claras las diferencias sobre el futuro de la industria. Mientras los países de la Unión Europea se posicionaron a favor de una mejor regulación que priorice la ética y la sostenibilidad, Estados Unidos estaba en la otra vereda. Este es el vicepresidente estadounidense James David Bans durante la cumbre. Bans dijo que el gobierno de Trump está preocupado porque algunos países extranjeros están considerando apretar las tuarcas a las empresas tecnológicas de Estado. Y que Estados Unidos no lo aceptará porque cree que es un error. Bans también dijo que una regulación excesiva de la IA podría matar a una industria en pleno crecimiento. Más de 60 países participaron de la cumbre de París, que reunió a gobiernos, organizaciones de la sociedad civil, académicos y empresas. Trataron 5 temas principales. En interés público, el futuro del trabajo, innovación en cultura, la confianza en la IA y la Gobernanza Mundial. Al cierre de la cumbre presentaron una declaración pidiendo que el desarrollo de la inteligencia artificial sea abierto, inclusivo, ético y sostenible. También piden evitar que el mercado de la IA esté concentrado en unos pocos participantes. Los países que hemos mencionado en este episodio, Chile, Uruguay, Colombia y Brasil firmaron a la U.S. la declaración. México también. Estados Unidos y el Reino Unido no firmaron. Este episodio fue producido por mí, Bruno Celsa. Lo evitaron Silvia, El Yeser y Daniela Garcon. Deciré jepes y su la verificación de datos. El diseño de sonido es de Andrés a Esaspir, con música de días González y Andrés. Agradecemos a Inés Busman y el programa de Tutoria informar sobre la ética de la IA y los derechos digitales de la Tomson Royal Tales Foundation. También amaticarme el sequera y laura Hernández por su ayuda en este episodio para comprender la región. El resto del equipo de hilo incluye a Daniela Cruzat, Mariana Súñiga, Náusica Paloméque, Samantha Provaño, Paola Aleán, Camilo Jiménez Santofimio, Juan David Naranjo Navarro, Elsa Lindiana Ullóa y Natalia Ramirez. Daniela Garcon es nuestro director editorial. Carolina Guerrero es la CEO de Radioambulantes Tudios. Nuestro tema musical lo compuso pauchiza Saki. El hilo son podcas de radioambulantes tudios. Si valoras el periodismo independiente y riguroso, te pedimos que te u unas a nuestras membresías. América Latina es una región compleja y nuestro periodismo necesita de oyentes como tú. Visita el hilo.audio/donar y ayudan con una donación. Si quieres abrir el hilo para informarte en profundidad sobre los temas de cada episodio y enterarte de las noticias relevantes de América Latina y la comunidad de España en Estados Unidos, pude suscribirte a nuestro boletín de correo entrando el hilo.audio/voletín. Lo enviamos cada viernes. También puede seguirnos en nuestras redes sociales. Estamos en Instagram, X, Blue Sky, Facebook y threads. Nos encuentras como @elilopodcas. Déjanos a los comentarios y etiquétanos cuando compartas los hemisodios. Gracias por escuchar.

Podcast Summary

Key Points:

  1. La policía predictiva y el reconocimiento facial, potenciados por IA, se están implementando en América Latina para combatir el crimen, siguiendo ejemplos de EE.UU., China y Europa.
  2. Estas tecnologías plantean riesgos significativos
  3. Casos de estudio en Chile y Uruguay ilustran la adopción rápida, pero destacan problemas de eficacia dudosa, secretismo institucional y la necesidad urgente de regular la prueba digital y el uso de la IA en seguridad.

Summary:

La transcripción analiza la creciente implementación de inteligencia artificial, específicamente policía predictiva y reconocimiento facial, en los cuerpos policiales de América Latina. Inspirados por la ficción de "Minority Report" y ejemplos globales, países como Chile, Uruguay, Argentina y Colombia están adoptando estas tecnologías con la promesa de mejorar la eficiencia y la seguridad pública. Sin embargo, el reportaje expone graves riesgos y fallas.

Los sistemas suelen tener sesgos algorítmicos, como se vio en Detroit donde un hombre afroamericano fue arrestado erróneamente, y promueven una vigilancia masiva que invade la privacidad. Los casos de Chile y Uruguay muestran una falta de transparencia en su funcionamiento, una regulación legal casi inexistente —especialmente en cuanto a la validez de la prueba digital— y una cultura de secretismo dentro de las instituciones policiales. A pesar de que se desarrollan estrategias nacionales de IA, la conclusión es que la tecnología avanza más rápido que su marco ético y legal, generando un panorama donde el control social se intensifica sin las garantías necesarias para proteger los derechos ciudadanos.

FAQs

La policía predictiva es una tecnología que utiliza inteligencia artificial para anticipar crímenes antes de que ocurran, similar al concepto presentado en la película 'Minority Report' de 2002. Actualmente, países como Estados Unidos, China y varios latinoamericanos están implementando estos sistemas.

Chile, Uruguay, Argentina, Colombia, Paraguay, México y El Salvador están incorporando o preparándose para integrar inteligencia artificial en sus servicios policiales. Cada país lo hace con diferentes enfoques y niveles de regulación.

El reconocimiento facial puede cometer errores de identificación, especialmente con personas racializadas, y crea registros constantes de la ubicación de ciudadanos inocentes. Además, normaliza la vigilancia masiva y puede llevar a la discriminación de grupos vulnerables.

Uruguay carece de regulación sobre inteligencia artificial en vigilancia policial, prueba digital y transparencia institucional. Su nuevo sistema de análisis de movimiento opera sin explicaciones públicas sobre cómo funciona o qué consecuencias tienen sus alertas.

Chile desarrolló localmente un sistema que usa IA para identificar zonas propensas a delitos y crear rutas de patrullaje basadas en esa información. A diferencia de otros países, colaboró con universidades locales en lugar de importar tecnología extranjera.

El sesgo algorítmico ocurre cuando la inteligencia artificial se entrena principalmente con datos de ciertos grupos, como ocurrió en Detroit donde un sistema entrenado con rostros blancos identificó erróneamente a un hombre afroamericano. Esto puede llevar a persecuciones injustas y discriminación sistémica.

Chat with AI

Loading...

Pro features

Go deeper with this episode

Unlock creator-grade tools that turn any transcript into show notes and subtitle files.