El episodio explora la tensión entre la inteligencia artificial y la ética, enfocándose en el "lavado de ética" o "ethics washing" que ocurre cuando empresas tecnológicas abandonan sus compromisos éticos para obtener lucrativos contratos militares. Se analiza el caso de Anthropic y su modelo Claude, utilizado por el Pentágono en operaciones bélicas, lo que genera preocupación por las "alucinaciones" de la IA, errores que en contextos militares podrían costar vidas. Los anfitriones discuten cómo grandes corporaciones como Google, Amazon y Microsoft participan en contratos de defensa, mientras que los gobiernos demoran en regular la tecnología. Se compara esta situación con la evolución de otras tecnologías, como las computadoras personales e internet, que inicialmente prometían democratización pero terminaron dominadas por intereses económicos. También se aborda el avance de China en vehículos autónomos, donde ya se implementan regulaciones como luces azules para identificar autos sin conductor. Finalmente, se menciona la inversión de Eric Schmidt en drones kamikaze y la compensación millonaria de Sundar Pichai, destacando cómo la industria tecnológica sigue priorizando el lucro sobre la ética, mientras la inteligencia artificial se integra cada vez más en áreas sensibles como la defensa y el transporte.
Quío, presenta. Advertencia, este podcast incluye alto contenido tecnológico y puede provocar curiosidad persistente, exceso de ideas y necesidad incontrolable de entender cómo funciona el mundo en la era digital. Dos tegnófagos, humanos probablemente, mastican por tí lo último en innovación y esas tendencias tecnológicas que todos repiten, pero poco se entienden. Bienvenidos a tegnófagos, devoradores de tecnología, un espacio para saborear y entender la tecnología. Bienvenidos a tegnófagos, devoradores de tecnología. Hoy hablaremos de muchos terrenos que se van a modificar. Vamos a tener ethics, washing o lavado de ética, porque el futuro de la gobernanza tecnológica depende del conflicto entre la inteligencia artificial y la ética. Vamos a hablar de qué significa eso, vamos a dar el seguimiento a este desafortunado conflicto bélico que está ocurriendo. Bueno, iba a decir en irán varios lugares del mundo. Vamos a tener territorio BCI, es decir, la interfaz entre las computadoras y los implantes cerebrales, el cerebro humano. Vamos a ver qué está haciendo China, el respecto y la verdad es que está súper interesante. Pronto tendremos todo su un implante cerebral, quien sabe pero vamos a investigar un poco de eso. Y una nota que se llama "están aprendiendo" porque Xiaomi incorporó robots a sus linas de producción, pero aún están aprendiendo y podían ir por el café. O sea, como buenos pasantes, los mandan primero por los encargos y luego ya cada vez cosas más, más importantes. Así que de eso y mucho más hablaremos hoy en tegnófagos devoradores de tecnología que inicia ahora para abrir la entrada de hoy. Bien, ahí está apuesta la mesa. Muy apetitoso lo que tenemos que platicar el día de hoy, obviamente el mundo sigue, moviéndose cada vez más rápido, así que rápidamente le vamos a entrar a la información. No sin antes presentarnos, nosotros somos los tegnófagos, yo soy Ricardo Maza y aquí está con nosotros también mi querido amigo experto en tecnología Bernardo González, mi querido ver mi cómo estás. Pues muy contento de estar grabando una vez más contigo. Estábamos comentando y te afuera del aire que lo hemos estado haciendo con mucha frecuencia porque ahora el que se va de viaje voy a hacer yo. No de vacaciones, voy de trabajo, pero me acentaré unos 10 días. Vamos a ir de nuevo a China, esperamos mandarles mucho material de lo que veamos allá en temas de tecnología. Y bueno, por eso estamos aquí adelantando algunos episodios, pero regresando esto se va a poner mucho más interesante. Sí, y hoy es muy bueno la verdad es que esos viajes a China han sido bien, bien, bien interesantes porque pues gracias a algunos amigos de diferentes empresas hemos podido conocer lo que está pasando y cómo China ha sido siempre una especialista en dejar regiones y ciudades enteras dirigidas a diferentes industrias evidentemente muchas de ellas a la tecnología. ¿Cómo es el caso de Shenzhen que es? Bueno, yo una ciudad que tuvo oportunidad de visitar tu ahora vas a… Ahí igual a Shenzhen ya don't want que está próxima, este es el cine con balidez de Asia. Exactamente. Pero bueno vamos a hablar de hecho un poquito de eso, pero bueno pues vamos a entrarle entonces a las notas y ya hablaremos entonces bastante de China porque pues cuando se habla de tecnología y de inteligencia artificial hay que hablar de China, pero vamos a hablar entonces de esto que es el lavado ético el ethics washing, el conflicto entre antrópico y el pentágono, veréis, se ha hablado, pocas cosas han acaparado malo reflectores últimamente que este conflicto y pues es una lucha fundamental por determinar quién va a fijar los límites éticos del uso militar en la de la inteligencia artificial ya que no hay una legislación clara y actualizada y además pues obviamente los sistemas de inteligencia artificial se están volviendo cada vez más potentes, cada vez integran más profundamente a las operaciones de seguridad internacional, la brecha entre la capacidad tecnológica y la supervisión democrática pues se ha ampliado y se ha detonado una conversación muy muy muy trascendente entonces cuando los estados pues renuncian a regular con el fin de poner límites a la inteligencia artificial pues no se puede esperar que las grandes corporaciones tecnológicas se impongan límites voluntariamente que se autorregulen, eso nunca ha pasado, sobre todo cuando eso amenaza pues el negocio, los márgenes de beneficio o incluso una posición estratégica, entonces a lo largo del último año que un este boom de inteligencia artificial aplicado ahora además a temas bélicos pues varias grandes tecnológicas han renegado de sus compromisos éticos previos, decían bueno si éramos muy buenas, pero ya se nos olvidó para asegurar contratos militares muy lucrativos, incluso si una inteligencia artificial generativa segura fuera un objetivo genuino dentro de las grandes tecnológicas pues la verdad es que estamos viendo que esto es muy difícil de alcanzar antrópica, es el mejor ejemplo de esto, el motivo es la existencia del problema técnico de las llamadas alucinaciones, las estas falsas que se presentan con aparentemente cohenentes y este problema pues no puede eliminarse por completo porque es totalmente inerente la arquitectura probabilística de los sistemas, entonces en un contexto militar pues digo no es lo mismo que alucine cloud cuando me está ayudando a hacer un guión para un vídeo que cuando alucina cuando se trata de una estrategia militar y que se puede traducir en errores de identificación, en la selección de objetivos, en consecuencias muy muy muy importantes y irreversibles, le podían costar vidas, entonces pues bueno esto además puede provocar escaladas de conflictos armados, esta situación Bernipunos plantea una cuestión muy importante sobre todo para los países democráticos, aunque yo pensaría que realidad para todos, cómo equilibrar esta seguridad, este poder tecnológico y los derechos fundamentales, o sea si las empresas no no no tienen límites éticos porque están muy presionados económicamente porque tienen que perseguir un margen y al final son un negocio y entonces no tenemos esas albaguadas cómo pedir un, pues justo estos guardre, estos, estos límites para una industria que por sí suela no se va a regular porque vinci esto, ninguna lo he hecho nunca históricamente y los gobiernos van muy lento para poderla regular, este incluso tampoco quieren, ¿qué ves ocurrir? Entonces a partir del conflicto bélico que estamos viendo ocurrir en Irán, en términos de legislación o autorregulación de el uso de inteligencia artificial como como una fuente de, pues como una fuente bélica, déjame decirlo así. Sí, pues mira, creo que ya lo habíamos abordado en alguno de los episodios pasados y la respuesta corta, este todo lo que comentas es cierto y me parece a mi que es inevitable, este de las tecnologías al menos las más recientes recordaremos que cuando aparece la computadora electrónica, tal vez no tanto los mainframes porque esos estaban muy restringidos por los altos costos que tenían y las enormes implicaciones de su utilización, pues solo para los gobiernos, grandes compañías, etcétera, pero sin lugar a duda cuando aparece la computadora personal, hay una gran expectativa en el mundo de que es una herramienta muy potente y que nos va a dar mucha libertad a todos y pues lo que acabó sucediendo es que aparecieron otra vez algunas pocas compañías que consolidaron el mercado no, los fabricantes de hardware, de dispositivos, no se diga del software, nació la industria del software muy lucrativo, el lugar a duda de Microsoft, ahí tuvo una posición muy importante, no? Y luego cuando aparece el internet, pues algo muy similar, parece que es una red global prácticamente sin costo, no es de nadie, no tiene restricciones, puedes escribir lo que quieras y todo mundo puede leer lo que quiera, pero conforme se va desarrollando, vuelve a aparecer un incentivo económico y sucede lo mismo, no? Aparecen estas grandes compañías como Google, lo que en su momento fue Facebook, Twitter y muchas otras y otra vez por intereses económicos como bien lo apuntas se vuelve a consolidar. Me parece a mí que la inteligencia artificial no es la excepción, está pasando exactamente lo mismo. El caso de Antrópica es muy curioso, ya lo decía yo el otro día, porque Antrópica accedió a que el gobierno de Estados Unidos, particularmente el Departamento de Defensa, utilizara los modelos de cloth, a esa sí que la nota que referenciamos el episodio pasado o dos episodios atrás, hablamos de cómo la logística del bombardeo y los ataques dirigidos contra la llatola en Irán, pues prácticamente fueron totalmente orquestados por una inteligencia artificial y no por cualquiera, por la de cloth. Ahora, ¿dónde está el conflicto particular de darío a modell y la compañía ahora que está confrontando con el gobierno de Donald Trump? Pues tal vez en otros matices que no necesariamente están hablando del uso en general y cuando les carvas un poquito a la industria a entender quiénes están participando, por ejemplo, déjame dar tu un dato muy interesante. Desde hace unos 15 o 20 años, sobre todo cuando aparecieron los sistemas distribuidos y más lo que es cloud, apareció un contrato que es el Joined World Fight Cloud Capability, que es el Departamento de Defensa de los Estados Unidos. A través de eso sí, nunca le había habido. En su momento era un contrato hasta por 9 mil millones de dólares y las empresas que participan de ese contrato es decir, entregan sus servicios a cualquier cosa que haga el Departamento de Defensa de los Estados Unidos, pues nada menos y nada más que son compañías.
como Amazon, Google, Microsoft, Oracle y muchas otras. -The usual suspects. -The usual suspects. Y ahora tú lo decías la vez pasada. En este conflicto con Antrópica en particular, quienes están firmando los contratos con el Departamento de Defensa, pues OpenAI, XEY que es Grok atrás de Elon Musk, que se supone que estaba peleado con este señor, pero pues no es así. Quien está detrás de OpenAI, pues son inversionistas AWS, Microsoft, etcétera, etcétera. Es como el Club de Tobi, ¿no? -Sí. -Es son los mismos pocos actores, donde el fondo de este asunto me parece a mí que siempre va a ser un interés económico. Y luego, tal vez hay un sesgo. Yo también persivo un poco de subjetividad en muchos de estos comentarios. Tal vez muy exagerados, déjame decirlo de esa manera por la prensa que siempre trata de hacer estas cosas sensacionalistas con cualquier tecnología nueva. Lo inmediato es te voy a dar una lista de cosas negativas o problemas que podrían suceder. Lo cual es cierto, es una tecnología muy nueva, se está probando particularmente es probabilística, tiene este problema de las alucinaciones. Y podría haber errores en estos cálculos en estos objetivos militares que es muy importante, porque de ello dependen vida humanas. Pero me parece a mí que igual que la conducción autónoma conforme la tecnología madure, se va ir sofisticando, se va haciendo más precisa. Y vamos a llegar sin lugar a duda a un punto donde digas el famoso dilema este que plantea. Oye, ¿qué pasa si un automóvil conducido por una inteligencia artificial se va involucrado en un accidente donde se pierde en vida a sus manas? ¿Quién es el culpable? El fabricante del automóvil, el fabricante del modelo de inteligencia artificial, el conductor del automóvil, el estado o nadie, lo que tú quieras, ¿no? Pero tal vez eso no es lo importante. Lo importante hablando de ese ejemplo de la conducción autónoma, es que hoy, el 2026, ya está comprobado que los pocos coches que hay en el mundo que se conducen de manera autónoma, pero digo poquicisísimos, cuando ves el total de los automóviles que se curan en todo el mundo, el índice de accidentes, de fatales y no fatales, es abismal en el número de conducidos por humanos que el de conducidos por las máquinas. Entonces, este fenómeno de la mente humana, la sí que de cómo nos compartamos, va a estar presente siempre. Alguien va a decir, "Oye, es que si lo conducen solamente los humanos, voy a inventar fallecen mil personas en el que se pide de tiempo, ¿no?" Oye, y si sólo lo conducen las máquinas y los modelos y el telegresitipial que no son precisos y de repente alucinan, oye, en vez de mil se mueren 10. Es una diferencia, ¿sí? Es pertenaloso. Claro, pero el hecho de que alguien atropeye a alguien cual alumpur no te va a salir en tu Twitter, en tu X, en cambio, que un coche autónomo se desconchinfle y atropeye o se muera alguien en un accidente de un coche que se estaba gobernando solo, bueno, parece la noticia más grande del mundo y se entiende por la dimensión y por lo que estamos entendiendo y lo que estamos aprendiendo a ser, claro, lo digo, lo dimensión o dentro de lo que es, pero entiendo a tu punto, o sea, muchísima gente le tiene miedo a los tiburones y resulta que tienes muchas más probabilidades de que te mueras por un picete de mosquito, que pone una mordida tiburón, ¿no? Entonces, claro, sí, sí, sí, sí, sí, tenemos a dimensionar lo que nos parece más escalofriante. Absolutamente. Y aparte, digo, por poner otra analogía, este cuando empezó el automóvil, claro que había mucho temor, porque puse una máquina de una tonelada, dos toneladas de peso, impulsada por un motor de combustión intena que podía tomar mucha velocidad y si alguien se distraía o había un accidente, pues lo mismo, ¿no? ¿Alguna persona podría salir herida o haber una fatalidad? Incluso por ahí, hay unas fotografías que en algún lugar llegaron a proponer que fuera una persona a bordo del automóvil con una bandera que en cada esquina se bajara para decir que iba a pasar de este coche, ¿no? Y se den el paso a los patones. Que sucedió con el tiempo que eso no fue práctico y la gente se acostumbró al uso del automóvil por las enormes ventajas que tienen, muchas económicas, muchas de comodidad de trastarte de un punto a otro, etcétera. Y hoy en día, pues ese no es un problema. Yo aquí, sin subestimar este problema, creo que lo que pasa es que esta generación, los que estamos vivos en este momento, pues estamos conociendo esta tecnología, es como magia, es inentendible, como una máquina se puede manejar sola, no aceptamos que eventualmente esos algoritmos van a manejar mucho mejor que cualquier ser humano, eventualmente en algunas partes de las ciudades más desarrolladas del mundo, el tráfico solamente va a estar autorizado para coches autónomos. Pírate, por ejemplo, lo te da una persona, un colega de la industria de la tecnología, me decía, "Oye, ahora que fue el año nuevo en China, este famoso año del caballo, el caballo de fuego, ya sabes que mucha gente se mueve dentro del país, este van a ver a la familia, estas cuestiones, y las carreteras están muy saturadas de tráfico, las casetas, etcétera. Entonces, en algunas ciudades precisamente como Shen Yen, Shanghai, estas grandes urbés muy tecnológicas, ya se nota en las calles los vehículos que traen luces de color azul, y por qué traen luces de color azul, porque el gobierno de China ya se adelantó a todos los demás del mundo y ya regulo que cualquier automóvil que se esté conduciendo de manera autónoma tiene que tener en el exterior una luz azul para que la gente sepa que se coche, se conduce de manera autónoma. Y así van a ir evolucionando las cosas en el resto del mundo. Claro. Y un diálogo normal va a estar en un vehículo 100% autónomo y algo muy extraño va a ser conducir un vehículo como los que conducimos. ¿Verdamos a ver a otros? ¿Tú te gobernando un automóvil? Claro, sí, sí. Eso es como si yo en la ciudad de México pretendur de mi casa que está al Norporin del ciudad a Santa Fe donde trabajo a caballo, ¿no? Este igual seguramente ni jagaría. Yo creo que llegaría más rápido que en coche. Bueno, voy a tener una ventaja. Pero este imágiate lo extraño que sería circular por el periférico, por el paseo de la reforma, a un tipo arriba de un caballo, este día suyo ese tipo está al loco, que alguien lo saque de aquí, se va a ser daño a alguien, igual de absurdo va a ser un momento en donde todos los automóviles van a ser autónomo. Entonces regresando a la nota del tema bélico, pues es un tema muy duro, a nadie le gusta que haya guerras ojalá las guerras se terminaran por completo, ojalá este mundo estuviera lleno de paz y ningún gobierno tuviera ejércitos. Pero pues parece que eso es intrínse cual ser humano y no lo puedes quitar por miles de razones. Y entonces mientras haya ejércitos y mientras haya intereses de por medio y haya cosas que defender, pues la tecnología, los países la van a usar, ¿no? Fíjate otro dato interesante, un billonario que tú conoces muy bien, Eric Hashmir, fue director de Son Micro Systems, y luego estuvo muchos años en Google, - Sí, sí. - Con toda la expansión de la compañía. Bueno, un hubo, fue presidente, luego volvó a hacer sí, luego no sé qué, luego asesor, o sea hizo ahí hasta barrer y eso. Exacto, el editor. Y obviamente, hoy es un inversionista muy importante, es un promotor de la tecnología, particularmente la inteligencia artificial, y tiene varias charlas muy visionarias diciendo lo que viene y advirtiendo de las cosas que tenemos que prepararnos. Bueno, este señor nada menos y nada más tiene una inversión en una compañía que se llama WhiteStalk, y esa compañía se dedica a hacer drones camicaces. Y para qué quieres tú un drone camicace, pues para venderse lo a un ejército, y le pones unas bombas o unos explosivos al drone, y entonces puedes utilizarlo de manera autónoma y puede ser otra vez ataques totalmente dirigidos, focalizados, que lo que voy a decir va a sonar absurdo, porque me imagía dentro del contexto de una guerra, pero igual y en una de esas en varias décadas, se muere mucho menos gente por usar esta tecnología. Claro, que si siguiera, se agarró unos avalazos y espadasos y cuchillas o no, como se hacía en el pasado. Correcto, yo digo, está brutal lo que comentas no tenía idea de eso, pero además el nombre, ¿no? WhiteStalk, que es una sigueña, ¿no? Entonces, una sigueña blanca que remetiría algo que tiene que ver con traer bebés al mundo, con la vida, algo más bonito, y estos drones camicaces. Mira, Eric Smith tiene una cosa particular que es la primera persona que logró hacerse billonario en dólares, o sea, lograr una persona de más de mil millones de dólares sin ser ni el fundador ni el heredero de una empresa. O sea, siendo un ejecutivo. Correcto. Lo logró ese nivel de lana, simplemente porque pues fue que les ordenó el negocio a Larry y a Sergei, cuando. Entonces, les digo, me da a ver, son muy inteligentes chavos, pero lo que es la administración no les saben. Entonces, yo les enseño cómo se hace esto y por la compensación que empezó a tener por justo organizarles la casa a estos chicos, pues logró tener un. la evaluación personal de un mil millones de dólares. Entonces, pues hay que poner la atención a lo que diga el señor, porque algo sabe, pero si está brutal su nuevo startup, qué barbaridad. Oye, y hoy te acuerdas esto de gente que hace mucho dinero sin ser el fundador. Seguro viste la noticia esta semana de Sundar Pichar, que le acaban de dar un paquete con pesatillo. Sí, sí, sí, sí, sí. Cercano a los 700 millones de dólares, ¿no? Si hace bien el trabajo y llega a las metas que le están poniendo, pues en unos cuantos años va entrar al club de los suaginados y llorarios. Sí, sí, sí, sí. Ya estamos hablando de chismes. Antes de pasar a nuestro siguiente notar rapidísimo, les comento, seguro la habrás visto, pero una persona que admiramos mucho aquí en TechnoFamos y sobre todo hay que ponerle mucha atención. Es a Jan Lecun, que fue director de AI en meta y luego acabó medio de play total, pero es una persona que con una perspectiva muy interesante de la inteligencia artificial, luego se hagan de agarrando a trancaso con todo mundo, es bastante velicoso. Y ahora tiene justo un nuevo emprendimiento que lo acaban de anunciar, bueno, acaban de sacarlo al mundo, se llama EMI Labs, AME Labs y anunciaron hablando de fortuna, así tal, que terminaron ya su primera ronda de financiamiento mundial, están lanzando esta startup Advanced Machine Intelligence AMI, o EMI Labs. Fíjate, en su ronda de semilla juntaron mil y fraccion de millones de dólares, una de las más grandes de la historia y dice, seguramente, la más grande para una compañía europea. Y todavía pone abajo, estamos contratando, entonces, por si quieren mandarle su corrículum, hay que mandar. Sí, sí, sí, sí. Entonces, una compañía que está muy interesante, porque justo están hablando de crear una nueva visión de AI con sistemas que entiendan en el mundo, que tengan memoria persistente, que no les tengas que estar recordando cada vez que haces o que te dedicas, que pueda razonar y planear. En fin, interesante lo de EMI Labs seguro van a dar mucho que hablar y, bueno, siguiendo con el tema de los chisnes. Pero bueno, vamos con más notas y más información y vamos a hablar de implantes cerebrales, Berni. Vamos. Es momento del plato fuerte. Lleguemos al fondo. Y es que en el tema de los implantes cerebrales, pues, digamos, hemos platicado aquí muchas veces y los Mosques ha llevado la mano desde hace mucho, pero ahora China dice no a ver perate. Vamos a ver cómo le ganamos y cómo lo rebazamos por derecha. Tran como siempre, China trae una hoja de ruta nacional, fondos públicos, de este 50 ensayos clínicos, ahora lo que quieren es consolidar antes de 2030. Una industria de interfaces será procomputadora, lo que se llama BCI, Brain Computer Interface, con cadena de suministro propia. Estos BCI son sistemas básicamente que permiten la comunicación entre el cerebro y un dispositivo externo. Lleguemos visto implantes del tamaño de una moneda que hace Elon Musk. Entonces, pues, con una computadora o una prótesis a través de señales neuronales que codifican y transforman en comandos los impulso cerebrales. Cuando se implementan bien y, como lo ha hecho Elon Musk y compañía, pues, le permiten a la gente, sobre todo, las que han tenido lesiones cerebrales importantes y tal, reincorporar actividades cotidianas. Entonces, es muy interesante. El modelo China está apostando por una acción de Estado, donde diferentes ciudades del país aportan al desarrollo de este industria. Lo decíamos al principio. No, eso es muy China. Es decir, esto va para acá. El Cambridge Network lo está estudiando. Y Beijing, por ejemplo, se centra en avances de precisión en el ectrodos, en chips neuronales y algoritmos de BCI. Shanghai, que también está muy enfocado en tecnología, es la primera zona de arromeración BCI de China. Y ahí está Star-Stormeth, perdón, tecnológic, que son Star-Top, que desarrolla un ecosistema de aplicaciones para implantes, muy parecido a Android, lo que le permite una rápida transición de laboratoria en la clínica. Estos hablando de ciudades chinas que se dedican a este tipo de cosas, están Shen, Guangzhou, Dongguan, la verdadera donde vas a ir. Y Foshan, que albergan un grupo sinérgico que combina innovación en tallos clínicos y fabricación avanzada. Partículas Sichuan y Shandong se dedican a la innovación centrada en el paciente y la atención médica inteligente. Además, que son seres de News or Brain Science, empresa pionera en implantes neuronales sin batería. Entonces, para estandarizar la tecnología y tener una cadena suministro completa, este plan de 2030 de China consta de cuatro pasos. Uno, apoyo político económico, dos rápida evolución del panorama clínico, tres madurez de la industria manufacturera y cuatro inversiones estratégicas en el mercado. En las eléctricas tradicionales de BCI, las empresas chinas han logrado avances clínicos en la decodificación motore y del lenguaje, lo que decíamos de que la gente que ha tenido, por ejemplo, las elecciones de la médula espinal y la rehabilitación de accidentes cerebrovasculares. Entonces, ya ha habido más de 50 ensayos clínicos de BCI implantables, flexibles, completados a mediados de 2025. Entonces, pues China está creciendo, Bernan, en la neuro-technología y quiere competir con líderes como Neuralin, que la haya mencionado en empresa de Elon Musk, con Cycron o con Paradox que, pues, espera que entonces el este mercado se sitúen más de 17 mil millones de dólares para 2040. Me sorprende mucho, vaya, el tamaño del mercado me sorprende y, o mejor dicho, es de asombrarse lo bien estructurado que está este proyecto de China, pero pues al final eso es algo que hacen extraordinariamente bien en China, el gobierno regula todo y les dice tú, tú vas de aquí para acá, o sea, esto que acabo decir tus cuatro pasos para implementar, pues básicamente es un checklist de cómo crear un asartopo, un plan de innovación, lo que harías en cualquier organización, nada más que en el caso de China, pues la iniciativa privada y el gobierno, pues, son básicamente lo mismo. Entonces aquí lo implementan a forma de gran escala, nivel nacional, digamos, de forma muy, muy interesante y pues ahora entonces enfocados en esto, que es una tecnología que la verdad, en tus días, más mucho, pues, probablemente por las implicaciones que presenta, pues para el futuro de la medicina, para la interfaz humano computadora, en fin, muchísimas aplicaciones muy emocionantes que tiene esto del BCI, ¿no? absolutamente fíjate que el otro ya estaba viendo un TikTok y me llamó mucho la atención y me puse un poco a investigar. Sí. Y este fenómeno de cómo China puede escalar las cosas como ningún otro país en este planeta, obedece a un poco de lo que estás explicando y es totalmente contraintuitivo para la gente que vivimos en Occidente, ¿no? Este porque acá en Occidente, así fuimos educados y es un poco la historia de todos nuestros países, de que las anarquías, lo que han hecho en la gran mayoría de los casos, pues es destrozar a los países, ¿no? Acában en pobreza, con muchos conflictos, aislados, etcétera. Y en el caso de China, que es un gobierno comunista y que es una anarquía, sólo hay un poder central y ese dictamina, lo que hay que hacer, sucede algo muy distinto, porque es una anarquista pero capitalista, tiene clarísimo que la manera de traer bien estar a todos los ciudadanos, pues es a través de la generación de capitales y de tener ventajas competitivas como las naciones desde hace muchos años, no se sea una en la escuela, en las clases de economía y todas esas cuestiones y resulta que esa combinación es muy efectiva para organizar a las empresas en cómo producir cualquier cantidad de productos, ¿no? Y yo no sabía que por ejemplo en China hay una región que solamente hace calcetines y entonces todos los calcetines salen de esa región, ahí están las fábricas, ahí están los que hacen los hilos, los pigmentos y toda la logística está acomodada para ese propósito. Hay otra ciudad que se especializa en juguetes, otra en productos navideños, se engen, entonces la electrónica en los semicontuctores del mundo, el fin. Y entonces la logística dentro del país de quién fábrica qué cómo se entrega bajo qué reglas, los costos, los precios, los impuestos, cómo exportar, cómo llegar al mercado es altamente eficiente y el caso de estas interfaces, los famosos beséis los brain computer interface, es una tecnología muy nueva que igual me parece que es inevitable, vamos a pasar de los esterectángulos de plástico y cristal a las gafas, tal vez pasemos por los popilentes y eventualmente vamos a estar conectados a una máquina, como estas películas de cyborg y todas estas futuristas, ¿no? Entonces Neuralin, que es una compañía de Elon Musk, pues no sé si sea la más avanzada o la que hace más ruido o la que hace más marketing, pero si ves los pacientes que tiene la velocidad a la que va, están desarrollando un robot que es como un sillón de dentista y el que coloca la interfaz es totalmente un robot porque es la única manera de agarrar escala y hacerlo más rápido, pero las noticias es un poco el fenómeno como Boston Dynamics, ¿no? Veía
una generación de robot y luego otra y decía suye que increíble lo que hace Boston Agamys y de repente te das cuenta que ya pasaron 20 años y cuando crees que su evolución ha dado muchísimo de repente volcamos a ver a China y dices no me estos llaman a 300 kilómetros por un rap pero basando por el acotamiento. Este tema que acabas de describir en esta nota me parece a mí que tiene el potencial de tener exactamente el mismo patrón mientras en Occidente Estados Unidos particularmente está pensando en poner estas interfaces solo en las personas que tienen algún problema neurológico y totalmente en el ámbito médico para el cuidado etcétera pues en China no dudemos que en unos cuartos años te van a decir oye quieres hablar su eco porque vas a ir a suencia de viaje pues descarga este paquete si se pega texto en la nuca o toma texto o lo que sea y vas a hablar su eco o imagínate quiero saber de música o tocar un instrumento porque voy a un concierto y entonces quiero tener una mejor inversión o yo que sea cualquier cosa que se te ocurra y entonces la vida va a cambiar dramáticamente y por lo menos lo que vemos hasta ahora pareciera que esta fórmula que está aplicando China por lo menos es más efectiva en agarrar velocidad y escala esas dos cosas el volumen y la velocidad dicho se ha pasado hasta hace un par de años y porque Trump ha hecho hasta lo imposible por revertirlo pues toda la fabricación de los iPhones este por poner un ejemplo de una compañía Apple pues se hacía en China porque ninguna terregión del mundo tiene la escala para fabricar a ese volumen a esa velocidad con esa innovación aunque la tecnología venga de California los diseños y los planos y lo que tú quieras el que ejecuta es el que está del otro lado y lo hace a una velocidad increíble solamente o sea una empresa como Fox con solamente puede existir en un lugar como China estoy totalmente de acuerdo hoy ya habéis estado para cerrar el tema de los implantes neuronales vio una nota que en un laboratorio en universidad de Estados Unidos la voy a encontrar y la vamos a poner en nuestro grupo de telegram para que la gente nos haga favor de comentarla y verla que pudieron ya obligar el cerebro las neuronas neuronas por neurona de una mosca y le crearon lo viste y ya le crearon ahí su multiverso a la la mosca y la mosca y anda volando este o sea el cuerpo de la mosca está inerte conectado con un interfaz a una a una computadora y la mosca vive ahora en una realidad virtual literal muy de black mirror digo solamente al nivel de una mosca pero vaya o sea ya estamos logrando hacer algo con este tipo de cosas con organismos complejos entonces es bien interesante que esto esto que estás describiendo puede pasar mucho más rápido de lo que creeríamos muy muy interesante absolutamente vamos con nuestro último tema del día de hoy vamos a hablar de robot que están aprendiendo y rápido vamos cerramos con el postre para digerir mejor lo waving que es el presidente Xiaomi afirmó que ya probó sus robots humanoides en sus plantas de producción de vehículos eléctricos lo que se está buscando es aumentar la productividad de las fábricas ahí les encargo para nuestras chambas para integrar robots en nuestras líneas de producción el mayor reto es que sigan el ritmo en la fábrica de automóviles de Xiaomi cada 76 segundos sale un coche nuevo de la línea de montaje los dos robots humanoides son capaces de seguir nuestro ritmo a firma este señor waving dos robots humanoides pueden completar el 90% del trabajo en tres horas según declaró el u waving asen y así en bc en una entrevista en el mobile world congress de barcelona y pueden realizar tareas como instalar tuercas y mover materiales entonces bueno pues se afirmó que contar con robot humanoides trabajando en fábricas y mejorando la productividad era un objetivo clave para Xiaomi no pues claro en el futuro los robots humanoides podrán reemplazar a los humanos en ciertas tareas y realizar tareas que los humanos no podrían realizar sin embargo pues el uso de sus robots en plantas de producción todavía está en las primeras etapas los robots en las dinas de producción no estaban haciendo un trabajo oficial más bien eran pasantes dijo lo entonces existe una gran cantidad de empresas chinas algunas de las cuales han salido a bols incluso recientemente que desarrolla en esta tecnología los expertos prevén que las empresas chinas aumenten la producción de robots este año siendo el propio país uno de los primeros en adoptarla justo lo que decías esta esta capacidad que tiene china de implementar a gran escala lu se mostró optimista sobre la robótica pero también afirmó que era demasiado pronto para predecir el tamaño del mercado pues digo yo le ayudo ahí al señor a decir que el tamaño del mercado pues es el tamaño del mundo no lo hice literalmente donde se cae una fábrica pues eventualmente va a ver en necesidad de de automatizar y de robotizar esos procesos que como dice por ahí los humanos o no hacen o no quieren hacer o simplemente pues va a ver alguien que quiera que los haga un robot que los pueda hacer 24 7 en lugar de tomarse rots para descansar esto es un problema y una situación pero al final es una situación con la que nos vamos a enfrentar ya este así que más vale que vayamos asumiendo que esto va a pasar muy independientemente de nuestra voluntad y y que hay que entenderlo a similar lo y y trabajar alrededor de ellos sí absolutamente y mira yo no sé si la gente hubi que la marca Xiaomi o MiTu que también este es el logo este naranja o que tiene sí pero hace 15 años era totalmente evidente que ese señor se fusilo este concepto de una polestor no este las trabajamos en la tienda de estas de hecho en México cuando llegaron digo más pequeñas y y metían más productos pero este minimalistas con las mismas el mismo tipo de mesa este el decorado de la tienda con las pantallas y como se exhiben los productos todas estas cuestiones y y recuerdo que pues eran muy sonado el comentario de que serán era muy descarado como había copiado estos conceptos no pero independientemente si los estaba copiando no lo relaciono con la nota anterior de la escala en su momento Apple anunció que iba a fabricar un automóvil de acuerdas este de hecho hicieron inversiones y contrataron a todo un equipo de trabajo y hablaban de que va a ser eléctrico y que iba a estar increíble por que iba a ser muy minimalista como un iPhone y todas estas cuestiones y por supuesto que eventualmente iba a tener conducción autónoma y quien sabe qué pasó acá en Occidente seguramente Apple estaba muy entretenida está haciendo millones y millones y millones de dólares con con la línea de productos que tiene y acabó abandonando ese ese proyecto no mientras que en China pues este señor no solamente lo que mencionas en la nota de los robots sino que el robot trabaja en una fábrica de automóviles de Xiaomi que cada 76 segundos sale un automóvil no así señor se rebasó por la derecha y ya no le ves ni el polvo no este se fue legísimo no ya está iterando este con la misma visión que podrías decir que no sé un hilo no es que es el es el empresario si lugar a duda o el el emprendedor visionario pues más vanguardista más echado para adelante que cuando ve el potencial de los robots humanoides verfió esta esta forma en particular es saca el óptimo de acuerdas que en una presentación no se ciera de un de un tes la vuelvo así salieron unas personas disfrazadas de óptimos con unos como mayones se ha de un aivai y la no se hiciera nobles o mujeres y todo mundo dijo y este tipo es un payaso no este eso no son robots simplemente lo hace para quien sabe qué cosas y bueno a los seis meses ya tenía un robot que se movía este más lento que la maquinaria de un reloj de cuerda y super torpe y otros seis meses y el robot fue evolucionando y hoy en día pues es uno de los robots al menos del lado de las compañías que están en Estados Unidos bastante competitivo que se mueve en un rango razonablemente bien puede se entender el potencial que tienen los robots pero no se comparan con lo que ya trae china no este la velocidad la que está desarrollando y lo que está generando a mí me parece sin lugar a duda que se espectacular y fíjete hace una semana me encontré un tweet de creo que el tweet álguelo retweetio y me parece que es como de hace un año es el fundador de la empresa mid-jorni te acuerdas cuando empezaron todas las inteligencias artificiales que era la más avanzada para generar imágenes y luego ya muchas otras hicieron lo mismo pero este señor dijo algo en una conferencia este es súper importante díjame éste como contexto que ya muchos visionarios y muchas empresas tecnológicas han apostado que alrededor del 2040 seguramente va a ver más robots humanoides en el mundo que seres humanos no corres vamos a rebasar si fuera en este momento pues habría más de ocho mil millones de robots si no me equivoco creo que en el 2040 la población está estimada alrededor de 12 mil millones de seres humanos pero bueno lo que dijo este señores haciendo cálculos que si tú tuvieras cinco millones de robots humanoides y les da las herramientas y los materiales en la isla de manja tan cuando está totalmente desértica hace 300 años el tiempo que les llevaría construir todo este en los puentes los parques los edificios en la infraestructura sería sólo
de seis meses. En seis meses, si les das los materiales y tienes el dinero, trabajando 24 horas al día, aproximadamente unos cinco millones de robots se pueden aumentar un manjata. Entonces, yo sé que suena tremendamente de ciencia ficción y muy, muy futurista, pero en las siguientes décadas, el mundo va a cambiar muchísimo porque la industria aero espacial se va a seguir desarrollando, el ser humano eventualmente se va a ir a órbita a la mejor de turismo o para poner data center, o yo que sé, algunas cuestiones, pero eventualmente esta infraestructura va a empezar a crecer. Y entonces el uso de los robots tiene mucho sentido en un montón de industrias que tienen mucho peligro o que simplemente son totalmente inóspitos para un ser humano, como por ejemplo pretender evitar la luna o martes, que son el satélite o el planeta más asequible, más cercan y más asequible que tenemos, pues usar esta tecnología es mucho más factible que exponer vidas humanos. Totalmente, totalmente, es ahí donde tenemos puesta la mira y digo, pues esto es algo que veníamos soñando desde que se inventó la ciencia ficción y desde que el hombre pudo fantasiar, pues yo no sé de qué se quejan la verdad, este, ahora ya lo estamos logrando, ahí van a estar los robots para hacer esos trabajos que no queríamos hacer. Y bueno, digo lo digo de broma, pero ya hablando en serio, pues sí, hay una discusión importante, ya la hemos retomado, los humanos vamos a tener que pensar en qué vamos a hacer y en qué nos vamos a dedicar. El propio Elon Musk lo dijo muy bien el otro día, decía el trabajo, digamos, delimitado o determinado, mejor dicho, quienes somos y lo platicábamos, ¿no? Deciamos, cuando conoces a una persona prácticamente lo siguiente que le dices después de tu nombre es a que te dedicas, ¿no? ¿O qué haces? ¿Qué va a pasar cuando eso ya no sea lo que determina tu forma de ser tu personalidad? O sea, yo no soy Ricardo Maza y Agomar que tenga lo que sea, sino que vaya, o sea, necesito resignificar un poco la existencia humana y eso es bastante profundo, pero tú lo decías muy bien el otro día también, o sea, a ver, los humanos pasamos mucho tiempo antes de que eso, de que el trabajo de terminar aquí en eso hemos ya que nos dedicamos, entonces va a ser muy interesante, estamos viendo sin duda épocas fascinantes y pues esperamos estar aquí y seguir aquí para poder, pues cuando menos contar el cuento aquí al lado de ustedes en este podcast y que hacemos con mucho cariño que se llama Tecnófagos, ven y pues se nos acabó el tiempo, así que vamos a terminar este episodio, yo le quiero agradecer a Mario Terres que estuvo en la edición, a Naya y a ti sin romero en la redacción, a Diana Álvares que estuvo en la producción y que además de eso también estuvo contaminando de ideas a ver ni tus poros hoy día también es seguir de viaje al lugar, lejanas tierras, entonces, ni modo ahora ya tengo que lidiar con todo eso con lo que tengo. Es contagioso, eh, tengan cuidado, no es hacer que no que vivan con alguien que viaje mucho porque se les puede pegar. Exactamente, pero bueno, ven y te estaremos esperando aquí con mucho cariño, todavía alcanzamos a sacar un episodio más esta semana, así que y luego ya andarás por allá por China. Pues buenas a todos, mi querido Vernie, muchísimas gracias por supuesto con a ti, por estar una vez más en Tecnófagos y permitirme ser parte de este proyecto también. No igual, contrario, placer platicar contigo de todos esos temas que siempre son muy interesantes y esperamos que igualmente así le parezca toda la gente que amablemente nos escucha. Nos escucharemos entonces más adelante en esta semana, esto es Tecnófagos de Borraves de Tecnología hasta entonces. Los efectos de este episodio pueden incluir más curiosidad, más ideas y una ligera dificultad para volver a ver la tecnología como antes. Esto fue Tecnófagos, de Boradores de Tecnología, hasta el siguiente episodio. [Música]
Podcast Summary
Key Points:
El episodio aborda el conflicto entre inteligencia artificial y ética, destacando el "ethics washing" o lavado de ética en empresas tecnológicas.
Se discute el uso militar de la IA, con el caso de Anthropic y el Pentágono, donde empresas como Google, Amazon y Microsoft participan en contratos bélicos.
Se menciona el problema técnico de las "alucinaciones" en sistemas de IA, que pueden tener consecuencias graves en contextos militares.
Se compara la IA con tecnologías pasadas (computadoras personales, internet) que inicialmente prometían libertad pero terminaron dominadas por intereses económicos.
Se destaca el avance de China en vehículos autónomos, con regulaciones que requieren luces azules para identificar estos autos.
Se menciona la inversión de Eric Schmidt en drones kamikaze (WhiteStalk) y la compensación de Sundar Pichai en Google.
Summary:
El episodio explora la tensión entre la inteligencia artificial y la ética, enfocándose en el "lavado de ética" o "ethics washing" que ocurre cuando empresas tecnológicas abandonan sus compromisos éticos para obtener lucrativos contratos militares. Se analiza el caso de Anthropic y su modelo Claude, utilizado por el Pentágono en operaciones bélicas, lo que genera preocupación por las "alucinaciones" de la IA, errores que en contextos militares podrían costar vidas. Los anfitriones discuten cómo grandes corporaciones como Google, Amazon y Microsoft participan en contratos de defensa, mientras que los gobiernos demoran en regular la tecnología.
Se compara esta situación con la evolución de otras tecnologías, como las computadoras personales e internet, que inicialmente prometían democratización pero terminaron dominadas por intereses económicos. También se aborda el avance de China en vehículos autónomos, donde ya se implementan regulaciones como luces azules para identificar autos sin conductor. Finalmente, se menciona la inversión de Eric Schmidt en drones kamikaze y la compensación millonaria de Sundar Pichai, destacando cómo la industria tecnológica sigue priorizando el lucro sobre la ética, mientras la inteligencia artificial se integra cada vez más en áreas sensibles como la defensa y el transporte.
FAQs
Se refiere a cuando las empresas tecnológicas hacen promesas éticas sobre el uso de la IA, pero luego las abandonan para obtener contratos militares lucrativos, como ha ocurrido con compañías como Anthropic y OpenAI.
La IA probabilística puede producir 'alucinaciones' o errores coherentes pero falsos, lo que en un contexto militar podría traducirse en errores de identificación o selección de objetivos, con consecuencias irreversibles como pérdida de vidas.
Participan gigantes tecnológicos como Amazon, Google, Microsoft y Oracle, además de empresas como OpenAI y XAI (Grok de Elon Musk), que firman contratos con el Departamento de Defensa de EE.UU.
China ya exige que los autos autónomos tengan una luz azul en el exterior para que las personas sepan que el vehículo se conduce solo, adelantándose a otros países en esta regulación.
WhiteStalk es una startup de drones kamikazes, en la que invierte Eric Schmidt, ex CEO de Google. Estos drones pueden usarse para ataques autónomos y focalizados en contextos militares.
AME Labs es un nuevo emprendimiento de Yann LeCun, ex director de IA en Meta, que acaba de anunciarse y busca innovar en el campo de la inteligencia artificial.
Chat with AI
Loading...
Pro features
Go deeper with this episode
Unlock creator-grade tools that turn any transcript into show notes and subtitle files.