Humanizando la IA: Ética y futuro en la educación superior

0:00 Participante 1 Bienvenidas y bienvenidos, hoy nos metemos de lleno en un tema fascinante, cómo la inteligencia artificial está bueno entrando en la educación superior y la investigación en salud, tenemos como guía un documento súper interesante de la Facultad de Medicina de la Universidad de Chile. 0:20 Se llama humanizar la inteligencia. La idea es entendernos. ¿Cómo podemos usar esta tecnología? Esta revolución sin perder de vista a lo humano, lo ético. 0:32 Participante 2 ¿Y es que el avance es bueno, vertiginoso, verdad? Especialmente estos modelos generativos, los que crean textos, imágenes abren un mundo de posibilidades, pero claro, también traen dilemas éticos complejos. 0:48 Este documento, fíjate, no busca ser como una ley escrita en piedra, más bien es una guía, una guía viva para reflexionar. Un marco para usar la guía con cabeza críticamente, sobre todo en áreas donde el juicio profesional es bueno, fundamental. 1:05 Participante 1 ¿Vamos al grano entonces? El documento habla de 5 principios éticos. ¿Me llamó la atención el de transparencia y trazabilidad, o sea, esto de decir siempre cuando y cómo usaste la IA? ¿Suena básico, pero es clave, no? 1:21 Participante 2 Clave sí, y la supervisión humana que quede claro, la IA apoya, asiste, pero no reemplaza el criterio. La responsabilidad final sigue siendo nuestra. 1:31 Participante 1 Y la integridad académica por supuesto usarla para ayudar, sí. Pero no para que haga el trabajo por 1. El esfuerzo intelectual sigue siendo propio. 1:41 Participante 2 Justamente y a eso se suman otros dos. 1 es la equidad y justicia tecnológica, importantísimo para no agrandar las brechas que ya existen y vigilar los sesgos de los algoritmos, o sea, esas tendencias injustas que a veces traen los datos con los que se entrenan estas inteligencias. 1:59 Imagínate el peligro en salud o educación si se replican uf. 2:03 Participante 1 Sí peligroso. 2:05 Participante 2 Y el quinto. La gobernanza participativa. Porque ese es el relevante, pues porque la tecnología va volando mucho más rápido que las reglas, entonces necesitamos que todos participen en crear y actualizar esas normas. La comunidad entera no es algo que defines una vez y ya está, hay que estar en constante debate. 2:25 Es buscar el equilibrio, no innovación, sí, pero con responsabilidad bien anclada. 2:30 Participante 1 Tiene toda la lógica, ahora llevémoslo a la práctica. En la docencia, por ejemplo, cómo se usa ahí se habla de personalizar el aprendizaje. 2:41 Participante 2 Sí personalizar automatizar tareas administrativas, por ejemplo. 2:46 Participante 1 A liberar tiempo para los profes. 2:48 Participante 2 Exacto, o incluso fíjate, generar borradores de materiales, casos clínicos simulados por decir algo, el potencial para enriquecer la formación es es grande, pero el documento insiste mucho en la cautela, recomienda reglas claras, hasta sugiere una especie de cláusula para los programas de los cursos. 3:08 Sabes que diga que se permite y qué no algo como. Puedes usar IA para buscar ideas, pero el ensayo lo escribes tú. 3:15 Participante 1 ¿Claro, y ahí vienen las preguntas difíciles que plantea el texto, cómo evitas el plagio? ¿Pero el plagio sofisticado, el automatizado, cómo aseguras que sea justo para todos, que todos tengan acceso y sepan usarla bien? ¿Qué formación necesitan profes y estudiantes? 3:31 No sólo usarla, sino usarla críticamente. 3:34 Participante 2 Exacto, son preguntas clave y esa tensión, ese balance entre lo bueno y el riesgo se ve todavía más fuerte, quizás en la investigación. La IA puede acelerar muchísimo la revisión de literatura científica o analizar cantidades enormes de datos biomédicos. 3:49 Una locura. 3:50 Participante 1 ¿Sí, pero el documento también alerta sobre le llaman dilusión de la autoría, qué es eso exactamente? 3:58 Participante 2 Pues la dificultad de saber quién es realmente el autor, no si la IA generó parte del texto o del análisis de quién es la responsabilidad intelectual o el problema de la reproducibilidad. Si usas un algoritmo que es como una caja negra que no sabes bien cómo funciona por dentro. 4:16 ¿Cómo pueden otro verificar tus resultados y el tema de los sesgos que ya mencionamos? En salud, esto es gravísimo. Si los datos con los que entrenas la IA no representan bien a la población, puedes terminar amplificando desigualdades. Por eso es vital vital diferenciar. 4:33 Una cosa es que la IA te asista, otra es que sea coautora, siempre supervisión humana experta y declarar siempre de forma explícita. ¿Cómo se usó la IA en las publicaciones? El protocolo que sugiere el documento va por. 4:47 Participante 1 Ahí entiendo. Entonces para que todo esto funcione bien. ¿No basta con buenas intenciones, verdad? Se necesita una estrategia institucional clara, lineamientos, formación para todos, esto que llaman alfabetización digital, crítica, monitorear como va la cosa y dar apoyo tanto técnico como ético. 5:07 Participante 2 Exacto. ¿En el fondo, se trata de construir una cultura, una cultura del uso responsable de la ya no es sólo traer la tecnología y ya es integrarla con que? ¿Con discernimiento ético con juicio profesional y el documento ayuda en eso, eh? 5:23 Incluye anexos prácticos, una guía para estudiantes sobre uso ético, un formato para declarar el uso de IA es bastante concreto. 5:31 Participante 1 En resumen entonces, integrar la IA en campos como salud y educación exige un enfoque, pues proactivo, no muy reflexivo y siempre con la ética por delante. Es como una invitación a pensar juntos como comunidad, como esta herramienta puede servirnos para una mejor formación y una investigación que de verdad importe. 5:53 Participante 2 Sí. Y, que era una pregunta flotando que es clave para esto de humanizar la inteligencia. Más allá de las guías de los. Cómo hacemos en el día a día en las aulas, en los laboratorios para que haya un diálogo constante, un diálogo que asegure que la IA potencie de verdad nuestro juicio, nuestra empatía, el cuidado en lugar de debilitarlos. 6:18 Ese es el gran desafío, me parece. El desafío de.